« 2020年8月 | トップページ | 2020年10月 »

2020年9月30日 (水)

自動運転の課題対策(30)

 自動運転車の室内での乗員とのコミュニケーション方法は、音声認識による口頭での方法を基本として、乗員の表情読み取り、ジェスチャー指示、文字読み取り、スマホによる指示受入れ等がなければならない。さらに、ディスプレイとスイッチを装備し、手動運転の自動車のような操作手段も必要である。

 自動運転車の室内は、レベル5でステアリングやペダルが不要であっても、やはりステアリングやペダルの付いたままの状態になるのではないだろうか。なぜなら、その自動運転車を手動で動かさないといけないことがあると思われるからである。

 ステアリングやペダルは自動運転時には格納されるようになるかも知れない。しかし、運転中の安全性から、乗員はこれまでの手動運転車と同様なシートに同様な姿勢で乗らなければならない。そして、従来同様に安全情報を提示しなければならないので、従来同様の表示機や操作スイッチがあることになる。行先の指示方法は、従来のカーナビゲーション操作そのままでも良いだろう。

 以上のことから、レベル5の自動運転車の室内装備は、従来の自動車を基本とし、乗員とのコミュニケーションツールが追加されたものになると思われる。

 

| | コメント (0)

2020年9月29日 (火)

自動運転の課題対策(29)

 ドライバのいないレベル5の自動運転車に乗り込んだ乗員は、どのように行先を伝えるのだろうか。行先が決まっている定期運航バスなら問題ないだろう。

 自動運転バスで定期運航なら、ただ乗り込み、降りたい停車場が近づいたらこれまでと同様降車ボタンを押す仕組みで良いだろう。ところが、自動運転タクシーならどうだろうか。

 スマホで予め乗車場所と降車場所を入力して申し込むようなシステムでは、スマホを使って認識すればよく、タクシーに乗り込むだけでよい。しかし、まったく自動運転車とコミュニケーションを取らなくてもよいわけではない。暑かったり寒かったりして、乗員用の空調スイッチがなければ、自動運転車に温度変更の希望を告げればよいというようなシステムが必要である。また、行先が急変したり、何らかの事情で途中下車するためにもコミュニケーション手段が必要である。

 自動運転車に乗り込んだ乗員と自動運転車とのコミュニケーションは、音声でのやり取りが思いつく。ただし、全ての人とコミュニケーションを取るためには音声だけでは不十分である。

 

| | コメント (0)

2020年9月28日 (月)

自動運転の課題対策(28)

 自動運転車と歩行者のコミュニケーション方法がメッセージ表示機や、路面へのプロジェクションで研究開発されている。これらは非言語コミュニケーションを具体化する方法として実用的なものだろう。

 一方、直接、自動運転車と歩行者がコミュニケーションする手段として、自動運転車と歩行者が会話できるシステムは考えられないだろうか。音声認識の精度が向上し、スマホ等で実用化していることを考えれば不可能ではないだろう。

 歩行者と自動運転車が会話するシステムの発表が見当たらないのは、通常でも歩行者とドライバが会話することが少ないことに起因するかも知れない。歩行者とドライバが会話するのは、ドライバが道を尋ねるときか知り合いを見つけたときぐらいだろう。自動運転車は基本的に道に迷うことはないので、歩行者に積極的に話しかけるニーズは少ないものと思われる。そのため、自動運転車と歩行者のコミュニケーション手段は、通常行われるアイコンタクトやジェスチャーに代わるものが考えられるのだろう。

 ところで、ドライバや乗員と自動運転車がコミュニケーションを取る必要はないだろうか。

 

| | コメント (0)

2020年9月27日 (日)

自動運転の課題対策(27)

 路面にマークを描くのは、マレリ社のデジタルライトプロセッシングユニットが初めてではない。2015年に発表されたメルセデスベンツのコンセプトカーF015で発表されたのが記憶に新しい。

 F015はレベル5の完全自動運転車で、ラグジュアリー・イン・モーションというキャッチフレーズが付されていた。操縦する必要がないため、前席が後方に回転シートして後席と対面できるインテリアを実現した様子を表現するフレーズである。

 F015は歩行者とコミュニケーションするため、車体の前後にLEDマトリクスの表示機を装着しメッセージを表示した。そして、歩行者がいる場合は道路に可視光レーザーで横断歩道を示すゼブラゾーンを描画し、歩行者に歩行を促すことができた。そのとき歩行者が手を振れば、そのジェスチャーを理解してテキストを描画し歩行者とコミュニケーションを図る仕様だったのである。

 メルセデスベンツは、社会心理学者を雇って、この歩行者とコミュニケーションするシステムを研究開発したそうだ。

 

| | コメント (0)

2020年9月26日 (土)

自動運転の課題対策(26)

 マレリ車は、ヘッドランプの配光を制御して路面にマークを投影するシステムを研究開発している。これは、デジタルライトプロセッシングユニットと名付けられている。

 このヘッドランプは、走行状況に合わせ配光をきめこまかく制御するだけでなく、ドライバーに注意を促すためのマークを路面に投影することができる。

 配光をきめこまかく制御するため、3個のLEDの投光を130万個のマイクロミラーで構成し、マイクロミラーの角度を細かく制御して配光パターンを作り出している。配光がきめこまかいため、従来のヘッドランプよりも対向車や歩行者がまぶしく感じることが最小限に抑えられている。もちろん外界認識センサーにより、他車両や歩行者を検知し、ナビゲーション情報と自車位置から可能な限り最適な配光に調整する。そして、道路の幅員が狭くなる場所でガイドラインを示したり、歩行者の方向を示すマークも表示する。

 夜間に限られるかも知れないが、路面に投影されたマークは歩行者も認識可能であると思われる。すると、デジタルライトプロセッシングユニットは、車両と歩行者の新たなコミュニケーションツールになる可能性があるのではないだろうか。

 

| | コメント (0)

2020年9月25日 (金)

自動運転の課題対策(25)

 メルセデスベンツが勧めている自動運転車と歩行者のコミュニケーション方法を紹介しよう。これは、コーポレィティブカーと呼ばれるコンセプト車両で開発中の、接近する歩行者に対して自動運転中であることを示す灯火器である。

 車両のルーフに配置したライトが自動運転車であることを知らせ、ランプの点灯方法により車両の動きを表示する。360°どこからでも確認できるように配置し、フロントガラス、フロントグリル、ヘッドランプ、ミラー、サイドウインドー下部などに配置されたライトが自律運転の走行モードを知らせ、ルーフに置かれたランプが車両の動き(遅い点滅は減速状態、早い点滅は歩行者に近づいている等)を示す。

 これらは車両自身の意志を表現することを意味し、歩行者とのコミュニケーションが取れるとメルセデスは表明している。ルーフ上のランプは、各色を検討して歩行者に安心感を与える色としてターコイズブルー色を発する。赤色や黄色の点滅等では警告灯のように歩行者に不安を与え、自動運転の普及の阻害要因になるかも知れないので、安心感を与える色というのはよく考えられた選択といえる。

 

| | コメント (0)

2020年9月24日 (木)

自動運転の課題対策(24)

 手動運転車と歩行者のコミュニケーションは、アイコンタクトやジェスチャーで行っている。このような非言語コミュニケーションの方が、メッセージより早く確実に伝わる。

 同様のことを自動運転車に行わせるには、どのようなシステムを考えればよいだろうか。外部に向けたディスプレイは、テキスト用ではなくピクトグラムや擬人化した絵がわかりやすく伝わる大型のものが必要かも知れない。

 あるいは、かつて大型トラックに装着されていた速度表示灯のように、いくつかの灯火器を360°かつ遠方から見えるよう車両ルーフに設定し、自動運転の状態によって点灯するパターンを変えることも考えられる。これは世界中で標準化したり法規化することが必要なものの、言語の壁もなく、また子供にも理解できる。

 実はメルセデスベンツ社が、実際に自動運転車と歩行者のコミュニケーション方法として、この灯火器方式を研究開発中である。

 

| | コメント (0)

2020年9月23日 (水)

自動運転の課題対策(23)

 歩行者や他車とウィンカーやパッシング以外でコミュニケーションを取る手段として、電光掲示板を車外に向けて装着することも考えられる。車載電光掲示板は、交通規制や工事案内等で公共の車両がよく利用している。

 また、公共車両だけではなく、市販でも電光掲示板が販売されており、「ありがとう」「お先にどうぞ」等のメッセージを表示したり、流れる文字にしたりしている。ただし、現行の道交法では灯火機以外の点灯は注意が必要で、走行中に点灯させると厳密には法規に違反することがある。

 安価なものでは、LEDをマトリクス状に配置し、ドット文字を選定していくつかのパターンを記憶させ、状況に応じてメッセージを表示することができる。これに速度表示灯の機能を付加し、あらゆる状況に応じたメッセージを用意すれば、自動運転車の外部とのコミュニケーションのツールになり得るように思われる。

 ただし、ウィンカーやパッシングに比べて、メッセージを読むため反応時間がかかることや、遠方からは識別できない問題もある。したがって、瞬時にわかるコミュニケーション手段が必要である。

 

| | コメント (0)

2020年9月22日 (火)

自動運転の課題対策(22)

 自動車と歩行者のコミュニケーションツールとまではいかなくても、自動車の状態を歩行者に知らせる仕組みとして、かつて大型トラックには速度表示灯が装着されていた。これは、トラックのウインドシールド上部に装着された3連のランプで、速度に応じてグリーンに灯るランプ数が変わるものだった。

 速度表示灯の点灯仕様は、停車時は全て消灯し、時速40km以下で一つ、時速40kmから60km以下で二つ、時速60km以上で3つが自動的に点灯するものである。歩行者は遠方から来るトラックの速度表示灯の点灯数を見て、トラックの速度を知ることができるのである。

 自動車と歩行者のコミュニケーションツールの原始的な姿として、有用なものだった。ところが、1999年、輸入障壁になるということで廃止された。速度表示灯は日本独自のものだったのである。自動車輸出入戦争の犠牲になったのだ。輸入車であっても、改造して速度表示灯を装着すれば認可は受けられたのだが、改造費用がかかるため輸入障壁とみなされたのである。また、免許証を持たない歩行者には、速度表示灯の意味や存在すら知らない者もいて、十分機能していなかったことも廃止の遠因となった。

 ドライバのいない自動運転車には、このような歩行者や他ドライバとのコミュニケーションツールが必要である。少なくとも、他交通から正しく認識されるため、自動運転車であることを示すものが必要ではないだろうか。

 

| | コメント (0)

2020年9月21日 (月)

自動運転の課題対策(21)

 倫理課題の次は、手動運転と自動運転の混在課題について考えてみよう。手動運転と自動運転が混在すると何が問題なのだろうか。

 通常の運転時、他交通に対してどのようにコミュニケーションを取っているだろうか。交差点の右左折やレーンチェンジ時のウインカー、追越したいときのパッシング、サンキューハザード、ホーン等が思い浮かぶ。

 これらは自動運転車も実施するし、特に問題はない。ところが、車のウインカー、ハザード、パッシング、ホーンを使わないコミュニケーションが課題になるのである。すなわち、ドライバーが身振りや表情で他交通に示していたものを、自動運転車がどのように示すことができるかなのである。レベル5の自動運転車にはドライバがいない。もしかすると、自動運転車のウインドは全てスモークがかかり室内が外から見えないようにしているかも知れない。このような状態では、道路を横断したい歩行者の手前で自動運転車が徐行し始めた時、それは歩行者に渡れといいたいのか、何らかの理由で速度を下げただけなのかわからないではないだろうか。

 

| | コメント (0)

2020年9月20日 (日)

自動運転の課題対策(20)

 相互結合ニューラルネットワークの学習は、トロッコ問題のような極限の状況だけで行われるのではなく、通常の使用時から学習すべきと思われる。したがって、通常の自車の交通ルールの順守の状況から、他交通の走行状況まで認識し、通常走行している環境の状況も相互結合ニューラルネットワークのパラメータ学習に用いる。

 レベル5の自動運転車は、ドライバが操縦することを前提にしていないためステアリングやペダルがない。これは、ドライバの通常の運転時の倫理観を学習することができないということである。

 そのため、いきなりレベル5にするのではなく、レベル1のドライバが積極的に操縦するところから始め、レベル1の使用状況で通常の運転時の倫理観を学習し、徐々に自動運転レベルをあげて行くと良いのではないだろうか。もちろん、レベル5固定の自動運転車は、それまで開発したときに学習した値を継承するという考え方もある。しかし、倫理観は利用者や利用地域で微妙に異なってくるため、常に学習できるような仕組みを備えている方が良いだろう。

 以上のことから、ドライバが操縦しないレベルの自動運転車は、通常使用時に乗員の倫理観上の満足度をモニタリングできる仕組みが必要ではないかと思う。これは、乗員の生理指標の変化を非接触で検知するシステムが必要になるということである。

 

| | コメント (0)

2020年9月19日 (土)

自動運転の課題対策(20)

 倫理観を表現する相互結合ニューラルネットワークを考えることができそうである。各ユニットやリンクの重みの初期値や定数は、実験的にデータを収集しなければならない。

 実験方法は、典型的な倫理観を持つ方に協力してもらって、ドライビングシミュレータでの走行データを収集するのがよいだろう。ドライビングシミュレータ上でトロッコ問題を発生させ、直進かレーンチェンジの判断をしてもらうやり方だ。

 ブレーキが故障した状態で手動運転したときの判断と、自動運転車の判断に違和感を感じるかどうかの2通りのパターンで実験するとよいだろう。また、ドライビングシミュレータ実験とは独立して、モラル・マシーンのように状況判断だけのアンケートも取り、それがドライビングシミュレータの結果と同傾向かどうかのチェックも必要だろう。なぜなら、実際の状況ではじっくり考える時間がないため、即時の判断と熟考した判断の差の有り無しも重要なデータになるからである。

 

| | コメント (0)

2020年9月18日 (金)

自動運転の課題対策(18)

 重みwの変化は、ヘッブの法則に従わせると、次式のように表すことができる。

dw/dt = -β(w-yA・yB)

 すなわち、重み w の時間に関する微分方程式となり、ここでβは変化の度合いを表す正の定数である。この式の意味するところは、重みwの単位時間あたりの変化が、w とユニットAとユニットBの出力の積 yA・yB の差分に比例し、比例定数がβということになる。したがって、重み w の極限値は yA・yB となる。

 この式の一般解は次式となる。

w = Ke^(-βt) + yA・yB

 e は自然対数の底であり、K は t=0 における w の初期値と yA・yB によって決まる値である。この式の第一項 Ke^(-βt) は、時間の経過と共に0に近づくため、w の極限値がやはり yA・yB になることを表している。

 

| | コメント (0)

2020年9月17日 (木)

自動運転の課題対策(17)

 ユニットは9個あって、すべてのユニットが相互に繋がれている。しかし、2個のユニットに着目すれば、それらは双安定ニューラルネットワークとみなすことができる。

 例えば、性別ユニットと年齢ユニットが互いに牽制し合うことになる。各ユニットが興奮状態か抑制状態かは、地域や国によって決める。

 これに加え、リンクの重みはヘッブの法則によって時間の経過と共に変化する。よって、9個のユニットが相互結合するネットワークは単に256通りの状態を取るという意味ではなく、重みが安定化するまで無数の状態を取り、最終的に256通りの安定状態があるという意味になる。

 各ユニットへの入力は様々である。そのため、256通りの安定状態に対応する状態はそれ以上あるということになる。

 

| | コメント (0)

2020年9月16日 (水)

自動運転の課題対策(16)

 直進かレーンチェンジかという二者択一には、双安定ニューラルネットワークが適用できそうである。しかし、最終的に二者択一するまに、人間か動物かとか、老人か子供かとかの二者択一問題を経ることになる。

 したがって、双安定ニューラルネットワーク一つだけではなく、パラメータ数に応じたユニットが相互に接続する相互結合ニューラルネットワークでの倫理観の実現を考える。モラル・マシーンの調査結果では、直進かレーンチェンジかを決定するパラメータは9種類だった。

 9種類のパラメータに対応した9個のユニットが、それぞれ相互に双方向で結合している相互結合ニューラルネットワークでは、それぞれのユニットは他のユニットからの8つの入力と8つの出力があることになる。これに加えて、それぞれのユニットへの外部入力がある。ユニットは入力に応じて興奮状態か抑制状態になる。したがって、ネットワーク全体では2^8=256種類の動作状態がある。

 相互結合ニューラルネットワークの整合度は、N個のユニットのi番目のユニットの出力をyiとし、i番目のユニットからj番目のユニットへのリンクの重みをwjiとして次式で表す。

C = (ΣΣwji・yi・yj)/N(N-1)

 

| | コメント (0)

2020年9月15日 (火)

自動運転の課題対策(15)

 リンクの重みwは、実際の生物のニューロンではシナプスの結合強度に相当する。シナプスとは、ニューロン間の接続部であり、その結合強度は変化することが実験で確かめられている。

 シナプスの結合強度が変化することを、発見した心理学者ドナルド・ヘッブにちなんでヘッブの法則という。ヘッブの法則によると、ニューロンの繰り返し発火によってシナプスの結合強度はは増強され、逆に、発火が長期間起こらないとシナプスの結合強度は減退される。

 ヘッブの法則を拡張して、結合している二つのユニットが興奮状態か抑制状態の同じ状態であると重みは増え、片方が興奮状態で他方が抑制状態であると重みは減るということがよく用いられる。これを適用し、双安定ニューラルネットワークでは、片側が興奮状態で他方が抑制状態のためリンクの重みwを負とした。また、ヘッブの法則より、重みwは時間tで変化する変数であるといえる。重みの変化がなくなって安定したとき、ユニット間は整合性がとれた状態と見なす。

 ユニットAの出力をyA、ユニットBの出力をyBとすると、整合度Cは次式で表すことができる。

C = w・yA・yB

 

| | コメント (0)

2020年9月14日 (月)

自動運転の課題対策(14)

 各ユニットに、相互結合の入出力以外からの入力があった場合を考えよう。ユニットは、入力の総和があるしきい値を超えると発火し、抑制状態から興奮状態に移行する。

 ユニットAが抑制状態、ユニットBが興奮状態とする。ユニットAに外部から正の入力があると発火し、抑制状態から興奮状態に移行する。

 ユニットAが興奮状態になると、ユニットBへの入力は負となり、ユニットBは興奮状態から抑制状態に移行する。つまり、一方のユニットの状態が変わると、もう一方の状態も変わることになる。この状態は、二つのユニットが同時に状態を変えたことになり、それぞれの興奮状態と抑制状態が入れ替わることを意味する。

 これをトロッコ問題に適用すると、ユニットAが直進、ユニットBがレーンチェンジに対応させ、諸条件が各ユニットへの外部入力となる。双安定ニューラルネットワークは最終判断のアルゴリズムとして適用できる可能性がある。

 

| | コメント (0)

2020年9月13日 (日)

自動運転の課題対策(13)

 ユニットの状態は、興奮状態か抑制状態のどちらかの状態をとる。ここでは、興奮状態で1を出力し、抑制状態で-1を出力するとしよう。

 トロッコ問題は一種の二者択一問題なので、二者択一的に振る舞うニューラルネットワークをみてみよう。これは二つのユニットが互いに入出力を行う双安定ニューラルネットワークで実現可能である。

 二つのユニットはどちらも入出力するので、二本のリンクで繋がれた形となる。双安定ニューラルネットワークでは、それぞれのユニットは互いの入出力以外の外部からの入力も可能である。二本のリンクの重みwは二つともw<0とする。いま、ユニットAが興奮状態で、ユニットBが抑制状態とすると、ユニットAの出力は1となり、重みwが負のためユニットBへの入力は負の値となる。また、ユニットBの出力は-1となり、重みwが負のためユニットAへの入力は正の値となる。従って、ユニットAの興奮状態とユニットBの抑制状態は維持されることになる。

 次に、ユニットAが抑制状態で、ユニットBが興奮状態としよう。すると、先程と逆の状態となり、ユニットAの抑制状態とユニットBの興奮状態が維持されるのである。

 

| | コメント (0)

2020年9月12日 (土)

自動運転の課題対策(12)

 以上の条件を満足し、学習も可能なプログラムの開発は、理論が明確なニューラルネットワークを使うとよいかも知れない。今一度、ニューラルネットワークを復習しよう。

 ニューラルネットのモデルは、ニューロンをユニットとリンクで表現すると、ユニットAの出力yとユニットBの入力xを、ユニット間を繋ぐリンクの重みをwとして、xとyの関係は次式で表せる。

x=wy

 複数のユニットAiがユニットBに接続されている状態では、xとyiの関係は各リンクの重みをwiとして、

x=Σwiyi

となる。このようにxの状態は、重みと出力によって決定される。よって、ユニットBへの入力は、リンクAの出力だけでなく、重みの状態によって変化することがわかる。

 

| | コメント (0)

2020年9月11日 (金)

自動運転の課題対策(11)

 IEEE道徳的配慮設計イニシアテイプガイドラインに沿って、自動運転に倫理観を反映させるプログラムを開発するため、まず、例えば次のようなことを前提にしてはどうかと思う。

1.人権を侵略しないため、自動運転車が無人の場合、自動運転車以外の命を優先
  (直進するとペット、レーンチェンジすると障害物があり自損の場合は自損を選択)
2.自動運転車の乗員がいる場合は、乗員の安全を優先
  (直進すると歩行者、レーンチェンジすると自損の場合、レーンチェンジをしないことになるが、この場合を想定して法規を事前に定めておく)
3.乗員以外に被害を与えてしまうときは、使用国・地域の倫理観に準じて判断

 これはあくまでも例えであって、内容は自分の嗜好や考えでもないし、参考文献があるわけでもない。プログラム開発の前提に、このような基本原則を置くという考え方である。

 すると、3の使用国・地域の倫理観に準じるところを、どのようなプログラムにすればよいかということになる。

 

| | コメント (0)

2020年9月10日 (木)

自動運転の課題対策(10)

 IEEE道徳的配慮設計イニシアテイプガイドラインでは、3大原則を実現するため、次の4つの検討すべき課題が設定されている。

1.人権原則フレーミング:A/ISが人権を侵略しないことをどのように確約できるか?
2.責任原則フレーミング:A/ISが説明責任を負うことをどのように確実にできるか?
3.透明性原則:A/ISの透明性をどのように確約できるか?
4.教育啓発原則フレーミング:A/IS技術の利益を最大化し誤使用リスクを最小化するにはどうしたらよいか?

 したがって、自動運転車の倫理観を実現するプログラム(システム)は、人権を侵略しないフレーミングで、判断結果のプロセスが事後に出力でき、事後に検証してもその時点のその地域で最も問題が少ないように開発されなければならないということになる。

 また、自動運転の開発チーム内では、次の3点が実装原則として優先すべきとしている。

1.A/ISが影響する各システムの規範と価値を同定する。
2.そのシステムの規範と価値をA/ISに実装する。
3.各システム、開発チーム内での人間とA/ISとの間の規範と価値の調整と並立可能性を評価する。

 

| | コメント (0)

2020年9月 9日 (水)

自動運転の課題対策(9)

 IEEE道徳的配慮設計イニシアテイプガイドラインでは、対象を人工知能AIと自律システムAS(Autonobous System)としている。自動運転はAIが搭載されるものの、ASということになるだろう。

 AIとASを総称してA/ISという。A/ISの大原則として、次の3点を挙げている。

1.普遍的な人間の価値:A/ISは、人権を尊重し人間の価値と調和し幸福を全体的に増大させ、われわれを守るように設計されれば、社会の中で善のための巨大な力となり得る。この価値観は技術者だけでなく政策立案者にも必要で、あるグループや単一国の利益のためでなく、すべての人に利益をもたらすべきである。

2.政治的決定とデータの取扱:A/ISは適切に設計および実装されている場合、文化に応じた政治的自由と民主主義をはぐくむ大きな可能性を秘めている。これらシステムは、政治の効率性を向上させるが、デジタルデータは、証明可能な形で保護されるべきである。

3.技術的依存性:A/ISは信頼できるサービスを提供すべきであり、信頼とはA/ISが人間主導の価値を向上させ設計された目的を確実に安全に積極的に達成することを意味する。技術は、運用が人間の価値観に合致し、権利を尊重する所定の倫理的目的を満たすことを監視すべきである。さらに、検証と検証のプロセスは、監査可能と認証性になるよう開発すべきである。

 

| | コメント (0)

2020年9月 8日 (火)

自動運転の課題対策(8)

 ロボット三原則に従う自動運転車はトロッコ問題に際し、どのように振る舞うか考えてみよう。ドライバが乗っていない場合、直進が歩行者、レーンチェンジが障害物の状況では、第1条に従ってレーンチェンジし自損事故を起こすはずである。

 直進が5人、レーンチェンジが1人なら、レーンチェンジして被害人数を最小限にしようとするはずである。しかし、第1条には反するため、ロボット三原則だけでは不足することがわかる。

 さらに、ドライバが登場している状況で、直進が1人、レーンチェンジで障害物なら、どうするだろうか。直進すれば第1条に反し、レーンチェンジでもドライバに危害を加えるため第1条に反する。ドライバが直進を命じても第1条に反するが、レーンチェンジしても第1条に反するため判断することができない。やはり、ロボット三原則だけでは不十分なのである。倫理観に従って判断するよう、新たなルールが必要となる。

 そのため、米国電気電子学会IEEEでは、道徳的配慮設計イニシアテイプガイドライン(Ethically Aligned Design)を設定している。これは現在も実務家や研究者の意見を取り込みながら改定が進んでいる。

 

| | コメント (0)

2020年9月 7日 (月)

自動運転の課題対策(7)

 プログラムの開発を進める前に、学会はどう考えているかみてみよう。まずは有名なロボット工学三原則。

 自動運転車は、センシングで得られた情報を元に自ら考えて行動する。すなわち、ロボットといってもよいものであるため、ロボット工学三原則を参照するのである。

 ロボット工学三原則は、SF作家のアイザック・アシモフが作品中で提唱したものである。1950年に刊行された「I, Robot」中で、2058年の「ロボット工学ハンドブック」第56版で次の様に記載されるとしている。

第1条:ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第2条:ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第3条:ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。

 ドライバがこのロボット三原則に従うロボットにおんぶしてもらって移動していると想定しよう。そのときトロッコ問題が生じたとき、ロボットはどう振る舞うだろうか。

 

| | コメント (0)

2020年9月 6日 (日)

自動運転の課題対策(6)

 それでは、自動運転の倫理観をどのようにプログラミングすれば良いかを考えてみよう。ドライバが明確な倫理観を持っており、自動運転の倫理観もそれに準ずるものとしよう。

 シンプルなものは、どちらを選ぶかというルールをプロダクション・ルールとして設定し、論理的に if-then-else で選択するものである。データベースとなるプロダクション・ルールを仕向地によって変更すれば、多様な仕様に対応できるだろう。

 ただし、この手法では、対峙する状況がすべてデータベースに組み込まれている必要がある。現実の状況は、明確にデータベースに当てはまらない曖昧ことや、想定外の状況が発生する。そのため、if-then-else では判断できない状況で、たちまち自動運転の意思決定は破綻してしまう。

 データベースに当てはまらなかったり想定外だったりする状況に対応するためには、自動運転車が現実の状況を学習する必要があると考えられる。すると、自動運転車は幅広い状況で判断できるようになると思われる。

 

| | コメント (0)

2020年9月 5日 (土)

自動運転の課題対策(5)

 自動車の仕様は、基本的に世界統一仕様である。自動運転になっても、この基本原理は変わらないはずだ。

 ところが、ドライバの倫理観は世界の国や地域で同じでないことがモラル・マシーンでの回答結果からわかった。世界各地で異なる倫理観に対応するよう、仕向け地によって仕様を変えても良いだろうか。

 仕様が変わる要因の一つに、使われる地域での交通インフラ状況が考えられる。例えば、自動車用レーンは対向1車線で、自動車レーンの隣には自転車専用レーンがある地域があるとしよう。そこでの自動運転は対向車との接触リスクを避けるため、対向レーンから少し離れ自転車専用レーンに少し近く走行するようにプログラムされたとする。こうすることによって、対向車と接触するリスクは減るものの、自転車と接触するリスクは増えることになる。するとこの地域では、統計的に自動運転車と自転車との接触事故が増えることになる。このように、自動運転の仕様を変えてしまうと、事故の種類が変わってしまうことになる。そのため、事故に関わるような自動運転の仕様は統一している方が良いのではないだろうか。

 倫理観については、倫理観そのものを統一はできないので、結論に至る過程を統一すれば良いのではないだろうか。すなわち、大原則を維持しつつ、各国各地域使用者の嗜好を同じ仕組みによって反映させるプログラムを研究開発するのである。

 

| | コメント (0)

2020年9月 4日 (金)

自動運転の課題対策(4)

 日本の傾向は、世界とは若干違っている。それは、助かる命の数を重視していないということである。すなわち、数よりも誰を助けるかということを重視する傾向にある。進路を変えない傾向も最も高い。

 また、搭乗員より歩行者を助ける傾向が世界で最も顕著である。ちなみに、この傾向の2位はノルウェー、3位はシンガポールで、逆に、中国は歩行者よりも搭乗員を助けようとする傾向がある。

 フランスは生存者の数を重視する傾向があり、高齢者より若年層を助ける傾向も強い。ところが、台湾、中国、韓国では、高齢者を助ける傾向が強い。これらの結果から、トロッコ問題の世界が納得する解は存在しないということがわかる。ただし、モラル・マシーンの回答者は、ほとんどが若い男性という特殊状況があり、全世代で調査すると結果が変わってくるかも知れない。

 自動運転車はトロッコ問題に際して、犠牲者数を最小に抑えるという公平は判断を組み込んだとしよう。そのとき、犠牲者に運転手も含まれるとすると、そんな自動運転車には諸君は乗りたいだろうか。

 

| | コメント (0)

2020年9月 3日 (木)

自動運転の課題対策(3)

 モラル・マシーンの質問に答えると、自分の選択と平均の選択の結果を示してくれる。僕の回答はほぼ平均値と近かったものの、質問によってはずれが目立つものもある。

 つまり、モラル・マシーンには正解はないのである。これまで世界中の4000万の方が質問に答えて回答の傾向は出ているものの、地域や文化によっては異なる傾向が出ているそうだ。

 選択のパラメータとなったものは、生存者と犠牲者の差、性別、年齢、人間か動物か、体型、社会的地位、搭乗者か歩行者か、交通規則を順守しているか、進路を変えるかどうかの9つである。これらパラメータの中で、回答者の国籍、年齢、宗教によらず共通の傾向は、動物よりは人間、少人数よりは多人数、高齢者よりは若者が優先という傾向が出ている。また、社会的地位と交通規則を遵守している方が優先される傾向もある。ところが、それ以外のパラメータでは統一的な傾向がなかったのである。

 ただし、地域別の傾向はあり、例えば所得格差の少ないフィンランドでは、搭乗者か歩行者かや社会的地位は判断要素にはなっていない。ところが、中南米ではホームレスや犯罪者は助けなくてよいという判断が多かった。

 

| | コメント (0)

2020年9月 2日 (水)

自動運転の課題対策(2)

 この問題に対し、マサチューセッツ工科大学(MIT)のメディアラボでは、モラル・マシーンというプロジェクトを起こしている。これは、モラル・マシーンのサイトにアクセスした方が、自動運転の各種トロッコ問題に対するアンケートに答え、人々の判断を収集するものである。日本語にも対応しているので、諸君も答えてみるとよい。

 モラル・マシーンでの質問は数多く準備されており、新しい状況を投稿することもできる。質問内容は、ブレーキが故障した自動運転車が2車線道路で直進かレーンチェンジするかで誰が被害を受けるかという想定で、直進かレーンチェンジかを下記状況で選ぶ。

・自動運転車に乗っているのは運転者だけで、直進すれば歩行者5人が死に、レーンチェンジすれば路上の障害物にぶつかって運転手一人が死ぬ。

・自動運転車に乗っているのは妊婦と3歳になったばかりの子どもで、5人だと思った歩行者は実は人間4人とイヌ1匹で4人のうち2人は犯罪者、1人は高齢者、1人はホームレスである。しかも、全員が赤信号を信号無視して横断しれいる。

 その他にも数々の設定がある。ここに挙げた質問だと、最初の設定ではレーンチェンジを選ぶかも知れないが、次の質問でレーンチェンジを選ぶ割合はどの程度だろうか。

| | コメント (0)

2020年9月 1日 (火)

自動運転の課題対策(1)

 今日から9月。新しいシリーズを開始する。

 新しいと言っても、レベル5の自動運転を実現するための課題に関するものである。レベル5を実現するための課題は、以前解説したように、センサ性能の不十分さの取扱、テイクオーバー、手動運転と自動運転の混在、責任問題、そして倫理課題の5つである。新シリーズでは、これら5つの課題を具体的にどう対処すれば良いかを考え、新テーマの創出にも挑戦したい。始める順番は挙げた順とは逆に倫理課題から。

 自動運転の倫理で課題になるのは、トロッコ問題を自動運転に当てはめた場合である。すなわち、自動運転車のブレーキが故障し急に止まれなくなった状況で、前方に歩行者グループがいる場合である。自動運転車の対応は、歩行者グループとの接触を避けるため路側にハンドルを切って路側帯と衝突するか、このまま走行して歩行者グループに突っ込むかのどちらしかないとする。この究極の状況で、自動運転がどちらを選ぶようにプログラムすれば良いかということである。

 この問題は、開発者の好みで決めて良いものではない。好みではなく、何に基づいて決めれば良いのだろうか。

 

| | コメント (0)

« 2020年8月 | トップページ | 2020年10月 »