倫理課題の次は、手動運転と自動運転の混在課題について考えてみよう。手動運転と自動運転が混在すると何が問題なのだろうか。
通常の運転時、他交通に対してどのようにコミュニケーションを取っているだろうか。交差点の右左折やレーンチェンジ時のウインカー、追越したいときのパッシング、サンキューハザード、ホーン等が思い浮かぶ。
これらは自動運転車も実施するし、特に問題はない。ところが、車のウインカー、ハザード、パッシング、ホーンを使わないコミュニケーションが課題になるのである。すなわち、ドライバーが身振りや表情で他交通に示していたものを、自動運転車がどのように示すことができるかなのである。レベル５の自動運転車にはドライバがいない。もしかすると、自動運転車のウインドは全てスモークがかかり室内が外から見えないようにしているかも知れない。このような状態では、道路を横断したい歩行者の手前で自動運転車が徐行し始めた時、それは歩行者に渡れといいたいのか、何らかの理由で速度を下げただけなのかわからないではないだろうか。
相互結合ニューラルネットワークの学習は、トロッコ問題のような極限の状況だけで行われるのではなく、通常の使用時から学習すべきと思われる。したがって、通常の自車の交通ルールの順守の状況から、他交通の走行状況まで認識し、通常走行している環境の状況も相互結合ニューラルネットワークのパラメータ学習に用いる。
レベル５の自動運転車は、ドライバが操縦することを前提にしていないためステアリングやペダルがない。これは、ドライバの通常の運転時の倫理観を学習することができないということである。
そのため、いきなりレベル５にするのではなく、レベル１のドライバが積極的に操縦するところから始め、レベル１の使用状況で通常の運転時の倫理観を学習し、徐々に自動運転レベルをあげて行くと良いのではないだろうか。もちろん、レベル５固定の自動運転車は、それまで開発したときに学習した値を継承するという考え方もある。しかし、倫理観は利用者や利用地域で微妙に異なってくるため、常に学習できるような仕組みを備えている方が良いだろう。
以上のことから、ドライバが操縦しないレベルの自動運転車は、通常使用時に乗員の倫理観上の満足度をモニタリングできる仕組みが必要ではないかと思う。これは、乗員の生理指標の変化を非接触で検知するシステムが必要になるということである。
倫理観を表現する相互結合ニューラルネットワークを考えることができそうである。各ユニットやリンクの重みの初期値や定数は、実験的にデータを収集しなければならない。
実験方法は、典型的な倫理観を持つ方に協力してもらって、ドライビングシミュレータでの走行データを収集するのがよいだろう。ドライビングシミュレータ上でトロッコ問題を発生させ、直進かレーンチェンジの判断をしてもらうやり方だ。
ブレーキが故障した状態で手動運転したときの判断と、自動運転車の判断に違和感を感じるかどうかの２通りのパターンで実験するとよいだろう。また、ドライビングシミュレータ実験とは独立して、モラル・マシーンのように状況判断だけのアンケートも取り、それがドライビングシミュレータの結果と同傾向かどうかのチェックも必要だろう。なぜなら、実際の状況ではじっくり考える時間がないため、即時の判断と熟考した判断の差の有り無しも重要なデータになるからである。
重みwの変化は、ヘッブの法則に従わせると、次式のように表すことができる。
dw/dt = -β(w-yA･yB)
すなわち、重み w の時間に関する微分方程式となり、ここでβは変化の度合いを表す正の定数である。この式の意味するところは、重みwの単位時間あたりの変化が、w とユニットAとユニットBの出力の積 yA･yB の差分に比例し、比例定数がβということになる。したがって、重み w の極限値は yA･yB となる。
この式の一般解は次式となる。
w = Ke^(-βt) + yA･yB
e は自然対数の底であり、K は t=0 における w の初期値と yA･yB によって決まる値である。この式の第一項 Ke^(-βt) は、時間の経過と共に0に近づくため、w の極限値がやはり yA･yB になることを表している。
ユニットは９個あって、すべてのユニットが相互に繋がれている。しかし、２個のユニットに着目すれば、それらは双安定ニューラルネットワークとみなすことができる。
例えば、性別ユニットと年齢ユニットが互いに牽制し合うことになる。各ユニットが興奮状態か抑制状態かは、地域や国によって決める。
これに加え、リンクの重みはヘッブの法則によって時間の経過と共に変化する。よって、９個のユニットが相互結合するネットワークは単に２５６通りの状態を取るという意味ではなく、重みが安定化するまで無数の状態を取り、最終的に２５６通りの安定状態があるという意味になる。
各ユニットへの入力は様々である。そのため、２５６通りの安定状態に対応する状態はそれ以上あるということになる。
直進かレーンチェンジかという二者択一には、双安定ニューラルネットワークが適用できそうである。しかし、最終的に二者択一するまに、人間か動物かとか、老人か子供かとかの二者択一問題を経ることになる。
したがって、双安定ニューラルネットワーク一つだけではなく、パラメータ数に応じたユニットが相互に接続する相互結合ニューラルネットワークでの倫理観の実現を考える。モラル・マシーンの調査結果では、直進かレーンチェンジかを決定するパラメータは９種類だった。
９種類のパラメータに対応した９個のユニットが、それぞれ相互に双方向で結合している相互結合ニューラルネットワークでは、それぞれのユニットは他のユニットからの８つの入力と８つの出力があることになる。これに加えて、それぞれのユニットへの外部入力がある。ユニットは入力に応じて興奮状態か抑制状態になる。したがって、ネットワーク全体では2^8=256種類の動作状態がある。
相互結合ニューラルネットワークの整合度は、N個のユニットのi番目のユニットの出力をyiとし、i番目のユニットからj番目のユニットへのリンクの重みをwjiとして次式で表す。
C = (ΣΣwji･yi･yj)/N(N-1)
リンクの重みwは、実際の生物のニューロンではシナプスの結合強度に相当する。シナプスとは、ニューロン間の接続部であり、その結合強度は変化することが実験で確かめられている。
シナプスの結合強度が変化することを、発見した心理学者ドナルド・ヘッブにちなんでヘッブの法則という。ヘッブの法則によると、ニューロンの繰り返し発火によってシナプスの結合強度はは増強され、逆に、発火が長期間起こらないとシナプスの結合強度は減退される。
ヘッブの法則を拡張して、結合している二つのユニットが興奮状態か抑制状態の同じ状態であると重みは増え、片方が興奮状態で他方が抑制状態であると重みは減るということがよく用いられる。これを適用し、双安定ニューラルネットワークでは、片側が興奮状態で他方が抑制状態のためリンクの重みwを負とした。また、ヘッブの法則より、重みwは時間tで変化する変数であるといえる。重みの変化がなくなって安定したとき、ユニット間は整合性がとれた状態と見なす。
ユニットAの出力をyA、ユニットBの出力をyBとすると、整合度Cは次式で表すことができる。
C = w･yA･yB
各ユニットに、相互結合の入出力以外からの入力があった場合を考えよう。ユニットは、入力の総和があるしきい値を超えると発火し、抑制状態から興奮状態に移行する。
ユニットAが抑制状態、ユニットBが興奮状態とする。ユニットAに外部から正の入力があると発火し、抑制状態から興奮状態に移行する。
ユニットAが興奮状態になると、ユニットBへの入力は負となり、ユニットBは興奮状態から抑制状態に移行する。つまり、一方のユニットの状態が変わると、もう一方の状態も変わることになる。この状態は、二つのユニットが同時に状態を変えたことになり、それぞれの興奮状態と抑制状態が入れ替わることを意味する。
これをトロッコ問題に適用すると、ユニットAが直進、ユニットBがレーンチェンジに対応させ、諸条件が各ユニットへの外部入力となる。双安定ニューラルネットワークは最終判断のアルゴリズムとして適用できる可能性がある。
ユニットの状態は、興奮状態か抑制状態のどちらかの状態をとる。ここでは、興奮状態で1を出力し、抑制状態で-1を出力するとしよう。
トロッコ問題は一種の二者択一問題なので、二者択一的に振る舞うニューラルネットワークをみてみよう。これは二つのユニットが互いに入出力を行う双安定ニューラルネットワークで実現可能である。
二つのユニットはどちらも入出力するので、二本のリンクで繋がれた形となる。双安定ニューラルネットワークでは、それぞれのユニットは互いの入出力以外の外部からの入力も可能である。二本のリンクの重みwは二つともw<0とする。いま、ユニットAが興奮状態で、ユニットBが抑制状態とすると、ユニットAの出力は1となり、重みwが負のためユニットBへの入力は負の値となる。また、ユニットBの出力は-1となり、重みwが負のためユニットAへの入力は正の値となる。従って、ユニットAの興奮状態とユニットBの抑制状態は維持されることになる。
次に、ユニットAが抑制状態で、ユニットBが興奮状態としよう。すると、先程と逆の状態となり、ユニットAの抑制状態とユニットBの興奮状態が維持されるのである。
以上の条件を満足し、学習も可能なプログラムの開発は、理論が明確なニューラルネットワークを使うとよいかも知れない。今一度、ニューラルネットワークを復習しよう。
ニューラルネットのモデルは、ニューロンをユニットとリンクで表現すると、ユニットAの出力yとユニットBの入力xを、ユニット間を繋ぐリンクの重みをwとして、xとyの関係は次式で表せる。
x=wy
複数のユニットAiがユニットBに接続されている状態では、xとyiの関係は各リンクの重みをwiとして、
x=Σwiyi
となる。このようにxの状態は、重みと出力によって決定される。よって、ユニットBへの入力は、リンクAの出力だけでなく、重みの状態によって変化することがわかる。
最近のコメント