自動運転の課題対策（８）

　ロボット三原則に従う自動運転車はトロッコ問題に際し、どのように振る舞うか考えてみよう。ドライバが乗っていない場合、直進が歩行者、レーンチェンジが障害物の状況では、第１条に従ってレーンチェンジし自損事故を起こすはずである。

　直進が５人、レーンチェンジが１人なら、レーンチェンジして被害人数を最小限にしようとするはずである。しかし、第１条には反するため、ロボット三原則だけでは不足することがわかる。

　さらに、ドライバが登場している状況で、直進が１人、レーンチェンジで障害物なら、どうするだろうか。直進すれば第１条に反し、レーンチェンジでもドライバに危害を加えるため第１条に反する。ドライバが直進を命じても第１条に反するが、レーンチェンジしても第１条に反するため判断することができない。やはり、ロボット三原則だけでは不十分なのである。倫理観に従って判断するよう、新たなルールが必要となる。

　そのため、米国電気電子学会IEEEでは、道徳的配慮設計イニシアテイプガイドライン（Ethically Aligned Design）を設定している。これは現在も実務家や研究者の意見を取り込みながら改定が進んでいる。