自動運転の課題対策(8)
ロボット三原則に従う自動運転車はトロッコ問題に際し、どのように振る舞うか考えてみよう。ドライバが乗っていない場合、直進が歩行者、レーンチェンジが障害物の状況では、第1条に従ってレーンチェンジし自損事故を起こすはずである。
直進が5人、レーンチェンジが1人なら、レーンチェンジして被害人数を最小限にしようとするはずである。しかし、第1条には反するため、ロボット三原則だけでは不足することがわかる。
さらに、ドライバが登場している状況で、直進が1人、レーンチェンジで障害物なら、どうするだろうか。直進すれば第1条に反し、レーンチェンジでもドライバに危害を加えるため第1条に反する。ドライバが直進を命じても第1条に反するが、レーンチェンジしても第1条に反するため判断することができない。やはり、ロボット三原則だけでは不十分なのである。倫理観に従って判断するよう、新たなルールが必要となる。
そのため、米国電気電子学会IEEEでは、道徳的配慮設計イニシアテイプガイドライン(Ethically Aligned Design)を設定している。これは現在も実務家や研究者の意見を取り込みながら改定が進んでいる。
| 固定リンク
コメント