ニコロビンプレゼンツ茂木健一郎さんからのメッセージ『
テスラが自動運転モード中に初の死亡事故をおこした。５月に起こった事故が今報じられるということは、自動運転中だったという事実を確認することなどに時間がかかったのだろう。
もし、人の運転と人工知能による自動運転の安全性を比較しようとしたら、走行距離あたりの事故率を統計的に計算しなければならない。しかし、人間は、自動運転には、さらに高い安全性を求めるようだ。
極論を言えば、コンピュータが間違いをすること（脆弱性）が一切許せない。今回のテスラの事故も、完全であるはずの自動運転に思わぬ脆弱性があった、ということで、それは許容できない、という意見が多いように思う。
自動運転の脆弱性が許容できない第一の理由は、信頼してなんのアクションもとらないでいる、という不作為の根底が覆るからだろう。自分によるコントロールを放棄しているという前提が崩れる。安心して乗っていられないのならば、そもそも、自動運転はゼロにすべきだという感覚が強い。
また、自動運転に脆弱性がある中で、人命にかかわる欠陥をもったメーカー側の態度の是非についても、倫理的非難があつまる可能性がある。完全な製品をつくれないのならば、そもそも市場に出すな、という考え方もある。
人工知能やＯＳなどのシステムに「完全」も「完全性の証明」もない。だから、市場に出して、ビッグデータを集め、テストしながら改善していくしかないが、人命がかかわる自動運転でそれをすることの是非、難しさが、今回の事故で明らかになったように思う。』
