まずは、以下の画像をご覧いただきたい。
このランダムノイズのような画像を、手書きの数字(0~9)を99.8%の精度で認識できる人工知能(この場合はディープニューラルネット)に入力すると、なんと人工知能はほぼ100%の自信度で「1」と判別してしまう。
この画像は、特定のニューラルネットを「だます」目的で、AI技術開発のカラフル・ボードが作成したものだ。学習済みのニューラルネットに画像を入力し、その出力結果が「1」に近づくよう、画像に繰り返しフィードバックを与えたものである。
同社CEOの渡辺祐樹氏は「なぜニューラルネットがこのランダムな画像を『1』と認識するのか、ニューラルネットの挙動から解析することは困難」と語る。一般的なプログラムコードと異なり、ニューラルネットは大量のパラメータから構成され、人間にとって可読性の低いブラックボックスだからだ。
人工知能の判断誤りが事故を生む
人工知能は、往々にしてだまされ、勘違いし、間違った判断を下してしまう。そのことを最も残念な形で示したのが、米テスラモーターズの電気自動車「Model S」で2016年5月7日に発生した死亡事故だろう。
テスラのブログによれば、Model Sのドライバーは自動運転機能「Autopilot」を有効にした状態で、高速道路を走行していた。
そこへ、反対車線から側道に向け、トレーラーが行く手を塞ぐように左折した。米国で運転経験がある方なら分かると思うが、料金所のない米国の高速道路では、側道からクルマが自由に進入・退出できるケースが往々にしてある。
このトレーラーの車体は白。背景の空も、輝く日光のためほぼ白色だった。光学式カメラを使ったAutopilotの車両認識システムは、このトレーラーの存在を認識できなかった。
Model SのAutopilotでは、光学式カメラに加え、ミリ波レーダーでも車両を検知できる。だが、テスラのイーロン・マスクCEOのツイートによれば、Autopilotはミリ波レーダーの情報から、トレーラーの車体を「高速道路上の道路標識」と勘違いしたという。
トレーラーは、一般的な車両よりも車高が高い。このためレーダーの電磁波がトレーラーの車体の下をすり抜け、「上方に標識はあるが、前方には障害物なし」と誤認した可能性がある。この結果、Model Sはフロントガラス部がトレーラーと衝突し、車体はトレーラーの下を突き抜けた。
テスラのAutopilotは、NHTSA(米国家道路交通安全局)の基準では、ブレーキや操舵などいくつかの運転行動を自動化した「レベル2(複合機能の自動化)」であり、運転を人工知能に委ねることができる「レベル4(完全な自動運転)」ではない。テスラはAutopilotについて「運転支援の機能であり、ユーザーは常にステアリングに手を置き、いつでも運転を代われるようにする必要がある」と警告している。
だが、仮にドライバーがNHTSAのレベルやテスラの警告を完璧に理解していたとしても、今回の事件を防げたかどうか、疑問が残る。
今回の事故で亡くなったドライバーは、Model SのAutopilotの特性を試した数十件の映像をYouTubeに投稿していた。
ある投稿映像では、路面の模様がAutopilotを混乱させ、うまく走行できなくなるケースを実運転で示し、他のドライバーに注意を促していた。このドライバーは、Autopilotがパブリックβサービスである点も、レベル2の自動化であることも、はっきり認識していた可能性が高い。
ただ、運転をAIに委ねることの成功体験が積み重なれば、ドライバーが無意識下でAIへの信頼、あるいはAIへの「依存」を深めていったとしても、不思議ではない。こうした無意識の依存がドライバーから注意力を失わせたとすれば、それは「ドライバーへの注意喚起」や「ステアリングに手を置いているかの検知」だけで解決できる問題ではないだろう。
テスラのイーロン・マスクCEOは、2018年までにレベル4、つまり完全な自動運転を可能にするとしている。テスラが世界中のAutopilotユーザーから収集している走行データは、この機能をレベル3、レベル4へのステップアップさせる上で大いに役立つことだろう。この開発戦略が倫理的に正しいか、という議論を無視すればの話だが。
人間とAIを中途半端に共存させない
こうしたテスラの開発方針と対照的なのが、トヨタ自動車が2016年1月に設立した人工知能技術の研究開発子会社、米トヨタ・リサーチ・インスティテュート(TRI)である。2016年6月下旬(テスラの上記事故を公表する前)に実施されたギル・プラットCEOへのグループインタビューをもとに、その違いを明らかにしたい。
ギル氏は現在、クルマの自動運転技術について、二つの方向性を模索している。一つは、事故が起こりそうなときに限って発動し、自動的に回避行動をとるもので、自動ブレーキの発展系といえるものだ。ギル氏はこの機能を「守護天使」と表現する。