米SAS InstituteがAI（人工知能）の活用を加速させている。日本でも銀行や証券会社などの金融機関向けにAIで不正取引を検知したり、金融商品別の購買動向を予測したりするサービスを提供している。データ分析ソフトの老舗であるSASでCOO（最高執行責任者）とCTO（最高技術責任者）を兼務するオリバー・シャーベンバーガー氏は「AIが再び、冬の時代を迎えるのは何としてでも避けなければならない」と、昨今の行き過ぎたAIブームに警鐘を鳴らした。
ここ数年のAIブームをどう見ているか。
AIが盛り上がるのは良いことだが、注意すべき点がある。熱が高まりすぎると、大切な部分を見落としてしまうことだ。
我々は過去にAIの「冬の時代」を経験している。当時は過度な期待が独り歩きして、それを満たせず、失望感だけが残った。誰もAIのことを口にしなくなり、資金調達もできなくなり、AIは一部の専門家だけのシステムになってしまった。
私はAIが再び冬の時代を迎えるのを、何としてでも避けたいと考えている。だからこそ、あえてAIの限界や負の側面まで踏み込んで話し、世間の熱をいったん冷ましている状況だ。
AIは分析プロセスがブラックボックスになりがちという指摘は根強い。
AIのなかでも、特にニューラルネットワークは中身がブラックボックスだといわれている。しかもその黒さは日々、濃くなっていると感じる。最近では、計算に必要なパラメーターの数が660億に達するものがあったと聞いた。
企業が重要な意思決定をするためには、説明可能なモデルが求められる。モデルが大きく複雑になるほど、なぜその答えが出てきたのか、それは正しいのか、正しくないとしたらなぜなのかといったことが重要になる。
計算速度が上がれば上がるほど、AIによる補正（バイアス）がかかっているのではないかという懸念が生まれる。大切なのは、学習モデルのライフサイクルを考えることだ。同じモデルを使い続けていると、構築したときに決めた特性が時間の経過に伴って変わってしまっている可能性がある。そうした変化を観察し、モデルの挙動が正しいのか、常に問い続けないといけない。