Facebookのアルゴリズムが、偽記事を「トレンディングトピックス」に長時間にわたって掲載し続けたできごとは、いろいろな意味で示唆に富んでいる。
トレンディングトピックスは英語版のFacebookに実装されている機能で、画面右上の小さなコーナにFacebookのユーザーらが話題にしているトピックをランキング順に数本、見出しと共に掲載する。
2016年8月末、ここにでたらめな内容の記事が掲載されて、ランキングのトップを飾っていた。共和党に傾倒していることが知られるテレビ局「Fox News」の女性アンカーが、実は隠れヒラリー支持者で、それがバレて同局を首になったという内容だ。
実は、Facebookは同じ8月にこのトレンディングトピックスを担当する編集者ら約20人をクビにしていた。編集者はそれまで掲載されるトピックを監視したり、ちょっとした見出しをつけたりするために働いていた。その役割は今後アルゴリズムに任せるという決定が下されて、ポストを奪われたのだった。
偽記事はその数日後に浮上し、トレンディングトピックスに表示され続けた。これが偽記事であることを判断する人間がいなかったので、少なくとも8時間にわたってトップに居座り続けたという。
問題なのはアルゴリズムのレベルが公開するレベルにほど遠かったにも関わらず、Facebookがこのアルゴリズムに仕事を任せてしまったことだ。アルゴリズムはユーザーによるテストでも不評をかっていたが、未熟なままに公開してしまった。今やニュースの流通において大きな影響力を持つ同社としては、不用意なことである。
中立性への批判で人間の編集者を排除？
この事件には前哨戦がある。同社は2016年5月、このトレンディングトピックスの編集チームが民主党寄りだとして批判を受けていた。編集チームのほとんどが民主党支持者のため中立性を欠いていると非難されたのだ。人間不在の編集チームを目指したのも、コンピュータによる中立性を強調しようと急いだからだろう。
教訓のひとつはもちろん、Facebookのアルゴリズムをもってしても、まだまだ人間の判断力には及ばないというものだ。だが、そのアルゴリズムも徐々に改良されていくことは間違いない。より大きな問題は立派に機能するアルゴリムズが出てきた時に、どうすればいいのか、ではないだろうか。
例えば、そもそも中立性や正確さを保つために、アルゴリムズにはどんなことを教え込んでいるかを知りたいと思うようになるだろう。アルゴリズムとは言え、元になっているのは人間による入力だ。その中立とか正確さの基準や判断方法は何かを明らかにする必要が出てくるだろう。
