米Facebookや米Alphabet傘下のYouTubeなどのネットサービス大手は、過激派のコンテンツを自動で削除するシステムの導入をひそかに始めていると複数の米メディア(The VergeCNETなど)が現地時間2016年6月26日までに英Reutersの報道を引用して伝えた。

 それによると、この技術はもともと著作権侵害の動画をサイトから取り除くことを目的に開発されたもの。コンテンツのハッシュ値を確認し、データベースに登録してある、殺害シーンや暴力の誘発を説く動画といった禁止コンテンツと照合する。これにより、すでに確認されている禁止コンテンツが再び投稿された場合は自動で発見、削除できる。一方でデータベースに登録していないものは自動削除できない問題があるという。

 Reutersによると、これに先立つ今年4月、YouTubeやFacebook、米Twitter、米CloudFlareなどは、過激派組織「イスラム国」(IS)などの動画に対処するための会合を開き、コンテンツ遮断システムについて協議した。会合では、非営利団体「Counter Extremism Project(反過激派プロジェクト)」が提案するシステムについても話し合ったという。

 この会合では、テロリズムと言論の自由、政府と企業の権限といった問題にこれらテクノロジー企業が取り組む難しさも浮き彫りになったとReutersは伝えている。テクノロジー企業は一般的に、自社のサービスが外部から干渉されることに対し慎重な姿勢をとる。これに加え、過激派の動画は、著作権侵害や自動ポルノのように違法性が明確に判断できるものとは異なる。何を禁止コンテンツとするのか、しないのかといった判断を外部のグループが行うことについて、テクノロジー企業は懐疑的な見方をしていると、Reutersは伝えている。