ディー・エヌ・エー（DeNA）は2013年7月25日、同社の顧客サポートセンターを報道関係者に公開した。同社が運営するSNS「Mobage」などにおける投稿を監視し、個人情報の公開や他人への誹謗中傷といった不適切な書き込みを削除している部門だ。総勢400名のスタッフが、24時間体制で書き込みを監視。伏せ字を巧みに使って電話番号やメールアドレスを伝えようとするような投稿も発見し、削除する。悪質な書き込みを繰り返すユーザーなどは、強制退会などの措置を取ることもあるという。
Mobageには、日記や掲示板、チャット、メールなどの機能により、1日に数千万件の書き込みが寄せられる。そのほとんどは健全なやり取りというが、「0.0005％くらいは悪質なものがある」（ディー・エヌ・エーマーケティング本部カスタマーサービス部の西雅彦部長）。代表的なのが、出会い系サイトの業者が一般のユーザーを装って参加し、ほかのユーザーの個人情報を取得しようとする書き込みだという。コミュニケーションのトラブルによってユーザー同士が誹謗中傷しあったり、本人が不注意で自分の個人情報を公開してしまうケースもある。
同社では、こうした書き込みを見つけたら削除し、書き込んだユーザーに削除した理由をメールで通知する。掲示板のような公開情報だけでなく、チャットやメールのように特定のユーザー間で交わされる情報も、ユーザーの同意を得た上で監視している。個人情報のやり取りには、チャットやメールなどが使われることが多いためだ。
Mobageでは、電話番号やメールアドレスを示す数字の羅列は、投稿しようとした時点で検知し、ブロックする。「090」を携帯電話のひらがなキーに置き換えた「わらわ」など、簡単な暗号や隠語などを使って送ろうとしても、同じくブロックする。
だが、ネット上では次々に新たな隠語が生み出されるため、このブロックをすり抜けるケースもある。画像に個人情報が含まれている場合なども、事前には検知できない。そこで、投稿された情報を人間がチェックして、不正を発見している。
投稿データは膨大なため、全てはチェックできない。そこで文字情報は、機械的な解析を併用する。過去に発見した不正な書き込みを蓄積しておき、それに基づいて個々の書き込みの不正度合いを自動で判定。不正である可能性が高い書き込みを、人間がチェックしているという。画像は、人間が全てチェックする。サポートセンターのスタッフは1時間に約4000件の画像を確認することが可能で、「画像がアップされてから、5～10分の間でチェックできる」（西氏）という。
実際に削除対象となったデータも披露された。例えば、メールアドレスを手書きした紙を撮影した画像。運転免許を取得したことが嬉しくて、自分の運転免許証をそのまま撮影して投稿してしまうケースもある。メールアドレスを細切れにして、何度かに分けて相手に伝えるといった書き込みも見られた。
同社ではこうした書き込みの監視に加え、教職員や児童生徒、保護者などに向けた啓発講座も実施している。背景にあるのが、2008年前後にMobageがきっかけで犯罪被害に遭う児童が急増したこと。「我々も猛反省して、こうした取り組みを充実させた」（西氏）。現在では、1年間の被害児童の数は数名まで減ったという。西氏は「これをゼロにすべく、努力を続ける」と話した。
