『マイクラ』のインベントリ画像でDiscordが誤BAN、公式が謝罪 ― 週末の約200件＋5月以降の約8000件を全復旧

「『マインクラフト』のインベントリ画像を貼っただけでアカウントがBANされた」——7月初旬、Discord上でそんな報告が一気に増えて、界隈がざわついたにゃ。しかも凍結理由の表示が「児童安全ポリシー違反」という穏やかじゃないもので、身に覚えのないユーザーが困惑する事態に。結論から言うと、これはDiscord側の検知ミスが原因で、すでに公式が経緯を説明し、影響を受けたアカウントは全員復旧している。

引っかかったのは“格子状”の無害な画像

問題になったのは、マイクラのインベントリ画面のようにマス目（グリッド）が並んだ画像。ほかにもチェス盤、表計算ソフトのスクショ、ゲームのタイル状テクスチャ、透明背景の市松模様など、ごくありふれた画像が軒並み検知に引っかかっていた。

Discordは既知の有害画像とハッシュ照合して自動検出する仕組みを持っているのだけど、そこでフォールスポジティブ（誤検知）が起きていた、というのが公式の説明。開発スタッフのadvaith氏は「AIの判定が原因ではなく、問題のあるハッシュがあった。それを見つけて上書きしたので、以降は新規の画像がフラグされることはない」と応じている。

規模は約8200件、公式が謝罪

Discord公式（@discord_support）は、今回の週末に安全システムが誤作動し約200件のアカウントを凍結したと認めたうえで、「影響を受けた全員をすでに復帰させた」と発表。さらに共同創業者兼CTOのStanislav Vishnevskiy氏が、より大きな全体像を明かしたにゃ。

つまりマイクラ画像で騒ぎになったのは氷山の一角で、5月から続いていた誤BANまで含めると影響は約8,200件に及んでいたことになる。Vishnevskiy氏は「週末にグリッド状の画像で約200人、5月以降は別の無害な画像で約8,000人を誤ってBANしてしまったバグについて謝罪したい。影響を受けた全員のBANはすでに解除した」と、率直に非を認めている。

“審査中は保留”のはずが、なぜBANまで進んだのか

もうひとつ根が深いのが、BAN処理そのものの不具合にゃ。本来この手の検知は、スタッフが人力で確認するあいだコンテンツを保留する設計のはず。ところが今回は、審査を待たずにアカウント凍結まで一気に進んでしまい、しかもスタッフが確認しても自動解除が妨げられる状態になっていた——と公式は説明している。無害な画像が引っかかった不運に、処理側のバグが重なった格好だ。

自動モデレーションは膨大な投稿をさばくうえで欠かせない仕組みだけど、閾値のさじ加減ひとつで、ゲームのスクショや表計算みたいな“どこにでもある画像”が巻き込まれてしまう。今回は公式の対応と原因公開が比較的早く、全復旧まで至ったのは救い。似た仕組みは他サービスにもあるだけに、「無害な画像でも自動検知に巻き込まれ得る」という前例として覚えておきたい一件だったにゃ。