GoogleがFBIと連携し「AIトクリュウ」の撲滅作戦、Gemini悪用組織を提訴

　Alphabet傘下のGoogleはニューヨーク州南部地区連邦地方裁判所に中国を拠点とするサイバー犯罪組織Outsider Enterpriseを提訴した。同組織は「フィッシング・アズ・ア・サービス」として詐欺サイト構築の基盤を月額や週額の定額制で提供していた。組織はTelegramを通じて世界の顧客にサービスを販売し偽のSMS送信や偽装ウェブサイトへの誘導を繰り返していた。被害は米国や日本を含む55カ国に及び約19億ドルの被害と約387万枚の決済カード情報の窃取が確認されている。

　訴状によると攻撃者はGoogleのAIモデルGeminiなどを悪用し詐欺インフラを高度化させていた。AIの安全フィルターを回避するために無害なプログラミング支援を装った指示を出しフィッシングサイトのソースコードや洗練された詐欺メッセージを生成させていた。これにより不自然な翻訳や崩れたレイアウトという従来型の詐欺の特徴が消滅し巧妙な偽装ページが大量生産された。


　被害者が偽サイトで入力した情報はリアルタイムで攻撃者に送信され多要素認証を突破する仕組みも構築されていた。 Googleはこの脅威に対抗するため単独の訴訟にとどまらずFBIや民間企業と連携した共同作戦を展開した。ゴーストフック作戦と呼ばれるこの法執行活動ではコアサーバーのドメイン差し押さえや仮想通貨の凍結が行われた。

　さらに米国の主要通信事業者であるAT&TやT-MobileやVerizonと協調し不正なSMSトラフィックをネットワークレベルで遮断する体制を構築した。 提訴に際してGoogleは組織犯罪防止法や連邦商標法違反などの罪状を告発し対象インフラの世界的な運用停止を命じる暫定禁止命令を勝ち取った。

　国境を越えたサイバー犯罪を防ぐには個別企業の法的措置だけでは不十分だとして国家レベルの防衛網構築やAI悪用に関する厳格な処罰を定める7つの超党派法案の成立に向けた議会への働きかけも進めている。