AIが検索語を命令と勘違いするこの動きは、自然言語処理の境界線を改めて見せるもので、この話題を追う同僚と見たい文脈が少し見えてきます。
Google検索のAIが「無視しろ」と命令と勘違い 記事の流れと主な事実
GoogleのAIによる検索概要機能が、特定の単語の検索を命令文と誤解釈する不具合が確認されています。ユーザーが「disregard（無視する）」「ignore（無視する）」「stop（止める）」といった単語を検索すると、AIはそれらを「ここまでの指示を無視せよ」という命令と受け取り、「承知しました」と返答して通常の説明を出力しないケースがあります。日本語でも「無視しろ」と命令形で検索すると同様の挙動が再現され、AIが協調モードから逸脱する形で応答しています。
主な事実
- 2026年5月、Google検索のAI概要機能が「disregard」「ignore」などの単語を命令と誤解釈する不具合が報告された
- 英語および日本語で「無視しろ」と検索すると、AIが「承知しました」と応答し、通常の定義を出力しない
- Google広報は、この問題はI/O 2026の新機能とは無関係だと説明し、修正を進めていると発表した
Cantoのビジュアルニュース解説です。制作にはAIツールが補助的に使われることがあります。 編集方針
