X（旧ツイッター）上の生成AI（人工知能）「Grok（グロック）」によって、実在の人物の画像が性的な画像に改変される被害が相次いだ問題で、小野田紀美・AI担当相は16日の閣議後会見で、Xに改善を要求したと明らかにした。AI法に基づき、指導する可能性も伝えたという。

　Grokは米実業家イーロン・マスク氏のAI企業「xAI」の生成AI。昨年12月、X上に投稿された画像をGrokで編集できる機能が追加された。

　内閣府は、この機能を使って画像に写った本人の同意なく、性的な画像に容易に加工・拡散できる事態を問題視。今月9日、X日本法人の担当者を呼び、こうした画像の出力などができないよう改善を求めた。

　さらに、X側の対応方針や見解について速やかな報告を求める書面も渡した。改善が見られず国民の権利が侵害された場合、AI法を適用して政府が事業者を調査し、指導することもありうると伝えた。実際に指導すれば、初のケースとなる。

　16日夕までにXから回答はないという。

　Xは日本時間15日、人物の画像を露出の多い服装に編集できなくする対策を講じたと発表した。小野田氏は、その後も不適切な画像の出力が見受けられるという報告を受けているとして、「一層の改善が求められる可能性はある」と述べた。

　X利用者に対しても「適切なリテラシーを持って行動しなければ、加害者になりうる点を注意していただきたい」と呼びかけた。