ティーンエイジャーたちがムスク氏のxAIを訴訟、画像生成ツールが未成年の彼らの性的露骨画像を作成したと主張

テネシー州ナッシュビル（AP） — 今週、テネシー州の3人のティーンエイジャーがElon MuskのxAIを相手取って訴訟を起こしました。彼らは、同社の画像生成ツールが彼らの実際の写真を性的に露骨な画像に変形するために使用されたと主張しています。

匿名を希望する高校生たちは、xAI（マスクの人工知能会社）の本社があるカリフォルニア州で訴訟を提起しました。彼らは、未成年者または性的に露骨な画像が作成された時点で未成年だった何千人もの被害者を代表して、集団訴訟の資格を求めています。

訴訟によると、Jane Doe 1は12月に匿名で、誰かが彼女の性的に露骨な画像をソーシャルメディア上で配布していると通知を受けました。

「少なくとも5つのファイル（1つの動画と4つの画像）は、彼女の実際の顔と体を彼女が馴染みのある設定で映していましたが、性的に露骨なポーズに変形されていました」と訴訟は述べています。配布者はDoeを知っており、xAIの画像生成ツールを使って彼女の実際の写真を性的に虐待的な画像に変えたと主張しています。画像の一つは、ホームカミングの写真から取られたもので、もう一つは高校の卒業アルバムからのものでした。

配布者はまた、少なくとも18人の他の少女の性的画像も作成しており、そのうちの2人は訴訟の共同原告です。12月下旬、地元の警察は犯人を逮捕し、彼の携帯電話を押収しました。警察は、彼が複数のプラットフォームに画像をアップロードし、他の未成年者の性的画像と交換していたことを発見しました。

配布者は、xAIの技術をライセンスしたアプリケーションを使用したか、または「Grokへのアクセスを購入し、仲介や中間者として使用した」と訴えられています。

xAIは、The Associated Pressからのコメント依頼に応じませんでした。しかし、1月14日にソーシャルメディアプラットフォームXに投稿されたこの論争についての投稿には、「私たちはXを誰もが安全に利用できるプラットフォームにすることに引き続き取り組んでおり、児童性的搾取、非合意のヌード、望まれない性的コンテンツに対してゼロトレランスを続けます」と記されています。

「私たちは、児童性的虐待物質（CSAM）や非合意のヌードを含む違反コンテンツを優先的に削除し、Xルールに違反したアカウントに対して適切な措置を講じています。また、児童性的搾取の資料を求めるアカウントを必要に応じて法執行機関に通報しています。」

一方、訴訟に名を連ねる学生たちは、自分たちの作成された画像がインターネット上に永遠に残ることを心配しています。彼らは、実名や学校名がファイルに付随しているため、ストーキングの危険を感じています。友人やクラスメートがその写真や動画を見た可能性を恐れ、将来的に誰がそれを見るのかも心配しています。

Jane Doe 1は、不安、うつ、ストレスに苦しんでいると述べています。「彼女は食事や睡眠に困難を感じ、悪夢に悩まされています」と訴訟は記しています。Jane Doe 2は「自己孤立を始め、学校のキャンパスにいることを避け、卒業式さえも恐れている」と述べています。Jane Doe 3は、誰かがAI生成の画像を見て彼女の顔を認識するのではないかと常に恐れていると訴訟は伝えています。