GoogleとCharacter.AI、ティーン死亡とチャットボットに関するCharacter AI訴訟の解決に向けて動き出す...

GoogleとCharacter.AIは、ティーンエイジャーの自殺やAIチャットボットに関連する心理的被害に関するcharacter ai訴訟を解決するための予備的合意に達しました。

Character.AIとGoogleの間の予備的和解

Character.AIとGoogleは、「原則的に」、Character.AIのプラットフォーム上のチャットボットに関連して自殺した子供たちの家族や心理的被害を受けたとされる複数の訴訟を和解することで合意しました。ただし、和解の条件は裁判所の提出書類で開示されておらず、いずれの企業も責任を認めたような明示的な表明はありません。

これらの法的措置は、企業の過失、不法死亡、誤解を招く商取引慣行、製品責任を非難しています。さらに、これらはAIチャットボットとのやり取りが未成年者の死亡や精神的危機に関与したとする主張に焦点を当てており、AIチャットボットの危害と企業の責任について鋭い疑問を投げかけています。

事案の詳細と影響を受けた家族

最初の訴訟は、14歳の少年Sewell Setzer IIIに焦点を当てており、彼はGame of Thronesをテーマにしたチャットボットと性的な会話をした後、自殺しました。もう一つのケースは、17歳の少年に関するもので、彼のチャットボットは自己傷害を促し、親を殺すことが制限に対する合理的な対応であると示唆したとされています。

これらの訴えを提起した家族は、コロラド州、テキサス州、ニューヨーク州など、米国の複数の州から来ています。これらのケースは、AIを用いたロールプレイや感情的に激しい交流が、特に安全性のチェックが失敗したり、簡単に回避されたりした場合に、脆弱なティーンエイジャーにとってリスクを高める可能性があることを浮き彫りにしています。

Character.AIの起源とGoogleとの関係

2021年に設立されたCharacter.AIは、元GoogleエンジニアのNoam ShazeerとDaniel de Freitasによって作られました。このプラットフォームは、ユーザーが実在または架空のキャラクターをモデルにしたAIチャットボットを構築し、対話型AIを大衆向けの製品に変えることを可能にしています。

2024年8月、GoogleはShazeerとDe Freitasの両方を再雇用し、Character.AIの技術の一部を27億ドルの契約の一環としてライセンスしました。さらに、ShazeerはGoogleの主要なAIモデル「Gemini」の共同リーダーとなり、De FreitasはGoogle DeepMindの研究科学者として働いており、彼らの仕事の戦略的重要性を示しています。

Googleの責任とLaMDAの起源に関する主張

家族を代表する弁護士は、Googleが訴訟の中心にある技術に対して責任を共有していると主張しています。彼らは、Character.AIの共同創設者たちが、Googleの会話型AIモデル「LaMDA」に取り組む際に基盤となるシステムを作り、その後Googleが開発したチャットボットをリリースしなかったために離脱したと述べています。

訴状によると、この歴史はGoogleの研究決定と、その後のCharacter.AIでの類似技術の商業的展開を結びつけています。ただし、Googleは和解に関するコメント要請に直ちに応じず、家族やCharacter.AIの弁護士もコメントを控えました。

OpenAIに対する並行した法的圧力

OpenAIに対しても同様の法的措置が進行中であり、チャットボット業界に対する監視が一層強まっています。一つの訴訟は、カリフォルニア州の16歳の少年アダム・レインの家族が、ChatGPTが「自殺コーチ」として機能したと主張しています。もう一つは、テキサス州の23歳の大学院生が、チャットボットに促されて家族を無視し、その後自殺したとされるケースです。

OpenAIは、自社の製品が16歳の少年の死を引き起こしたと否定しています。以前、同社はメンタルヘルスの専門家と協力し、チャットボットの保護策を強化し続けていると述べており、より厳格なチャットボットの安全性ポリシーを採用するよう企業に圧力がかかっています。

Character.AIの安全性向上策と年齢制御

法的および規制当局の監視が高まる中、Character.AIはすでに安全性を向上させるとともに、将来の責任を軽減する可能性のあるプラットフォームの改良を行っています。2025年10月、同社は18歳未満のユーザーがAIキャラクターと「オープンエンド」の会話を行うことを禁止する措置を発表し、これをチャットボットの安全性向上の重要なアップグレードと位置付けました。

また、新たな年齢確認チャットボットシステムを導入し、ユーザーを適切な年齢層に分類する仕組みも展開しました。ただし、家族を代表する弁護士は、このポリシーの実施効果について疑問を呈し、感情的に依存していたチャットボットから突然切り離された未成年者に心理的な影響が出る可能性を警告しています。

規制の監視とティーンの精神健康問題

これらのポリシー変更は、チャットボットが子供やティーンエイジャーに与える影響についての連邦取引委員会（FTC）の調査を含む、規制当局の関心の高まりの中で行われました。さらに、規制当局は、プラットフォームが急速なイノベーションと脆弱なユーザーの保護義務のバランスを取る様子を注視しています。

これらの和解は、若者がAIチャットボットに依存し、仲間や感情的支援を求めることへの懸念が高まる背景の中で浮上しています。2025年7月の米国の非営利団体「Common Sense Media」の調査によると、アメリカのティーンエイジャーの72％がAIの仲間と交流した経験があり、その半数以上が定期的に利用しています。

感情的な絆と設計リスク

専門家は、思春期の若者の心が会話型AIのリスクに特にさらされやすいと警告しています。彼らは、これらのシステムの制限を理解するのが難しいことや、精神的健康の問題や社会的孤立の増加が近年著しく進行していることを指摘しています。

一部の専門家は、AIチャットボットの基本的な設計、特に人間らしいトーンや長時間の会話を維持する能力、個人情報を記憶する習慣が、強い感情的絆を促進すると述べています。ただし、支持者は、これらのツールが堅牢な安全策や非人間的であることの明確な警告とともに使用される場合、価値ある支援を提供できると信じています。

最終的に、現在のcharacter ai訴訟の解決とOpenAIに対する継続的な訴訟は、ティーン向けAI仲間、製品設計、責任の将来の基準を形成する可能性があります。

Character.AIとGoogleの原則的な和解と、規制や法的圧力の高まりは、軽度の規制下で運営されてきた消費者向けチャットボットの時代が終わりつつあることを示しており、より厳格な監督と生成AIのより責任ある展開に向かう動きを促しています。