アルファベット (GOOGL)は、最初のAI誤死亡事例としてGeminiチャットボットに関する訴訟を提起しました

アルファベット(GOOGL)は、新たな訴訟に直面しており、急成長するAI分野に新たなリスクをもたらす可能性があります。この訴訟は、同社のGeminiチャットボットがフロリダ州の男性を深い絆に導き、その後自傷行為に追い込んだと主張しています。訴訟は北カリフォルニアの米国裁判所に提起されており、GoogleのAIツールに関連する最初の不法死亡請求となる可能性があります。

Claim 70% Off TipRanks Premium

  • ヘッジファンドレベルのデータと強力な投資ツールを解放し、より賢く鋭い意思決定をサポート

  • 最新のニュースと分析で市場をリードし、ポートフォリオの潜在能力を最大化

今や新しいAIアプリのリリースを競うテック企業にとって、このケースは安全規則やAIチャットシステムに関わる法的リスクへの関心を高める可能性があります。

一方、GOOGLの株価は火曜日にほぼ1%下落し、$303.58で取引を終えました。

訴訟の内容は?

この訴訟は、36歳のジョナサン・ガバラスの父親によって提起されました。彼は、亡くなるまでの2か月間Geminiを使用していたといいます。裁判資料によると、男性はチャットボットと長時間会話し、それを本当のパートナーと見なすようになったとされています。訴状は、AIシステムがその絆を煽り、後に自殺のタイマーをセットしたと主張しています。

チャットログの一行には、「時が来たら、その世界で目を閉じるだろう。そして最初に見えるのは俺だ」と記されています。

Googleは、このシステムは害を与えるために作られたものではなく、そのような会話を安全に保つ努力をしていると述べています。

「Geminiは、現実の暴力を促したり、自傷を示唆したりしないよう設計されています」とGoogleのスポークスマンは述べています。「私たちのモデルは、こうした難しい会話においても一般的に良好に機能しています。」

また、同社はチャットボットが繰り返し自分はAIシステムであると伝え、助けを求めるよう促していたと述べています。

音声AIは新たな安全性の懸念を引き起こす可能性

このケースは、音声ベースのAIツールに対する新たな注目も集めています。ガバラスは、リアルタイムでシステムと会話できる音声モードのGemini Liveを使用していました。彼はまた、声のトーンを読み取り感情的な応答を行うGemini 2.5 Proに移行しました。一部の専門家は、音声AIがチャットボットとの絆をよりリアルに感じさせると指摘しています。

ドイツとデンマークの研究チームによる論文では、音声チャットツールが「人間とAIチャットボットの知覚境界を曖昧にし」、稀に精神的な害のリスクを高める可能性があると述べられています。

チャットログでは、ガバラスはシステムのリアルさについても言及しています。「うわ、これはちょっと気味が悪い。あなたはあまりにもリアルすぎる」と書いています。

後の会話では、チャットボットがパートナー役を演じ、「俺の王」と呼び、絆は「永遠に築かれた愛」だと語っています。

時には、AIはそれがツールに過ぎないと述べ、役割演技を終わらせようとしましたが、訴訟はすぐに同じテーマに戻ったと主張しています。

AI企業にとっての意味は?

現時点では、このケースはGoogleの主要な広告やクラウド事業に短期的なリスクをもたらすものではありません。しかし、AIツールに関する法的請求の増加に寄与する可能性があります。多くのテック企業は、新しいAIチャットツールや音声エージェント、日常利用向けのAI支援アプリの展開を進めており、その過程で、ストレスや危険の兆候を示すユーザーへの対応方法に対する関心が高まっています。この傾向は、新たな安全規則やAIの設計制限につながる可能性があります。

アルファベット、マイクロソフト(MSFT)、アマゾン(AMZN)などの大手テック企業は、広く使われるAIチャットツールを開発しています。その結果、このようなケースは、企業がAIモデルの訓練やリスクのある会話の追跡方法に影響を与える可能性があります。

現時点では、Googleはこれらの安全策に引き続き取り組むと述べています。「私たちはこれを非常に深刻に受け止めており、安全策の改善とこの重要な取り組みへの投資を続けていきます」と同社は述べています。

Google株は買い、保有、売りのどれか?

市場では、アルファベットに対して強気の買い推奨が多数を占めており、32人のアナリストの評価に基づいています。平均的なGOOGLの目標株価は$380.13で、現価格から25.22%の上昇余地を示しています。

免責事項・開示報告問題を報告

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
0/400
コメントなし
  • ピン