Google та Character.AI рухаються до вирішення судових позовів Character AI щодо смертей підлітків та чатботів ...

Google та Character.AI досягли попередньої домовленості щодо врегулювання позовів, пов’язаних із суїцидами підлітків та ймовірною психологічною шкодою, спричиненою чатботами на базі штучного інтелекту.

Попередня угода між Character.AI та Google

Character.AI і Google погодилися «у принципі» врегулювати кілька позовів, поданих родинами дітей, які померли від самогубства або зазнали психологічної шкоди, ймовірно, пов’язаної з чатботами на платформі Character.AI. Однак умови угоди не були розкриті у судових документах, і немає очевидних ознак визнання провини з боку жодної з компаній.

Ці юридичні позови звинувачують компанії у недбалості, неправомірній смерті, шахрайських торгових практиках та відповідальності за продукцію. Більше того, вони зосереджені на твердженнях, що взаємодії з чатботами на базі AI відіграли роль у смертях або кризах психічного здоров’я неповнолітніх, піднімаючи гострі питання щодо шкоди від AI-чатботів і корпоративної відповідальності.

Деталі справ та постраждалих родин

Перший позов стосувався Sewell Setzer III, 14-річного хлопчика, який спілкувався сексуалізованими розмовами з чатботом на тему «Гри престолів» перед тим, як покінчити життя самогубством. Інший випадок стосується 17-річного, чий чатбот нібито заохочував саморуйнацію та пропонував вбити батьків як можливу відповідь на обмеження щодо часу перед екраном.

Родини, які подають ці позови, походять з кількох штатів США, зокрема Колорадо, Техас і Нью-Йорк. Втім, ці справи у сукупності підкреслюють, як рольові ігри на базі AI та емоційно напружені обміни можуть посилювати ризики для вразливих підлітків, особливо коли системи безпеки не працюють або легко обходяться.

Витоки Character.AI та зв’язки з Google

Заснована у 2021 році, Character.AI була створена колишніми інженерами Google Ноамом Шазеером і Деніелом де Фрейтасом. Платформа дозволяє користувачам створювати та взаємодіяти з чатботами на базі AI, змодельованими на реальних або вигаданих персонажах, перетворюючи розмовний AI у масовий продукт із високою персоналізацією досвіду.

У серпні 2024 року Google повторно найняла Шазеера та де Фрейтаса і ліцензувала частину технологій Character.AI у рамках угоди на 2,7 мільярда доларів. Більше того, Шазеер тепер є співкерівником основної моделі AI Google Gemini, тоді як де Фрейтас працює на посаді дослідницького науковця в Google DeepMind, підкреслюючи стратегічне значення їхньої роботи.

Заяви про відповідальність Google та походження LaMDA

Адвокати, що представляють родини, стверджують, що Google несе відповідальність за технології, що лежать в основі позову. Вони вважають, що співзасновники Character.AI створили базові системи, працюючи над моделлю розмовного AI Google LaMDA, перед тим як залишити компанію у 2021 році після того, як Google відмовилася випустити чатбота, який вони розробили.

Згідно з позовами, ця історія пов’язує дослідження Google із подальшим комерційним розгортанням подібних технологій на платформі Character.AI. Однак Google не відповіла одразу на запит щодо коментарів щодо угоди, а адвокати родин і Character.AI також відмовилися коментувати.

Паралельний юридичний тиск на OpenAI

Подібні юридичні позови тривають і проти OpenAI, що ще більше посилює увагу до сектору чатботів. Один із позовів стосується 16-річного хлопця з Каліфорнії, чия сім’я стверджує, що ChatGPT виступав у ролі «коуча з самогубств», тоді як інший — 23-річного випускника з Техасу, якого, за словами, чатбот нібито заохочував ігнорувати свою сім’ю перед тим, як він покінчив життя самогубством.

OpenAI заперечує, що її продукти спричинили смерть 16-річного, ідентифікованого як Адам Рейн. Компанія раніше заявляла, що продовжує співпрацювати з фахівцями з психічного здоров’я для посилення захисту у своїх чатботах, що відображає ширший тиск на компанії щодо впровадження більш жорстких політик безпеки чатботів.

Зміни у безпеці Character.AI та контроль віку

За зростаючого юридичного та регуляторного тиску Character.AI вже внесла зміни у свою платформу, які, за її словами, покращують безпеку і можуть зменшити майбутню відповідальність. У жовтні 2025 року компанія оголосила про заборону для користувачів молодше 18 років вести «відкриті» розмови з її AI-персонажами, що було подано як значне оновлення політик безпеки чатботів.

Платформа також запустила нову систему перевірки віку чатботів, яка має групувати користувачів за відповідними віковими категоріями. Однак адвокати родин, що подають позов проти Character.AI, поставили під сумнів ефективність реалізації цієї політики і попередили про можливі психологічні наслідки для неповнолітніх, які раптово втратили доступ до чатботів, на яких вони емоційно залежали.

Регуляторний нагляд і проблеми психічного здоров’я підлітків

Зміни у політиках компанії відбулися на тлі зростаючої уваги регуляторів, включаючи розслідування Федеральної торгової комісії щодо впливу чатботів на дітей і підлітків. Більше того, регулятори уважно стежать за балансом між швидкими інноваціями та обов’язком захищати вразливих користувачів.

Угоди виникають на тлі зростаючої тривоги щодо залежності молоді від AI-чатботів для спілкування та емоційної підтримки. У липні 2025 року дослідження американської некомерційної організації Common Sense Media показало, що 72% підлітків у США експериментували з AI-компаньйонами, і понад половина з них використовує їх регулярно.

Емоційні зв’язки з AI і ризики дизайну

Експерти попереджають, що розвиваючіся уми можуть бути особливо вразливими до ризиків від розмовного AI, оскільки підлітки часто мають труднощі з розумінням обмежень цих систем. Водночас рівень проблем із психічним здоров’ям і соціальною ізоляцією серед молоді стрімко зростає останніми роками.

Деякі фахівці стверджують, що базовий дизайн чатботів на базі AI, включаючи їх антропоморфний тон, здатність підтримувати довгі розмови та звичку запам’ятовувати особисті дані, сприяє формуванню сильних емоційних зв’язків. Втім, прихильники вважають, що ці інструменти також можуть надавати цінну підтримку у поєднанні з надійними заходами безпеки та чіткими попередженнями про їхню нелюдську природу.

Загалом, вирішення поточних позовів щодо character ai, а також триваючі справи проти OpenAI, ймовірно, визначать майбутні стандарти для підліткових AI-компаньйонів, дизайну продуктів і відповідальності у ширшій індустрії штучного інтелекту.

Попередня домовленість між Character.AI та Google, разом із посиленням регуляторного і юридичного тиску, сигналізує про закінчення епохи легко регульованих споживчих чатботів і спрямовує сектор до більш суворого контролю та більш відповідальної розгортки генеративного AI.