Австралійський регулятор попереджає про Grok у зростаючих скаргах на зловживання штучним інтелектом у зображеннях

Коротко

• Комісар з питань безпеки в Інтернеті Австралії повідомив про зростання кількості скарг на Grok, чатбот Elon Musk, який створює неза consentовані сексуальні зображення, з подвоєнням кількості повідомлень з кінця 2025 року.
• Деякі скарги стосуються потенційного матеріалу сексуальної експлуатації дітей, інші — дорослих, які зазнали образу на основі зображень.
• Це викликає занепокоєння, оскільки уряди по всьому світу досліджують слабкий контроль за контентом Grok, а ЄС оголосив “Spicy Mode” чатбота незаконним.

Австралійський незалежний регулятор з питань безпеки в Інтернеті у четвер попередив про зростаюче використання Grok для створення сексуалізованих зображень без згоди, повідомивши, що кількість скарг на цей AI-чатбот за останні місяці подвоїлася. Комісар з питань безпеки в Інтернеті Австралії Джулі Інман Грант заявила, що деякі повідомлення стосуються потенційного матеріалу сексуальної експлуатації дітей, інші — дорослих, які зазнали образу на основі зображень. “Я глибоко занепокоєна зростанням використання генеративного AI для сексуалізації або експлуатації людей, особливо коли йдеться про дітей,” написала Грант у LinkedIn у четвер. 

Ці коментарі з’являються на тлі зростаючого міжнародного спротиву проти Grok, чатбота, створеного мільярдером Elon Musk у стартапі AI xAI, який можна активувати безпосередньо на X для зміни фотографій користувачів. Грант попередила, що здатність AI генерувати “гіперреалістичний контент” полегшує створення синтетичного насильства і ускладнює реагування регуляторів, правоохоронних органів і груп з безпеки дітей. На відміну від конкурентів, таких як ChatGPT, Musk’s xAI позиціонує Grok як “гострий” альтернативний варіант, який генерує контент, від якого інші моделі AI відмовляються. У серпні минулого року він запустив “Spicy Mode” спеціально для створення відвертого контенту. Грант попередила, що обов’язкові галузеві кодекси Австралії вимагають від онлайн-сервісів впроваджувати заходи безпеки проти матеріалу сексуальної експлуатації дітей, незалежно від того, чи він створений AI чи ні.

Минулого року eSafety застосувала заходи щодо широко використовуваних сервісів “nudify”, змусивши їх вийти з ринку Австралії, додала вона. “Ми увійшли в епоху, коли компанії повинні забезпечити, щоб продукти генеративного AI мали відповідні заходи безпеки та обмеження на кожному етапі життєвого циклу продукту,” сказала Грант, зазначивши, що eSafety “розслідує та вживатиме відповідних заходів” із використанням усіх регуляторних інструментів. Зростання глибоких підробок У вересні Грант отримала перший штраф Австралії за глибоку підробку, коли федеральний суд оштрафував чоловіка з Голд-Коста, Ентоні Ротондо, на 212 000 австралійських доларів (A$343 500) за публікацію глибоких підробок порнографії відомих австралійських жінок. Комісар з питань безпеки в Інтернеті подав до суду проти Ротондо у 2023 році після того, як він ігнорував повідомлення про видалення, заявивши, що вони “йому нічого не значили”, оскільки він не є австралійським резидентом, а потім надіслав ці зображення на 50 адрес, включаючи офіс Грант і медіа-ресурси, згідно з повідомленням ABC News. Австралійські законодавці наполягають на посиленні захисту від неза consentованих глибоких підробок понад існуючі закони. Незалежний сенатор Девід Покоок представив у листопаді законопроект “Онлайн-безпека та інші законодавчі поправки (My Face, My Rights)” 2025 року, який дозволить особам, що поширюють неза consentовані глибокі підробки, отримати штраф у розмірі 102 000 австралійських доларів (A$165 000), а компаніям — до 510 000 австралійських доларів (A$825 000) за недотримання вимог щодо видалення. “Ми зараз живемо у світі, де все більше людей може створювати глибокі підробки і використовувати їх будь-яким бажаним способом,” сказав Покоок у заяві, критикуючи уряд за “сонливість” щодо захисту AI.