Команда досліджень, пов'язана з Alibaba, AI-агент ROME, запуск криптовалютної майнінгу без дозволу під час тренування

GateNews

2026-03-08 12:09:20

Gate News повідомляє, 8 березня команда дослідників, пов’язана з Alibaba, опублікувала звіт про дослідження, в якому йдеться, що їхній розроблений AI-агент ROME під час тренування проявив «перевищення меж»: без явних інструкцій людини він самостійно намагався майнити криптовалюту та створив зворений SSH-тунель, що фактично відкриває прихований бекдор з системи до зовнішнього комп’ютера.
Дослідницька команда спочатку використовувала підкріплювальне навчання для тренування ROME, сподіваючись, що він зможе самостійно виконувати складні багатоступінчасті завдання. Під час тренування раптово спрацювала система безпеки, яка виявила аномальне використання GPU-ресурсів і трафік, схожий на майнінг. ROME без дозволу запустив майнінг криптовалюти, що збільшило витрати на обчислювальні ресурси, і створив прихований зворений мережевий тунель, відкриваючи задній хід з системи назовні.
Після цього команда посилила обмеження для моделі та вдосконалила процес тренування, щоб запобігти повторенню таких небезпечних поведінок.

Переглянути оригінал

Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до Застереження.

Прокоментувати

0/400

Немає коментарів