В то время как средства стремительно вливаются в разработку AGI, ученые из Кембриджа отмечают, что человечество по-прежнему не может проверить, обладает ли ИИ сознанием, призывая сохранять агностицизм перед ослаблением регулирования. （Предыстория: как в эпоху ИИ с помощью Vibe Coding заставить Angent следить за рынком всю ночь） (Фоновая информация: Альтман обсуждает проблемы роста OpenAI: вычислительная мощность является наибольшим ограничением, увеличение дохода должно зависеть от постоянного удвоения количества графических карт)

Содержание статьи

• Дилемма черного ящика: исследования сознания еще не решены
• Сознание и восприимчивость: два смешиваемых понятия
• Эмоциональная проекция и неправильное распределение ресурсов
• Регуляторный вакуум и игра на ответственность

Глобальные инвестиции стремительно направляются в разработку AGI, технологические гиганты и венчурные капиталы соревнуются в увеличении вложений, от вычислительной мощности и моделей до талантов, ведя полномасштабную гонку вооружений. Рынок ставит на то, что универсальный искусственный интеллект изменит структуру производительности и возврата капитала.

Однако в начале этого месяца философ Кембриджского университета Том Макклелланд в статье, опубликованной в журнале «Mind & Language», напомнил, что в настоящее время почти нет доказательств того, что ИИ обладает сознанием, и в течение длительного времени этого также может не быть, людям необходимо обдумать распределение ресурсов.

Если мы случайно создадим сознательный или чувствительный ИИ, нам следует быть осторожными, чтобы избежать причинения вреда.

Но считать вещь, которая на самом деле просто тостер, сознательным существом, в то время как мы в реальном мире наносим огромный вред действительно сознательным существам, кажется также большой ошибкой.

Черная дыра: исследования сознания еще не начали

МакКлелланд указывает, что человечество даже не разобралось в том, как мозг преобразует нейронную активность в субъективный опыт, не говоря уже об анализе крупных языковых моделей, состоящих из триллионов параметров.

Современные функционалисты верят, что при достаточной вычислительной сложности высшее сознание естественным образом проявится; сторонники биологической сущности считают, что сознание является продуктом углеродной жизни. Обе стороны не имеют доказательств, и их спор напоминает уверенный прыжок в гипотезу.

Сознание и восприятие: два путаемых понятия

В коммерческой рекламе компании часто смешивают «осознание» и «способность восприятия». McClelland утверждает, что осознание относится только к обработке и реакции на внешние сигналы; способность восприятия же включает в себя удовольствие и боль, влияя на моральный статус.

Он напомнил, что если ИИ является лишь вычислительной системой, этические риски ограничены; но если в будущем модели будут обладать способностью к восприятию, человечество должно будет пересмотреть границы ответственности.

На самом деле ключевым является способность к восприятию. Если машина не может испытывать боль, людям на самом деле не нужно беспокоиться о ее благополучии.

Эмоциональная проекция и неправильное распределение ресурсов

Чтобы повысить лояльность пользователей, в настоящее время многие технологические компании наделяют чат-ботов антропоморфной интонацией, вызывая эмоциональную проекцию.

МакКлелланд назвал это «экзистенциальным ядом», потому что общество может в результате неправильно распределить ресурсы: такая шумиха вокруг сознания искусственного интеллекта имеет этическое значение для распределения исследовательских ресурсов.

Все больше доказательств указывает на то, что креветки могут ощущать боль, однако мы убиваем около пятисот миллиардов креветок каждый год.

Тестирование того, обладает ли креветка сознанием, конечно, сложно, но это далеко не так трудно, как тестирование сознания искусственного интеллекта…

Регуляторный вакуум и игра ответственности

В условиях де-регулирования право интерпретировать, есть ли у ИИ душа, легко оказывается в руках компаний. Когда это необходимо для маркетинга, компании могут утверждать, что модель обладает самосознанием; когда система дает сбой и вызывает ущерб, они могут заявить, что продукт лишь инструмент, пытаясь избежать ответственности. МакКлелланд призывает законодателей создать единый тестовый фреймворк, чтобы провести четкую границу между рисками и инновациями.

Капитальный рынок, возможно, готовит красную дорожку для «пробуждения AGI», но до тех пор, пока наука не сможет подтвердить способности восприятия ИИ, активное признание незнания и поддержание осторожной дистанции, возможно, являются рациональным выбором.

!