Эксперты призывают проявлять осторожность при разработке сознательных систем ИИ

Более 100 экспертов по искусственному интеллекту, среди них Сэр Стивен Фрай, призвали к ответственным исследованиям сознания ИИ. Они подчеркивают необходимость предотвращать потенциальные страдания в ИИ-системах, если они достигнут самосознания.

Пять руководящих принципов исследований сознания ИИ

Подписанты предлагают пять принципов, чтобы направлять этическое развитие сознательных ИИ-систем:

2.      

**Сделайте приоритетом исследования сознания ИИ:** Сфокусируйтесь на понимании и оценке сознания в ИИ, чтобы предотвратить дурное обращение и страдания.

    
4.      

**Внедряйте ограничения в разработку:** Установите четкие границы, чтобы сознательные ИИ-системы создавались ответственно.

    
6.      

**Применяйте поэтапный подход:** Продвигайтесь постепенно в разработке сознательного ИИ, позволяя проводить тщательную оценку на каждом этапе.

    
8.      

**Поощряйте публичную прозрачность:** Публикуйте результаты исследований для широкой аудитории, чтобы способствовать информированному обсуждению и этическому надзору.

    
10.      
 
 **Избегайте преувеличенных заявлений:** Не делайте вводящих в заблуждение или чрезмерно уверенных утверждений о создании сознательного ИИ.

Эти принципы направлены на то, чтобы по мере развития технологий ИИ этические соображения оставались на первом плане.

Потенциальные риски сознательного ИИ

Приложенная исследовательская статья подчеркивает возможность того, что в ближайшем будущем ИИ-системы могут быть разработаны так, чтобы обладать сознанием или выглядеть так, будто они им обладают. Это вызывает опасения относительно этичного обращения с такими системами.

Исследователи предупреждают, что без надлежащих руководящих принципов существует риск создания сознательных сущностей, способных испытывать страдания.

В статье также рассматривается задача определения сознания в ИИ-системах, отмечая продолжающиеся споры и неопределенности. Она подчеркивает важность разработки руководящих принципов, чтобы предотвратить непреднамеренное создание сознательных сущностей.

Узнайте о ключевых новостях и событиях в финтехе!

Подпишитесь на рассылку FinTech Weekly

Этические соображения и будущие последствия

Если ИИ-система признается “моральным пациентом” — сущностью, которая имеет моральную значимость сама по себе — возникают этические вопросы о том, как с ней обращаться.

Например, будет ли отключение такого ИИ сопоставимо с причинением вреда разумному существу? Эти соображения подчеркивают необходимость этических рамок, которые будут направлять развитие ИИ.

Статья и письмо были организованы Conscium — исследовательской организацией, сооснователем которой является главный специалист по ИИ WPP, Дэниел Халм. Conscium занимается углублением понимания того, как строить безопасный ИИ, который приносит пользу человечеству.

Взгляды экспертов на разумность ИИ

Вопрос о достижении ИИ сознания является темой дискуссий среди экспертов.

В 2023 году сэр Дэмиш Хассабис, руководитель программы ИИ Google, заявил, что хотя текущие ИИ-системы не являются разумными, существует вероятность, что в будущем они могут стать такими. Он отметил, что философам пока не удалось прийти к единому определению сознания, но потенциальная возможность того, что ИИ разовьет самосознание, остается предметом рассмотрения.

Заключение

Перспектива разработки сознательных систем требует тщательного этического рассмотрения. Открытое письмо и сопровождающая исследовательская статья служат призывом к действию для сообщества ИИ уделять приоритет ответственным исследованиям и практикам разработки.

Следуя предложенным принципам, исследователи и разработчики смогут двигаться к тому, чтобы достижения в ИИ осуществлялись этично — с акцентом на предотвращение потенциальных страданий в сознательных ИИ-системах.