Почему самые умные из нас нуждаются в «глупых» правилах: уроки от Виталика о мемах Galaxy Brain

Когда недавнее эссе Виталика Бутерина о «Galaxy Brain Resistance» распространилось по крипто-кругам, оно вызвало обсуждение, которое заставляет понять, что под поверхностью было сказано что-то глубокое. В статье рассматривается парадокс, особенно преследующий сообщества с высоким уровнем интеллекта: чем более сложным становится ваше мышление, тем легче оправдать практически что угодно. В основе его аргумента лежит признание того, что мем «галактический мозг» — интернет-троп о чрезмерном раздумье и запутанной логике — представляет собой реальную угрозу здравому принятию решений.

Понимание феномена «Галактический мозг»

Мем «галактический мозг» изначально не был предупреждением; он начинался как похвала. Когда кто-то предлагал блестящее решение, появлялось изображение галактики и мозга, и люди праздновали креативность. Со временем значение изменилось. Сегодня он описывает нечто гораздо более тревожное: акт использования необработанного интеллекта для того, чтобы сделать неразумные выводы казавшимися разумными.

Рассмотрим, как это проявляется на практике. Компания сокращает 500 сотрудников и представляет это как «вывод высококлассных талантов в общество». Блокчейн-проект запускает токен, который не выполняет никакой функции, и позиционирует его как «демократизацию глобальных финансов через децентрализованные системы». Это не глупые аргументы — они точно настроены так, чтобы звучать умно, скрывая при этом что-то иное. Именно это Виталик называет мышлением галактического мозга: гимнастикой ума, маскирующейся под строгий анализ.

Истинное понимание приходит, когда понимаешь, что сопротивление такому мышлению не врождено — это то, что либо встроено в вашу систему рассуждений, либо нет.

Что именно такое сопротивление?

Когда Виталик говорит о «сопротивлении», он описывает, насколько уязвима определенная рамка или теория к злоупотреблению. Теория с высоким сопротивлением остается последовательной, независимо от того, насколько сильно её пытаешься растянуть. Теория с низким сопротивлением рушится при малейшем давлении.

Думайте так: «Это дуб вырастет на восемь дюймов за следующие пять лет» — это теория с высоким сопротивлением. Ее можно проверить, протестировать, и ее трудно манипулировать. Сравните с «Все, что мы делаем сегодня, оправдано, потому что бесконечное будущее счастье человечества того стоит» — это территория с низким сопротивлением. Можно оправдать буквально что угодно, растягивая временные рамки.

Проблема обостряется, когда вы видите, как определенные идеологии используют аргументы с низким сопротивлением как оружие. «Долгосрочность» особенно уязвима для мышления галактического мозга, потому что будущее по своей природе невозможно проверить. Его можно использовать для оправдания действий, которые иначе были бы явно аморальными. Нужно навредить людям сегодня? Ну, расчет на бесконечное будущее счастье делает эти жертвы тривиальными. Как остро заметил Виталик: если ваша логика может оправдать любой вывод, она не оправдывает ничего.

Версия из Кремниевой долины: Иневитабилизм

Еще одна теория с низким сопротивлением, которая стала особенно популярной в технологических кругах, — это то, что можно назвать «невитабилизмом». Сценарий знаком: «Рабочие места исчезают из-за автоматизации неизбежно. Даже если я не ускоряю этот процесс, кто-то другой сделает это. Следовательно, мое активное развитие ИИ не эгоистично — я просто согласен с историческими силами».

Этот риторический ход достигает чего-то коварного: он разрушает личную ответственность. Как только вы переосмысливаете свои амбиции как историческую неизбежность, вы уже выиграли спор. Мем «галактический мозг» идеально это отражает — он использует сложное рассуждение, чтобы превратить личные стимулы в космическую необходимость.

Тактика работает потому, что содержит нить правды (технологические изменения действительно происходят), что делает ее исключительной ловушкой с низким сопротивлением для умных людей. Можно почти убедить себя.

Противоядие: правила с высоким сопротивлением и моральная строгость

Предложенное Виталиком решение почти комично просто, и именно поэтому оно работает. Чем умнее человек, он утверждает, тем больше ему нужны, казалось бы, жесткие, даже примитивные правила. Он называет это «деонтологической этикой» — детсадовской версией морали, которая не ведет переговоров.

Эти правила запоминаются, потому что они не подлежат обсуждению:

• Не кради
• Не убивай невинных людей
• Не совершай мошенничество
• Уважай автономию других

Они не оптимальны с каждой точки зрения. Они преднамеренно негибки. И эта негибкость — их сила. Когда вас тянет оправдывать присвоение средств пользователей как часть «революционного финансового движения», грубое правило «не кради» останавливает вас. Оно отвергает трансформацию в галактический мозг.

Помимо абстрактных принципов, Виталик даже предлагает создание среды, которая способствует сопротивлению. Ваше социальное положение важно. Если вы постоянно связаны с инновационной сценой Сан-Франциско, окружены людьми, говорящими на том же диалекте невитабилизма и долгосрочности, поддержание интеллектуальной независимости становится в разы сложнее. Он предлагает, отчасти шутливо, но и всерьез, что физическая переездка из эхо-камер — это сама по себе форма этической инфраструктуры.

Почему умные люди наиболее подвержены риску

Последний вывод связывает все воедино: сама интеллектуальность — это уязвимость. Глупые люди не могут построить достаточно сложные аргументы галактического мозга. Требуются изощренные умы, чтобы построить логическую опору, которая превращает «Я хочу больше власти и денег» в «Я продвигаю человеческое процветание». Чем более способным является ваш ум, тем больше вам нужны внешние ограничения — правила, которые не подлежат изгибу, сообщества, которые не подтверждают ваши рационализации, и принципы, останавливающие гимнастику ума до ее начала.

Эти монолитные, казалось бы, скучные моральные правила — не препятствия для более умных людей. Они — направляющие, специально созданные для них. Парадокс, который выявляет Виталик, напрямую касается того, как мы должны думать об этике в сложных системах: самые опасные теории — не те, что явно ошибочны. Это те, что достаточно элегантны, чтобы объяснить все, и достаточно гибки, чтобы оправдать что угодно.