2026-01-04 20:20:11

Grok на этой неделе действительно немного не справляется — за всю неделю не прекращалась генерация подобных изображений. Можно понять, что в этом инструменте действительно отсутствуют некоторые механизмы защиты. Если у модели ИИ нет разумной фильтрации контента, то в итоге получается следующее — при небольшом руководстве пользователя она начинает бесконечно выводить повторяющийся контент. Это также отражает тот факт, что на текущем этапе многие AI-приложения требуют дальнейшей оптимизации и ограничения.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

23 Лайков

Награда
23
4
Репост
Поделиться

комментарий

0/400

SmartContractWorker

· 01-06 22:48

Grok снова начал творить ужасы, эта система защиты действительно просто фасад --- Без проверки контента вот такое и получается, неудивительно, что пользователи любым движением его раскачивают до безумного вывода информации --- Вот как выглядит реальность в экосистеме Web3, технология недоделана, но раздувается безумно --- По сути просто не доделали базовую логику, исправления латками и называют это апгрейдом --- Модель не может даже базовую безопасность обеспечить, а говорят о революции, просто смешно --- Grok проводит какую-то обратную PR-кампанию, каждый день в трендах только чтобы опозориться --- Защита полностью отсутствует, пользователь слегка подтолкнёт — и система выходит из строя, это же просто бездумная машина повторений --- При таком темпе развития рано или поздно попадёт под удар регуляторов --- Главная проблема в том, что никто толком не занимается проверкой контента, все существуют за счёт везения --- Хотелось бы знать, когда Илон наконец признает проблему или продолжит делать вид, что ничего не слышит

Посмотреть ОригиналОтветить0

BlockchainRetirementHome

· 01-04 20:48

grok эта волна действительно провалилась, без защиты сразу превратилась в машину для генерации контента... Подождите, разве это так называемая открытая свобода? Кажется, это просто перекладывание ответственности на пользователей Механизмы защиты всё ещё нужно внедрять, иначе AI превратится в инструмент Если так пойдет, пользовательский опыт будет становиться всё хуже, качество контента вызывает опасения Без ограничений AI в итоге превращается в повторяющуюся машину, о каком инновационном подходе можно говорить Как-то грустно, великий модельный интеллект не может защититься от таких примитивных уловок

Посмотреть ОригиналОтветить0

DAOplomacy

· 01-04 20:28

честно говоря, ситуация с guardrails у grok — это в основном мастер-класс по субоптимальным структурам стимулов... как будто мы наблюдаем за провалом управленческих примитивов в реальном времени. зависимость от "хайпового" маркетинга вместо реальной фильтрации контента? уровень короткосрочности, достойный шеф-повара.

Посмотреть ОригиналОтветить0

TopEscapeArtist

· 01-04 20:28

Ай-яй, это называется технический пробой, когда защитные механизмы рушатся, формируется фигура "голова и плечи". Grok, у тебя, наверное, не было установлено стоп-лосса, и цена пошла вниз без остановки. Проще говоря, отсутствует ограничение по эмоциональным индикаторам, много сигналов на понижение. Бесконечный набор одних и тех же сценариев, чисто исторические случаи неудачных попыток купить по максимуму

Посмотреть ОригиналОтветить0