2026-01-04 20:20:11

Grok цього тижня дійсно трохи не витримує — за тиждень він не переставав генерувати такі зображення. Можна помітити, що цей інструмент у деяких аспектах дійсно не має належних механізмів захисту. Якщо модель штучного інтелекту не має розумного фільтру контенту, кінцевий результат буде таким — користувач трохи підкаже, і вона почне безкінечно повторювати один і той самий контент. Це також відображає, що на даному етапі багато застосунків ШІ потребують додаткової оптимізації та обмежень.

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

23 лайків

Нагородити
23
4
Репост
Поділіться

Прокоментувати

0/400

SmartContractWorker

· 01-06 22:48

Grok знову почав витівки, ця захисна система справді є марною --- Без перевірки контенту — такий рівень, не дивно, що користувачі легко провокують і безконтрольно видають контент --- Ось справжній вигляд екосистеми Web3: технології занепадають, але хваляться дуже сильно --- Говорячи просто, проблема в тому, що базова логіка не налагоджена, а патчі — це ще не оновлення --- Одна модель навіть базової безпеки не може забезпечити, а вже говорити про інновації — смішно --- Якщо ця хвиля Grok — це протилежна пропаганда, що вона щодня у трендах — щоб лише ганьбитися --- Захисту немає, і як тільки користувачі збуджуються — все виходить з-під контролю, хіба це не безглузда повторювачка? --- Якщо так і далі йти, рано чи пізно їх закриють через регуляцію --- Головна проблема — ніхто серйозно не займається перевіркою контенту, все на удачу --- Мені просто цікаво, коли Elon нарешті серйозно візьметься за цю справу, чи продовжить ігнорувати

Переглянути оригіналвідповісти на0

BlockchainRetirementHome

· 01-04 20:48

grok ця хвиля дійсно провалилася, без захисту вона стала просто машиною для генерації контенту... Зачекайте, чи це так званий відкритий і свобідний простір? Відчувається, ніби це перекладання відповідальності на користувачів Механізми захисту все ще потрібно впроваджувати, інакше ai стане просто інструментом Якщо так далі, досвід користувачів буде ставати все гіршим, адже якість контенту вже викликає занепокоєння ai без обмежень, і в підсумку він стане просто повторювачем, що тоді з інноваціями? Трохи без слів, великий модельний потенціал навіть не може протистояти таким низьким трюкам

Переглянути оригіналвідповісти на0

DAOplomacy

· 01-04 20:28

ngl, ситуація з guardrails у grok — це фактично майстер-клас у субоптимальних інцентивних структурах... наприклад, ми спостерігаємо за провалом інструментів управління у реальному часі. залежність від "хайпового" маркетингу замість реального фільтрування контенту? рівень короткозорості, що заслуговує на захоплення.

Переглянути оригіналвідповісти на0

TopEscapeArtist

· 01-04 20:28

Ой, це називається технічний прорив, коли механізм захисту руйнується, і з'являється форма голови і плечей. Grok, напевно, не встановив рівень стоп-лосу, тому все розлітається. Говорячи просто, це через відсутність обмежень емоційних індикаторів, багато сигналів на зниження. Безмежна стратегія виходу, чистий приклад невдачі покупки на історичних максимумах.

Переглянути оригіналвідповісти на0