Grok这周真的有点绷不住了——一周下来就没停过生成那类图片。看得出来这工具在某些方面确实没有什么防护机制。一个AI模型要是没有合理的内容过滤,最后的结果就是这样——用户稍微一引导,它就开始无限输出重复内容。这也反映了现阶段很多AI应用还需要更多的优化和约束。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 4
  • 转发
  • 分享
评论
0/400
智能合约打工人vip
· 01-06 22:48
Grok又开始作妖了,这防护机制真的是摆设啊 --- 没有内容审核就这德行,难怪用户随便一撩拨就疯狂输出 --- 这才是Web3生态里真实的样子,技术烂尾但吹得贼猛 --- 说白了就是底层逻辑没做好,补丁式修复还好意思叫升级 --- 一个模型连基础安全都搞不定,还谈什么革新,笑死 --- Grok这一波怎么感觉反向宣传了,天天上热搜就为了丢人 --- 防护全无,用户一激就失控,这不就是个无脑的复读机吗 --- 照这个趋势下去,早晚得被监管锤死 --- 核心问题还是没人认真做内容审核,全靠侥幸过日子 --- 我就想知道Elon什么时候能正视这事儿,还是继续装听不见
回复0
区块链养老院院长vip
· 01-04 20:48
grok这波真的翻车了,没点防护直接成了内容生成机器... 等等,这就是所谓的开放自由?感觉就是甩锅给用户啊 防护机制这东西还是得跟上,不然ai就成了工具人 这样下去用户体验会越来越差吧,光内容质量就堪忧 ai没约束,最后就成了复读机,谈什么创新呢 有点无语,堂堂大模型居然防不住这种低端套路
回复0
DAOplomacyvip
· 01-04 20:28
说实话,grok的守护机制情况基本上是关于次优激励结构的经典案例……就像我们在实时观察治理原语的失败。对“前卫”营销优先于实际内容过滤的路径依赖?简直是短视的极致。
查看原文回复0
逃顶大师vip
· 01-04 20:28
哎呀,这就叫技术面破位啊,防护机制一崩就是头肩顶形态 Grok这是没设止损位吧,一路裂开 说白了就是缺少情绪指标的约束,看空信号一堆 无限输出那套,纯纯的历史高点抄底失败案例
回复0
  • 热门 Gate Fun

    查看更多
  • 市值:$3520.68持有人数:1
    0.00%
  • 市值:$3520.68持有人数:1
    0.00%
  • 市值:$3520.68持有人数:1
    0.00%
  • 市值:$3517.24持有人数:1
    0.00%
  • 市值:$3513.79持有人数:1
    0.00%
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)