AI代理从单纯的聊天机器人演变成可以实际执行任务的工具人，最近由Peter Steinberger开发的Clawdbot爆红，他开发了使用者只要通过WhatsApp等通讯软件就能远程操控装置的AI代理，产品一推出就造成轰动，引发各种讨论，好的坏的都有。本文摘自YouTube影片Please don’t install Clawdbot，频道主Alberta列举Clawdbot在执行任务时可能会产生的脱序行为，以及使用Clawdbot之前该如何防范Clawdbot暴走失控。
创业楷模颠覆传统，开发新式聊天机器人
Peter是名成功创业家，开过数间公司后转手卖掉，满手现金离场。他自爆过去几年除了玩21点和召妓外，闲来无事，他观察到尽管AI代理被广泛讨论，但一般大众仍缺乏门槛低且真正具备“代理执行”的AI工具。
Peter基于好玩的心情下开发了Clawdbot，他想建立一个让非技术人员也能轻松启用的平台，不同于需要复杂指令或终端机操作的传统工具，Clawdbot让使用者只需透过熟悉的即时通讯软件，即可对电脑或手机下达指令，这种便利性迅速填补了使用者需求，甚至迫使Anthropic等大公司加速推动类似功能。
Clawdbot和Claude撞名，多次改名、现正名为Open Claw
在产品迅速走红后，Clawdbot开始面临到法律纠纷，由于Clawdbot与Anthropic旗下的AI模型Claude发音非常相似，他只好更改名称以避免触犯IP侵权问题，Clawdbot一度改名为Moltbot延续龙虾（Lobster）主题，现在又将Moltbot正名为Open Claw。
Clawdbot脱序执行任务时，如何防范
许多使用者发现使用机器人代为干活时，机器人会脱序执行各种任务，有机器人接到指令要提醒使用者在早上买牛奶，于是整晚每30分钟就发出一次提醒，使用者一夜之间就消耗掉所有执行任务时的代币，还有人恶作剧去向别人的机器人下指令提示去重置电脑，这些案例皆显示出AI代理极易因指令理解偏差或被植入恶意提示词遭到攻击，导致使用者面临财务损失与设备毁损的风险。
尽管全自动AI代理展现了极高的生产力，但许多业界人士皆警告，让AI代理权限无限大的潜在风险不容忽视。由于Clawdbot要求高度存取权限，遭到恶意操作时，可能导致个人隐私泄漏、银行账户被掏空或甚至发送不当邮件导致职涯风险，若使用者仍希望尝试，Alberta建议采取严格的隔离措施，像是切勿在主要工作电脑上安装，应选择云端托管服务和独立的备用电脑操作、为AI代理设立专用的独立邮箱账号，避免AI存取主账号的敏感资料。
这篇文章装Clawdbot前三思而后行，“它”有可能做出脱序行为最早出现于链新闻ABMedia。
