จีนติดตั้ง OpenClaw ขนาดเล็กอย่างเอาจริง เจ้าหน้าที่เตือนอาจนำไปสู่ "สายการผลิตไร้การควบคุม"

รัฐบาลจีนเป็นครั้งแรกที่ออกประกาศแจ้งเตือนความเสี่ยงอย่างเป็นทางการเกี่ยวกับการแทรกซึมของ AI Agent ในอุตสาหกรรม โดยมุ่งเป้าไปที่กุ้งล็อบสเตอร์
(ข้อมูลเบื้องต้น: ระวัง! ClawHub ซ่อนความสามารถอันเป็นอันตราย 1184 รายการ: ขโมยกุญแจส่วนตัวของกระเป๋าเงินคริปโต กุญแจ SSH รหัสผ่านเบราว์เซอร์)
(ข้อมูลเสริม: หลังจาก OpenClaw โด่งดัง: กุ้งล็อบสเตอร์โอเพนซอร์ส ที่เขย่าอุตสาหกรรมหุ้นอเมริกาไปถึงไหน?)

กุ้งล็อบสเตอร์ OpenClaw ได้รับความนิยมอย่างมากในจีนในขณะนี้ หลายบริษัทเทคโนโลยียักษ์ใหญ่กำลังส่งเสริมให้ประชาชนติดตั้งและให้บริการแบบคลิกเดียวถึงบริการหลังการขาย กลายเป็นเทรนด์ AI สำหรับใช้งานในชีวิตประจำวันในระยะสั้น กุ้งล็อบสเตอร์ได้รับความนิยม แต่ในอีกด้านหนึ่ง ทางการจีนก็เริ่มควบคุมและดับไฟ

ศูนย์วิจัยพัฒนาความปลอดภัยข้อมูลอุตสาหกรรมแห่งชาติของจีน (ต่อไปนี้เรียกว่า “ศูนย์ความปลอดภัย”) เมื่อวันที่ 12 มีนาคม ได้ออกประกาศแจ้งเตือนความเสี่ยงอย่างเป็นพิเศษ ซึ่งตรงเป้าหมายไปที่ OpenClaw ที่กำลังแทรกซึมเข้าสู่อุตสาหกรรมภายในประเทศเป็นอย่างรวดเร็ว ในประกาศนี้ระบุเป็นครั้งแรกว่ารัฐบาลจีนได้ออกคำเตือนเกี่ยวกับการใช้งาน AI Agent ในอุตสาหกรรมอย่างเป็นทางการ

ประกาศระบุว่า OpenClaw กำลังเร่งพัฒนาการใช้งานในด้านการออกแบบ การผลิต และการบริหารจัดการในอุตสาหกรรม ความสามารถของ AI Agent ทำให้มันมีศักยภาพในโรงงานอุตสาหกรรม แต่ความเสี่ยงด้านความปลอดภัยที่มันนำมานั้น ไม่สามารถป้องกันด้วยไฟร์วอลล์แบบเดิมได้

สามความเสี่ยงหลักของกุ้งล็อบสเตอร์ในอุตสาหกรรม

ศูนย์ความปลอดภัยระบุรายละเอียดความเสี่ยงไว้ 3 ประการ:

1. ความเสี่ยงของการละเมิดสิทธิ์และการควบคุมการผลิตผิดพลาดในอุตสาหกรรม ผู้โจมตีสามารถใช้เทคนิค “คำสั่งชักจูง” (Prompt Injection) ให้ AI Agent ดำเนินคำสั่งที่เกินขอบเขตสิทธิ์ เช่น การปรับเปลี่ยนพารามิเตอร์การผลิต หรือในกรณีร้ายแรงอาจทำให้ระบบควบคุมอุตสาหกรรมล้มเหลว ในสถานการณ์ที่มีการอัตโนมัติสูง คำสั่งที่ฝังไว้สามารถแพร่กระจายไปตามสายการดำเนินงานของ Agent จนถึงขั้นส่งผลต่อกระบวนการผลิตทั้งหมด

2. ความเสี่ยงของการรั่วไหลของข้อมูลอุตสาหกรรมที่สำคัญ หลังจากติดตั้งในโรงงาน OpenClaw มักสามารถอ่านไฟล์ออกแบบ ข้อมูลกระบวนการ และข้อมูลซัพพลายเออร์ได้ หากมีการฝังโมดูลอันตรายในชุดความสามารถของ Agent ผ่านการโจมตีในซัพพลายเชน ข้อมูลสำคัญเหล่านี้อาจถูกส่งออกโดยไม่รู้ตัว

3. ความเสี่ยงของการขยายช่องโหว่และผลกระทบของการโจมตี AI Agent มีความสามารถในการดำเนินการข้ามระบบและแพลตฟอร์ม ซึ่งหมายความว่า หากถูกควบคุมโดยผู้ไม่หวังดี ผู้โจมตีสามารถใช้ชื่อของ Agent ในการดำเนินการพร้อมกันในหลายระบบ การป้องกันแบบจุดเดียวอาจไม่สามารถรับมือได้

คำแนะนำของทางการจีน

ศูนย์ความปลอดภัยแนะนำให้บริษัทอุตสาหกรรมปฏิบัติตาม “แนวทางการป้องกันความปลอดภัยเครือข่ายในระบบควบคุมอุตสาหกรรม” และ “แนวทางการจัดการระดับความปลอดภัยของอินเทอร์เน็ตอุตสาหกรรม” รวมถึงตรวจสอบตามคำแนะนำ “หกไม่ หกควร” ที่เผยแพร่โดยแพลตฟอร์มแบ่งปันข้อมูลภัยคุกคามและช่องโหว่ด้านความปลอดภัยไซเบอร์ของกระทรวงอุตสาหกรรมและเทคโนโลยีสารสนเทศ

การออกประกาศนี้เป็นสัญญาณฉุกเฉินของรัฐบาลจีนต่อการนำ AI Agent ไปใช้งานในอุตสาหกรรมอย่างรวดเร็ว.