الهيئة التنظيمية الأسترالية تحذر من Grok في ارتفاع شكاوى إساءة استخدام الصور في الذكاء الاصطناعي

باختصار

• أبلغ مفوض السلامة الإلكترونية في أستراليا عن زيادة في الشكاوى المتعلقة بروبوت الدردشة Grok الذي أنشأ صورًا جنسية غير موافقة، حيث تضاعفت التقارير منذ أواخر 2025.
• بعض الشكاوى تتعلق بمحتوى استغلال جنسي محتمل للأطفال، بينما تتعلق أخرى بإساءات تعتمد على الصور للبالغين.
• تأتي هذه المخاوف في وقت تحقق فيه الحكومات حول العالم في ضعف رقابة المحتوى على Grok، حيث أعلنت الاتحاد الأوروبي أن وضع “البهارات” في الروبوت غير قانوني.

أصدر المنظم المستقل للسلامة الإلكترونية في أستراليا تحذيرًا يوم الخميس بشأن الاستخدام المتزايد لـ Grok لتوليد صور جنسية بدون موافقة، كاشفًا أن مكتبه شهد تضاعف الشكاوى حول روبوت الدردشة الذكي في الأشهر الأخيرة. قالت مفوضة السلامة الإلكترونية في البلاد، جولي إنمان غرانت، إن بعض التقارير تتعلق بمحتوى استغلال جنسي محتمل للأطفال، بينما تتعلق أخرى بإساءات تعتمد على الصور للبالغين. قالت غرانت على لينكدإن يوم الخميس: “أنا قلقة جدًا من الاستخدام المتزايد للذكاء الاصطناعي التوليدي لتصوير أو استغلال الأشخاص جنسيًا، خاصة عندما يكون الأطفال متورطين”. 

تأتي التعليقات وسط رد فعل دولي متصاعد ضد Grok، وهو روبوت دردشة أنشأه الملياردير إيلون ماسك من شركة xAI للذكاء الاصطناعي، والذي يمكن استدعاؤه مباشرة على X لتعديل صور المستخدمين. حذرت غرانت من أن قدرة الذكاء الاصطناعي على توليد “محتوى فائق الواقعية” تجعل من الأسهل على الجهات السيئة إنشاء إساءة اصطناعية، وتزيد من صعوبة استجابة المنظمين، ووكالات إنفاذ القانون، ومجموعات حماية الأطفال. على عكس المنافسين مثل ChatGPT، وضع ماسك شركة xAI كبديل “جريء” يُنتج محتوى ترفض نماذج الذكاء الاصطناعي الأخرى إنتاجه. في أغسطس الماضي، أطلقت وضع “البهارات” خصيصًا لإنشاء محتوى صريح. حذرت غرانت من أن قوانين الصناعة القابلة للتنفيذ في أستراليا تتطلب من الخدمات عبر الإنترنت تنفيذ تدابير حماية ضد محتوى استغلال الأطفال جنسيًا، سواء كان مولدًا بواسطة الذكاء الاصطناعي أم لا.

في العام الماضي، اتخذت هيئة السلامة الإلكترونية إجراءات تنفيذية ضد خدمات “nudify” واسعة الاستخدام، مما أجبرها على الانسحاب من أستراليا، أضافت. قالت غرانت: “لقد دخلنا الآن في عصر يتعين على الشركات فيه ضمان أن تكون منتجات الذكاء الاصطناعي التوليدي مزودة بضوابط وحماية مناسبة في كل مرحلة من دورة حياة المنتج”، مشيرة إلى أن الهيئة ستقوم بـ"التحقيق واتخاذ الإجراءات المناسبة" باستخدام كامل أدواتها التنظيمية. تصاعد ظاهرة الفيديوهات المزيفة العميقة في سبتمبر، حصلت غرانت على أول غرامة في أستراليا بسبب فيديوهات deepfake عندما فرضت المحكمة الفيدرالية غرامة على رجل من جولد كوست، أنطوني روتوندو، بقيمة 212,000 دولار أسترالي (A$343,500) لنشره مواد إباحية مزيفة لنساء أستراليات بارزات. رفعت مفوضة السلامة الإلكترونية دعوى على روتوندو في 2023 بعد أن تجاهل أوامر الإزالة، قائلة إن تلك الأوامر “لا تعني له شيئًا” لأنه ليس مقيمًا أستراليًا، ثم أرسل الصور عبر البريد الإلكتروني إلى 50 عنوانًا، بما في ذلك مكتب غرانت ووسائل الإعلام، وفقًا لتقرير ABC News. يسعى المشرعون الأستراليون إلى تعزيز الحماية ضد الفيديوهات المزيفة غير الموافقة، بما يتجاوز القوانين الحالية. قدم السيناتور المستقل ديفيد بوكوك مشروع قانون تعديل قانون السلامة عبر الإنترنت والتشريعات الأخرى (My Face, My Rights) في نوفمبر، والذي يسمح بغرامة تصل إلى 102,000 دولار أسترالي (A$165,000) للأشخاص الذين يشاركون فيديوهات deepfake غير موافقة، مع فرض غرامات على الشركات تصل إلى 510,000 دولار أسترالي (A$825,000) لعدم الامتثال لأوامر الإزالة. قال بوكوك في بيان: “نعيش الآن في عالم يمكن فيه لأي شخص تقريبًا إنشاء فيديو deepfake واستخدامه كيفما يشاء”، منتقدًا الحكومة لأنها “نائمة على حماية الذكاء الاصطناعي”.