في وقت تدفق الأموال بشكل جنوني نحو تطوير AGI، أشار الباحثون في كامبريدج إلى أن البشر لا يزالون غير قادرين على التحقق مما إذا كانت الذكاء الاصطناعي يمتلك الوعي، داعين إلى الحفاظ على اليقظة غير المعرفية قبل تخفيف اللوائح. (ملخص سابق: كيف تعتمد على Vibe Coding في عصر الذكاء الاصطناعي، لتجعل Angent يساعدك في السهر لمراقبة السوق) (خلفية توضيحية: التحدث عن صعوبات نمو OpenAI: القدرة الحاسوبية هي أكبر قيود، وزيادة الإيرادات تعتمد على مضاعفة عدد بطاقات الرسوم باستمرار)

فهرس المقال

• معضلة الصندوق الأسود: لم يتم حل البحث في الوعي بعد
• الوعي والقدرة على الإدراك: مفهومان متداخلان
• إسقاط المشاعر وإساءة استخدام الموارد
• فراغ التنظيم ولعبة المسؤولية

تتدفق الأموال العالمية بسرعة غير مسبوقة نحو تطوير AGI، حيث تتنافس عمالقة التكنولوجيا ورؤوس الأموال المغامرة على زيادة استثماراتها، من القوة الحاسوبية والنماذج إلى المواهب، في سباق تسلح شامل، حيث يراهن السوق على أن الذكاء الاصطناعي العام سيعيد تشكيل الإنتاجية وهيكل عوائد رأس المال.

ومع ذلك، في وقت سابق من هذا الشهر، ذكر الفيلسوف في جامعة كامبريدج توم مكليلاند في ورقة نشرت في مجلة “العقل واللغة” أن العلوم الحالية لديها تقريباً لا أدلة تثبت أن الذكاء الاصطناعي يمتلك الوعي، ومن المحتمل أنه لن يكون هناك دليل على ذلك لفترة طويلة في المستقبل، ويحتاج الناس إلى التفكير في تخصيص الموارد.

إذا كنا غير حذرين في إنشاء ذكاء اصطناعي واعٍ أو قادر على الإدراك، يجب أن نكون حذرين للغاية لتجنب التسبب في الأذى.

لكن، التعامل مع شيء هو في الواقع مجرد محمصة خبز ككائن واعٍ، بينما نسبب في العالم الحقيقي أضرارًا كبيرة للحياة الواعية الحقيقية، يبدو أنه خطأ كبير أيضًا.

معضلة الصندوق الأسود: أبحاث الوعي لم تتوصل بعد إلى الحل

أشار مكلياند إلى أن البشر لم يحلوا حتى كيف يمكن لعقولهم تحويل الأنشطة العصبية إلى تجارب ذاتية، ناهيك عن تحليل النماذج اللغوية الكبيرة التي تتكون من تريليونات من المعلمات.

يعتقد الوظيفيون الحاليون أنه طالما كانت تعقيدات العمليات الحسابية كافية، ستظهر الوعي العالي بشكل طبيعي؛ بينما يرى البيولوجيون أن الوعي هو نتاج الحياة الكربونية. لا يوجد دليل ملموس من الجانبين، والنقاش يشبه قفزة ثقة في فرضية.

الوعي والقدرة على الإدراك: مفهومان مختلطان

في الدعاية التجارية، غالباً ما تخلط الشركات بين “الوعي” و"القدرة على الإدراك". يشير مكلي لاند إلى أن الوعي يتعلق فقط بمعالجة المعلومات والرد عليها من العالم الخارجي؛ بينما تتعلق القدرة على الإدراك بالسعادة والألم، مما يؤثر على الوضع الأخلاقي.

لقد ذكر أنه إذا كانت الذكاء الاصطناعي مجرد نظام حسابي، فإن المخاطر الأخلاقية تكون محدودة؛ ولكن إذا كانت النماذج المستقبلية تمتلك القدرة على الإدراك، يجب على البشر إعادة النظر في حدود المسؤولية.

القدرة على الإدراك هي الأمر الحاسم. إذا كانت الآلة لا تشعر بالألم، فلا حاجة للناس للقلق بشأن رفاهيتها.

إسقاط المشاعر وإساءة استخدام الموارد

لرفع مستوى تفاعل المستخدمين، قامت العديد من شركات التكنولوجيا الحالية بإعطاء الروبوتات الدردشة نبرة إنسانية لاستدراج الإسقاط العاطفي.

قال مكليلاند إن هذا ما يسمى “سم الوجودية”، لأن المجتمع قد يخطئ في تخصيص الموارد: إن هذه الضجة حول الوعي الاصطناعي لها دلالة أخلاقية على تخصيص موارد البحث.

تظهر المزيد والمزيد من الأدلة أن الروبيان قد يكون قادرًا على الشعور بالألم، ومع ذلك، نحن نقتل حوالي 500 مليار روبيان كل عام.

من الصعب بالطبع اختبار ما إذا كانت الجمبري لديها وعي، لكنه ليس بالصعوبة نفسها لاختبار وعي الذكاء الاصطناعي…

فراغ التنظيم ولعبة المسؤولية

في سياق تخفيض التنظيم، يسهل على الشركات السيطرة على حق تفسير “هل تمتلك الذكاء الاصطناعي روحًا”. عندما تكون هناك حاجة تسويقية، يمكن للشركات أن تدعي أن النموذج يمتلك ذاتًا؛ وعندما يحدث خطأ في النظام يتسبب في أضرار، يمكنهم القول إن المنتج مجرد أداة، محاولين التنصل من المسؤولية. دعا مكليلاند المشرعين إلى إنشاء إطار اختبار موحد لرسم حدود واضحة بين المخاطر والابتكار.

ربما تكون الأسواق المالية تفرش السجادة الحمراء لـ “استيقاظ AGI”، ولكن قبل أن يتمكن العلم من التحقق من قدرة الذكاء الاصطناعي على الإدراك، قد يكون الاعتراف بالجهل والحفاظ على مسافة حذرة هو الخيار العقلاني.

!