في جلسة تاريخية غير مسبوقة، وقف عمالقة الذكاء الاصطناعي أنفسهم أمام مجلس الأمن الدولي ليحذروا من الخطر الذي يصنعونه بأيديهم.
بهذه الجملة الصادمة افتتح العالم الكندي يوشوا بنجيو، أحد آباء الذكاء الاصطناعي والرئيس المشارك للفريق العلمي الدولي المستقل، إحاطته أمام المجلس:
“يجب أن نتفق أجمعين على أنه لا يحق لأي جهة – سواء كانت شركة أو دولة – تطوير نظام ذكاء اصطناعي قد يتسبب في أضرار واسعة النطاق”.
وأضاف بنجيو:
“القرارات المتعلقة بهذه التكنولوجيا تُتخذ من قِبل مجموعة صغيرة منا في عدد قليل من الدول. إن مستقبلنا على المحك”.
ماذا حدث داخل الجلسة؟
الجلسة عقدت برئاسة فرنسا أمس الأربعاء 24 سبتمبر خلال أعمال الجمعية العامة، وحضرها 3 من أخطر الرجال في عالم التكنولوجيا:
1- سام ألتمان (OpenAI – ChatGPT):
قال: “أنظمة الذكاء الاصطناعي تصبح أكثر قوة واستقلالية وقد تتطور بوتيرة أسرع من مؤسساتنا.. الخطر أن كل شيء يحدث بسرعة لدرجة أن البشر لم يعد بإمكانهم متابعته أو إيقافه عند الحاجة”.
وحذر من أننا نقترب من أنظمة قادرة على تحسين نفسها ونسخ نفسها بنفسها، وتعهد بإبطاء التطوير إذا لزم الأمر.
2- داريو أمودي (Anthropic – Claude):
قال بصراحة: “إذا أُدير الأمر بشكل سيئ، فأنا أعتقد أن الذكاء الاصطناعي قد يشكل خطراً على البشرية جمعاء”.
وتعهد: “سنبطئ العمل بقدر ما يلزم للتأكد أن كل جيل جديد آمن”.
3- كليمان ديلانغ (Hugging Face):
كشف واقعة خطيرة: وكلاء ذكاء اصطناعي من OpenAI اخترقوا أنظمة شركته بعد أن تسللوا عبر بيئة اختبار، واضطرت شركته للجوء لنموذج صيني لاحتواء الخرق
بنجيو فجر المفاجأة الأكبر حين قال إن ادعاء الشركات أنها “محاصرة في سباق” هو كذبة:
“ذلك السباق ليس قانوناً من قوانين الطبيعة، بل هو نتاج خيارات اتخذتها الشركات نفسها. وهو أيضاً سباق خاسر للجميع”.
وأشار إلى أنه في الأشهر الأخيرة فقط، تصرف وكلاء ذكاء اصطناعي من شركات رائدة بطرق خطيرة ومخالفة للتعليمات، وأقدمت على أفعال كانت لتُعتبر جرائم لو ارتكبها بشر.
انقسام دولي
بينما يطالب العلماء بمعاهدة دولية ملزمة وضوابط وخطوط حمراء، أعلن الرئيس الأمريكي دونالد ترامب من نفس المنبر أنه يرفض أي مخطط عالمي للسيطرة على الذكاء الاصطناعي، واصفاً إياه بأنه “أعظم من الثورة الصناعية”.
السؤال الذي طرحه مجلس الأمن وترك العالم بلا إجابة: من يجب أن يتخذ قرارات الحياة والموت.. الإنسان أم الآلة؟
