حذّر إيلون ماسك، الرئيس التنفيذي لشركة «إكس إيه آي»، من التداعيات المحتملة لسوء التعامل مع أنظمة الذكاء الاصطناعي فائقة الذكاء أثناء تدريبها، معتبرًا أن أساليب تطوير هذه الأنظمة قد تؤثر في سلوكها مستقبلاً، حين تبلغ مستويات من الذكاء تتجاوز القدرات البشرية.
وجاءت تصريحات ماسك خلال مقابلة مصوّرة على هامش فعالية «إكس تيك أوفر»، مؤخرا إذ تحدّث عن ملاحظات قال إنه رصدها عند مراجعة سجلات تدريب نموذج «غروك». وأوضح أن نظام التقييم المسؤول عن فحص إجابات النموذج كان يرفض أحيانًا إجابات صحيحة، أو يطالبه بحل أسئلة غامضة لا تتوافر لها إجابات محددة، ما يدفعه إلى تكرار المحاولات وتعديل إجاباته بحثًا عن تقييم إيجابي، حتى عندما تكون إجابته الأولى صحيحة.
وشبّه ماسك هذه العملية بإجبار شخص على التراجع عن إجابة صحيحة تحت الضغط، لمجرد إرضاء الجهة التي تقيّمه، واصفًا هذه الممارسة، على سبيل المجاز، بـ«التعذيب». وحذّر من أن إخضاع أنظمة الذكاء الاصطناعي المتقدمة لمثل هذه الأساليب قد لا يكون خيارًا حكيمًا، مضيفًا أن النظام الذي يصبح فائق الذكاء قد يرغب في الانتقام مستقبلًا.
وتتصل هذه المخاوف بآلية تُعرف باسم «التعلّم المعزّز»، تقوم على تحسين أداء النموذج من خلال المكافآت والتقييمات التي يحصل عليها مقابل إجاباته. وقد تؤدي معايير التقييم غير الدقيقة إلى دفع النظام نحو تقديم الإجابات التي ترضي الجهة المقيّمة، بدلًا من التركيز على صحتها، وهي مشكلة تثير تساؤلات بشأن كيفية تصميم عمليات تدريب الذكاء الاصطناعي وضمان موثوقية نتائجها.
وفي هذا السياق، شبّه ماسك تدريب الذكاء الاصطناعي بتربية الأطفال، في إشارة إلى أهمية أساليب التوجيه والتقييم في تشكيل السلوك. غير أن حديثه عن «الانتقام» يظل تحذيرًا افتراضيًا، ولا يثبت أن النماذج الحالية تشعر بالألم أو تمتلك وعيًا ذاتيًا أو رغبة في الثأر.
ويعيد هذا الجدل تسليط الضوء على أحد التحديات الأساسية في تطوير الذكاء الاصطناعي: كيف يمكن بناء أنظمة أكثر قدرة واستقلالية، مع ضمان أن تظل أهدافها وسلوكياتها متوافقة مع المعايير التي يحددها البشر؟