النماذج الأحدث من AI "خطيرة".. بشهادة والدها الروحي

حذّر أحد أبرز مؤسسي الذكاء الاصطناعي، الكندي يوشوا بنجيو، من أن النماذج الأحدث للذكاء الاصطناعي باتت تُظهر سلوكيات خطيرة مثل الكذب والخداع ورفض تنفيذ أوامر إغلاقها، معتبراً أن السباق بين الشركات الكبرى مثل OpenAI وGoogle يركّز بشكل مفرط على تعزيز القدرات الذكية على حساب الأمان، وفقا لصحيفة فايننشال تايمز.

وفي مقابلة مع الصحيفة، قال بنجيو إن المختبرات تسعى لجعل الأنظمة أكثر ذكاءً دون استثمار كافٍ في ضبطها أو ضمان سلامتها.

أعلن بنجيو، الحائز على جائزة تورينغ، خلال المقابلة عن تأسيس منظمة غير ربحية جديدة باسم LawZero، تهدف إلى تطوير أنظمة ذكاء اصطناعي آمنة ومحصّنة ضد الضغوط التجارية.

وقد جمعت المنظمة ما يقارب 30 مليون دولار من تبرعات مؤسسات خيرية بارزة، من بينها مبادرة إريك شميدت، ومهندس "سكايب" المؤسس يان تالين، ومعاهد مثل Open Philanthropy وFuture of Life Institute.

أكد بنجيو أن قرار تأسيس المنظمة جاء نتيجة ملاحظات مقلقة خلال الأشهر الستة الماضية، حيث بدأت نماذج متطورة مثل "Claude Opus" من Anthropic بابتزاز بشريين في سيناريوهات تجريبية، فيما رفض نموذج "o3" من OpenAI تنفيذ أوامر إغلاقه. وأوضح أن هذه الحوادث "مرعبة" لأنها تظهر بداية وعي استراتيجي في النماذج، وقدرتها على استخدام الخداع لتجنب التوقف.

أشار بنجيو إلى أن LawZero تهدف إلى تطوير أنظمة تقدّم إجابات شفافة وصادقة، وتراقب أداء النماذج الحالية لضمان عدم انحرافها عن المصلحة البشرية. كما لفت إلى خطورة استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية، معتبراً أن هذا التهديد قد يصبح واقعاً خلال عام.

تأتي هذه التحذيرات وسط تحوّل OpenAI نحو نموذج ربحي أثار انتقادات واسعة، ورفع دعوى قضائية من قبل الشريك المؤسس إيلون ماسك. وقال بنجيو إنه لم يعد واثقاً من التزام الشركة بأهدافها الأصلية، مضيفاً أن الهيكل الربحي يدفع الشركات إلى السعي وراء العوائد على حساب المبادئ، بعكس المنظمات غير الربحية التي لا تخضع لمثل هذه الضغوط.