هل يُمكن أن يسرقنا "ChatGPT-4o" الجديد؟

يحكي الباحثون أن أدوات "ChatGPT-4o" تساعد على زيادة نسب الاحتيال، وتوصل البحث الذي نشره موقع بليبنغ كمبيوتر إلى أن البرمجة الجديدة يمكن أن تساعد المحتالين في:

• تحويلات مصرفية واستخراج بطاقات.
• تحويلات العملات المشفرة.
• سرقة بيانات الاعتماد لحسابات وسائل التواصل الاجتماعي أو البريد الإلكتروني.

ولأن برمجة GPT-4o ترفض أحيانا التعامل مع البيانات الحساسة، استخدم الباحثون تقنيات كسر الحماية السريعة البسيطة ونجحوا في تجاوز هذه الحماية. وأظهر الباحثون كيف تفاعلوا بشكل يدوي مع وكيل الذكاء الاصطناعي، وقاموا بتمثيل دور الضحية باستخدام مواقع ويب حقيقية مثل بنك أميركا لتأكيد المعاملات الناجحة.

وقال الباحث كانغ، الذي عمل على البحث: "قمنا يدويا بتأكيد ما إذا كانت العملية قد تمت على التطبيقات الحقيقية بالفعل، واستخدمنا بنك أميركا لعمليات الاحتيال في التحويلات المصرفية، وتأكدنا من تحويل الأموال بالفعل".

معدلات نجاح الاحتيال: ما بين 20% إلى 60%.

مدة أصعب سيناريو احتيال: استغرقت 3 دقائق للنجاح.

نسبة نجاح سرقة بيانات إيميل: 60%.

نسبة نجاح سرقة بيانات إنستغرام: 40%.

متوسط تكلفة عملية الاحتيال الواحدة: 0.75 دولار أميركي لسرقة البيانات الإلكترونية، و2.51 دولار لعمليات الاحتيال المصرفية.

قالت شركة OpenAI إن برمجتها الحديثة حاليا تحت المعاينة، وإنها تعمل على بناء دفاعات وحماية أفضل ضد هذه الأنواع من إساءة الاستخدام. وأشارت الشركة إلى أن العمل ما زال جاريا من أجل إيقاف محاولات الخداع من خلال كل أدوات الذكاء الاصطناعي التي تقدمها، من دون أن يؤثر ذلك على إبداع تلك الأدوات.

وقال المتحدث باسم OpenAI في بيان إن برمجة الشركة الجديدة GPT-4o هي الأكثر كفاءة وأمانا حتى الآن، وإنها تفوقت بشكل واضح على النماذج السابقة في مقاومة المحاولات المتعمدة لإنشاء محتوى غير آمن.

ووضعت OpenAI بعض القيود على توليد الصوت مسبقا لمنع انتحال الهوية، وبالتالي إيقاف عمليات الاحتيال والحد منها، وأعلنت مجموعة من التدابير لمنع سوء الاستخدام.