كيف كشف مصمم "لافندر" بإسرائيل عن نفسه بالخطأ؟

في عام ٢٠٢١، نشر موقع أمازون كتابا غامضا يحمل اسم The Human Machine Team، موقعا باسم الجنرال YS، ويتحدث عن أسرار إحداث التكامل بين الذكائين البشري والاصطناعي.

يشير أمازون إلى أن الكتاب يعالج كيفية الجمع بين الذكاء البشري والذكاء الاصطناعي ليحل تحديات وتهديدات الأمن القومي، ويؤدي إلى النصر في الحرب، ويكون محركًا لنمو البشرية.

ويشير إلى أن الكتاب يقدم وجهة نظر جديدة حول كيفية قيادة الدول والمنظمات إلى المستقبل الذي أصبح الحاضر بالفعل.

أما عن مؤلف الكتاب فهو "العميد YS"، فهو محلل خبير ومدير تكنولوجي وقائد وحدة استخبارات النخبة، والحائز على جائزة الدفاع الإسرائيلية المرموقة لمشروعه لمكافحة الإرهاب القائم على الذكاء الاصطناعي.

ويتناول الكتاب في أحد أقسامه مفهوم "آلة الأهداف" التي تعمل بالذكاء الاصطناعي، والتي تشبه إلى حد كبير تلك الأنظمة بالأهداف التي يعتمد عليها الجيش الإسرائيلي في قصفه لغزة، بحسب الغارديان.

وعلى مدى الأشهر الـ٦ الماضية، نشر الجيش الإسرائيلي العديد من أنظمة دعم القرار المدعومة بالذكاء الاصطناعي والتي طورت وحُسنت بسرعة بواسطة الوحدة 8200 تحت قيادة سارييل.

وتشمل هذه الأنظمة، نظامي لافندر وغوسبل لتوصية الأهداف تم الكشف عنهما في تقارير مجلة +972.

رغم أن ساريل يتنفس "الاستخبارات" بحسب ما يقال عنه إلا أنه ترك عنوان بريد إلكتروني يمكن تتبعه ليتم الوصول اسمه وحسابه على غوغل، وهو ما قاد الغارديان للكشف عن هويته.

وقال متحدث للجيش الإسرائيلي للصحيفة إن هذا العنوان ليس شخصيا لسارييل لكنه "لقضايا تتعلق بالكتاب".

في العقد الأول من القرن الحادي والعشرين، كان سارييل قياديا لمجموعة من الاستخباراتيين الإسرائيليين ذوي التوجهات الأكاديمية المعروفة باسم "الجوقة"، تدعو لإصلاحات داخل أجهزة الاستخبارات الإسرائيلية.

أما الوحدة 8200 التي يقودها سارييل فقد عكست رؤيته حيث بنت جهاز مراقبة واسع النطاق لمراقبة الأراضي الفلسطينية عن كثب، لكن ذلك تحول إلى اتهامات للوحدة بعد هجوم حماس في السابع من أكتوبر نظرا لإهمال جمع المعلومات بالطرق التقليدية.

وفي فبراير الماضي كشفت معاريف عن حالة من الجدل داخل الوحدة بسبب ما حدث في السابع من أكتوبر، حيث قال إن منتقدي سارييل يعتقدون أن إعطاء الأولوية للتكنولوجيا على حساب الأساليب التقليدية أدت إلى كارثة.

في سياق متصل يقول مراسل موقع أكسيوس ووالا العبرية باراك رافيد عبر حسابه على إكس إن بعض ضباط الاحتياط في 8200 الذين يعرفهم منذ سنوات يرون وجوب استقالة يوسي الفورية بسبب انهيار الوحدة التي كانت تحت إمرته.

ويشير إلى أن يوسي سارييل لا يرى نفسه مسؤولا عن التحذير مما حدث في السابع من أكتوبر ولا يعتبره وظيفته على الإطلاق.

تتوفر الوحدة 8200 التابعة لقسم استخبارات النخبة في الجيش الإسرائيلي على نظام ذكاء اصطناعي متقدم يُعرف باسم "هاسبورا".

يستعمل موظفو الاستخبارات في القسم النظام لفحص "الاتصالات والصور والمعلومات من الإنترنت وشبكات الهاتف المحمول، للتأكد من مكان وجود الأفراد"، وفقاً لما صرح به عميل سابق في الوحدة لموقع شركة غراي دايناميكس للاستخبارات الخاصة.

وأوضح العميل أن الوحدة 8200 تقيّم مستوى الثقة فيما يتعلق بالأهداف، وقياس احتمالية وجود المدنيين، لكنه امتنع عن التعليق على الأخطاء المحتملة.

ويفيد خبراء بأن لأنظمة الاستهداف بالذكاء الاصطناعي هامش خطأ يصل إلى 10%، وهو ما يعني أن واحدا من كل 10 أفراد قد لا يكون هدفا عسكريا مشروعا.

وبسبب معدلات الخطأ المرتفعة، شبهت هايدي خلف، المديرة الهندسية المتخصصة في التعلم الآلي في شركة الأمن السيبراني ترايل أوف بيتس، عمل النظام بـ"الاستهداف العشوائي".

إضافة لذلك فهناك نظام لافندر الذي طورته الوحدة، وقد كشفت مجلة 972 +، ذات التوجه اليساري التي أسسها 4 كتاب إسرائيليين في تل أبيب عام 2010، أن الجيش الإسرائيلي البرنامج المستخدم لتحديد أهداف للاغتيال.

ونقلت المجلة عن 6 ضباط استخبارات إسرائيليين -خدموا جميعا في الجيش خلال الحرب الحالية على غزة أن "لافندر" كان له تأثير "أساسي" في القصف وكانوا يتعاملون مع الأهداف التي يحددها لهم البرنامج من دون تردد أو تحقيق دقيق.

وتقول المجلة، إن البرنامج تم تصميمه لتحديد جميع النشطاء المشتبه بهم في الأجنحة العسكرية لحماس والجهاد، بمن فيهم العناصر ذات الرتب المنخفضة، كأهداف محتملة للقصف.

وأوضحت المجلة أنه خلال الأسابيع الأولى من الحرب، حدد "لافندر" ما يصل إلى 37 ألف فلسطيني كمسلحين مشتبه بهم بالإضافة إلى منازلهم، لشن غارات جوية محتملة عليها.

وفي العادة، يخصص الضباط الإسرائيليون نحو "20 ثانية" لمراجعة كل هدف قبل قصفه، فقط للتأكد من أن الهدف هو ذكر، على الرغم من علمهم بأن النظام يرتكب "أخطاء" في نحو 10% من الحالات.