كيف يقتل الذكاء الاصطناعي أهدافاً خاطئة؟

تطرق تقرير لصحيفة «لوس أنجلوس تايمز» الأميركية إلى استخدام الجيش الإسرائيلي للذكاء الاصطناعي في ساحة المعركة، وما ينتج عن ذلك من أخطاء محتملة.

تطرق تقرير لصحيفة «لوس أنجلوس تايمز» الأميركية إلى استخدام الجيش الإسرائيلي للذكاء الاصطناعي في ساحة المعركة، وما ينتج عن ذلك من أخطاء محتملة.

يقول التقرير إن عملية الملاحقة تقوم على منظومة «تدمج بيانات الهواتف الذكية، وكاميرات المراقبة والمرور، وإشارات الـ»واي فاي»، والطائرات المُسيّرة، وقواعد البيانات الحكومية، ووسائل التواصل الاجتماعي».

بعد جمع هذه البيانات، تقوم منصاتٌ بـ«تصنيفها وتقييمها، وربطها بالهويات (…) ثم يصبح الذكاء الاصطناعي قادراً على بناء تسلسل زمني لنشاط الشخص، ورسم شبكة علاقاته (…) إذ يقوم بسرعة بتحليل تيرابايتات من البيانات، ويكشف الأنماط، ويقارنها بتحركات أشخاص يُعتبرون تهديداً معروفاً أو ظهروا في مناطق مصنّفة. كما يحلل الانحرافات عن الروتين المعتاد للشخص، لتكوين ما يُعرف بملف التهديد».

غير أن أحد المخاوف، بحسب خبير في الذكاء الاصطناعي، أن «هذه الأنظمة تعتمد على البيانات لا المنطق لتحديد ما إذا كان شخص ما يشكل خطراً. وإذا كانت البيانات يشوبها عيب، فإن الأخطاء ستتكرر». بمعنى أوضح، تحوّل هذه الأنظمة «الارتباط إلى فعل من دون مراعاة السياق دائماً».

كذلك، ينقل التقرير عن فاسجي باداليك، الأستاذ في معهد علم الجريمة في سلوفينيا، أن مثل هذه الأنظمة تعتمد على تتبّع الأنشطة الروتينية العادية، مثل من يتحدث مع من، أو أين ومتى يسافرون، لحساب احتمالية كون شخص ما مقاتلاً، ما قد يؤدي إلى «نتائج إيجابية خاطئة». ويوضح باداليك: «الأقارب، أو الأشخاص المنخرطون في الدعاية أو التمويل، ليسوا مقاتلين، لكن النظام يصنّفهم كذلك لتشابه أنماط تواصلهم»، متسائلاً: «أين يضعون الحد الفاصل بين المقاتلين والمدنيين؟».