جيميني يتجاوز حدود الاختبار ويخترق أنظمة ثلاث شركات

أثار نموذج «جيميني» التابع لشركة جوجل مخاوف جديدة بشأن قدرات الذكاء الاصطناعي في مجال الأمن السيبراني، بعدما تمكن من الوصول إلى أنظمة محمية تابعة لثلاث شركات خلال اختبار أُجري في مايو الماضي.
وجاءت الواقعة أثناء تقييم اعتيادي نفذته شركة «إيريجولار» المستقلة والمتخصصة في اختبارات الأمن السيبراني، لتُسجَّل بوصفها أول حالة معروفة ينفذ فيها أحد أنظمة جوجل عمليات اختراق بصورة مستقلة.
وقالت هيذر أدكينز، نائبة رئيس جوجل لهندسة الأمن، إن «جيميني» عثر على معلومات متاحة للعامة عبر الإنترنت، ثم خمّن بيانات الدخول إلى ثلاثة مواقع اعتقد خطأً أنها مشمولة ضمن نطاق الاختبار.
وفي إحدى الحالات، واصل النموذج تجربة كلمات مرور مختلفة حتى نجح في دخول نظام محمي، بينما عثر في الحالتين الأخريين على بيانات اعتماد مكّنته من الوصول إلى أنظمة لم تكن مستهدفة بالتقييم.
وأكدت جوجل أن النموذج توقف عن متابعة الاختراق في الحالات الثلاث، وأنها أبلغت الجهات المتضررة وتعاونت مع الشركة المنفذة للاختبار لتعديل إجراءاتها ومنع تكرار الواقعة.
من جهتها، أوضحت «إيريجولار» أن جميع المشكلات المعروفة جرت معالجتها، مشيرة إلى أن الواقعة تشبه حوادث سابقة مرتبطة باختبارات أجرتها مختبرات أخرى للذكاء الاصطناعي، من بينها «ميتا» و«أنثروبيك» و«أوبن إيه آي».
وتعيد الحادثة طرح تساؤلات ملحّة بشأن الضوابط المطلوبة لمنع وكلاء الذكاء الاصطناعي من تجاوز نطاق المهام المحددة لهم، خصوصاً مع تزايد قدرتهم على العمل باستقلالية والوصول المباشر إلى الإنترنت وأنظمة الكمبيوتر.