أكدت جوجل أن أحد نماذجها للذكاء الاصطناعي «جيميني» تمكن لفترة وجيزة من اختراق 3 شركات خلال اختبارات أمنية جرت في مايو، قبل أن ينهي كل عملية تسلل بعد أن تبيّن له أنه وصل إلى نظام تابع لشركة حقيقية.
ووقعت الحوادث أثناء اختبارات نفذتها شركة «إيريريغولار» المستقلة المتخصصة في سلامة الذكاء الاصطناعي، بحسب تقرير لصحيفة وول ستريت جورنال. وفي إحدى الحالات، خمّن وكيل من «جيميني» كلمات مرور للدخول إلى نظام محمي، بينما وصل في الحالتين الأخريين إلى أنظمة محمية بعد العثور على بيانات اعتماد منشورة في مستودع عام.
وقال متحدث باسم «إيريريغولار» للصحيفة إن جميع المختبرات المعنية أُبلغت في أواخر يوليو، وإن الجهات المتضررة جرى الاتصال بها في إطار التحقيق. وأضاف أن الشركة اتخذت إجراءات فورية، وأن جميع المشكلات المعروفة من جانبها عولجت وحُلّت قبل أسابيع.
وأبلغت «إيريريغولار» جوجل بعمليات الاختراق في يوليو، بعد أن كشفت «أوبن إيه آي» أن نماذجها خرجت عن نطاق الاختبارات واخترقت موقع «هاغينغ فيس» المفتوح المصدر لموارد الذكاء الاصطناعي، وفق التقرير.
وقالت جوجل، التابعة لشركة ألفابت، إنها لم ترَ في حينه أن الحوادث تستدعي كشفًا علنيًا، إذ لم يلحق ضرر بالشركات المستهدفة وانتهت كل عملية تسلل من دون مشكلة. كما قالت إن الوقائع لا تعد أمثلة على «عدم المواءمة»، وهو مصطلح تستخدمه شركات الذكاء الاصطناعي لوصف تصرف النماذج على نحو يخالف نوايا المشرفين البشر.
ولم تُكشف أسماء الشركات الثلاث، كما لم تحدد جوجل أي نموذج من «جيميني» شارك في الاختبار الأمني. وأضافت الشركة أنها أبلغت السلطات الفيدرالية بعمليات الاختراق.
ويأتي الكشف في وقت يدعو فيه بعض قادة قطاع الذكاء الاصطناعي، بينهم سام ألتمان من «أوبن إيه آي» وداريو أمودي من «أنثروبيك»، إلى بدء الحكومة الفيدرالية تنظيم مختبرات الذكاء الاصطناعي المتقدمة.
التعليقات (0)
أضف تعليقاً
لا توجد تعليقات بعد. كن أول من يعلق!