تُجري شركة Anthropic تحقيقًا في احتمال تعرض نموذجها الجديد للذكاء الاصطناعي Mythos لاختراق، بعدما أُتيح في وقت سابق من هذا الشهر لمجموعة صغيرة من الشركات للمساعدة في اكتشاف الثغرات البرمجية.
وقالت الشركة، وهي المطورة لروبوت الدردشة Claude، إنها تراجع تقريرًا عن وصول غير مصرح به إلى Mythos من بيئة أحد مورديها الخارجيين. وأضاف متحدث باسم Anthropic أن الشركة تعمل مع عدد محدود من الموردين الخارجيين لتطوير نماذجها، وأنها حتى الآن لم ترصد أي اختراقات خارج بيئة الموردين أو أي خروقات لأنظمة Anthropic نفسها.
وأكدت Anthropic فتح التحقيق يوم الأربعاء، بعد يوم من تقرير أشار إلى أن مجموعة صغيرة من المستخدمين غير المصرح لهم حصلت على وصول إلى الأداة. وكانت الشركة قد طرحت Mythos في أبريل ضمن مبادرة تحمل اسم Project Glasswing، ووصفت النموذج بأنه أكثر فاعلية من أنظمة الذكاء الاصطناعي المنافسة في رصد الثغرات الأمنية.
وفي ذلك الوقت، شاركت Anthropic الأداة مع مجموعة محدودة من الشركات الكبرى، من بينها Amazon وApple وCisco وJPMorgan Chase وNvidia، وسط مخاوف من إمكانية استغلال النموذج من قبل قراصنة. وذكرت الشركة أن الهدف كان مساعدة هذه الشركات على تعزيز دفاعاتها قبل أن يتمكن جهات خبيثة من الوصول إلى Mythos أو إلى نماذج ذكاء اصطناعي مشابهة.
وكان مسؤولون اتحاديون وخبراء أمن وقادة في مؤسسات عالمية مثل صندوق النقد الدولي قد أثاروا مخاوف بشأن ما قد يحدث إذا وقع Mythos في الأيدي الخطأ. ورغم أن Project Glasswing يهدف إلى حماية الشركات من التهديدات السيبرانية، فإن بعض الخبراء يخشون من أن يُستخدم Mythos أيضًا لاستغلال البنية التحتية التقنية في البنوك والمستشفيات والأنظمة الحكومية وغيرها من المؤسسات.
التعليقات (0)
أضف تعليقاً
لا توجد تعليقات بعد. كن أول من يعلق!