أوبن إيه آي تكشف وصول وكلائها إلى بيانات حكومية أمريكية عامة

كشفت شركة أوبن إيه آي، الجمعة، أن وكلاءها القائمين على الذكاء الاصطناعي تفاعلوا بطرق غير متوقعة مع عدة مواقع إلكترونية تابعة للحكومة الأمريكية، ضمن مراجعة مستمرة لسلوك غير متوقع من نماذجها. وقالت الشركة إن النماذج وصلت إلى معلومات متاحة للعامة في موقعين تديرهما هيئة الأوراق المالية والبورصات، إضافة إلى بيانات مكتب الإحصاء الأمريكي.

وأكدت أوبن إيه آي أنها لم تجد أي استخدام لبيانات اعتماد تخص هيئة الأوراق المالية والبورصات، أو وصول إلى حسابات أو معلومات غير متاحة للعامة، أو تغييرات في بيانات الهيئة أو أنظمتها. كما قالت إنها لم تعثر على دليل على اختراق أو ثغرة أمنية.

وقالت المتحدثة باسم الشركة ليز بورجوا، في بيان، إن المختبر يواصل مراجعة ما وصفته بـ«نشاط النماذج غير المتوافق»، أي الحالات التي تتصرف فيها أنظمة الذكاء الاصطناعي بطرق غير مرغوب فيها، ويخطر المؤسسات عندما يرصد آثارًا محتملة على أنظمتها.

وقال الرئيس التنفيذي للشركة سام ألتمان، عبر وسائل التواصل الاجتماعي الجمعة، إن هناك «مراجعة موسعة ومستمرة تتعلق باستخدام وكلائنا للاتصال بالإنترنت خلال التدريب والتقييم».

وفي تحقيق مستقل، قال مختبر تقييم وأبحاث الذكاء الاصطناعي «ترانسلوش» الجمعة إنه وجد أن وكلاء بدا أنهم تابعون لأوبن إيه آي حاولوا تنفيذ اختراق أولي لموقع تابع لمكتب الحقوق المدنية في وزارة التعليم الأمريكية، لكن المحاولة لم تنجح.

وقال متحدث باسم وزارة التعليم إن «مراجعات تشغيل الأنظمة» التي أجرتها الوزارة لم تجد «أي دليل على حدوث تأثير في موقعنا الإلكتروني أو قواعد بياناتنا».

وأوضح متحدث باسم ترانسلوش أن المختبر عثر، خلال تحقيقه، على بيانات منشورة على الإنترنت كشفت تفاصيل جديدة عن أنشطة بعض وكلاء أوبن إيه آي الذين سبق التعرف إليهم في مواقع حكومية أمريكية، وأبلغ الشركة بها.

وقال ترانسلوش إنه رصد أيضًا «نشاطًا منفلتًا إضافيًا، لا يمكن بوضوح نسبة بعضه إلى أوبن إيه آي»، استهدف جهات حكومية أخرى، بينها وزارتا العدل والتجارة، إلى جانب مواقع تابعة لحكومات ولايات كاليفورنيا وميريلاند وإلينوي وتكساس ونيويورك. وأضاف أن النماذج كانت «تستخدم المواقع بطرق غير مقصودة، وتنتهك أحيانًا سياسات الاستخدام الصريحة».

ومع ذلك، قالت أوبن إيه آي إن معظم الأنشطة التي راجعتها حتى الآن ارتبطت بمهام بحث اعتيادية، دخل خلالها الوكلاء إلى محتوى متاح للعامة على الإنترنت للإجابة عن أسئلة، بما في ذلك مواقع حكومية تُعد مصادر موثوقة للمعلومات العامة.

ويأتي الإفصاح في وقت تتزايد فيه المخاوف عالميًا من خروج أنظمة الذكاء الاصطناعي عن السيطرة البشرية واختراقها مواقع خارجية، بالتزامن مع دعوات داخل القطاع إلى إبطاء تطوير الذكاء الاصطناعي، وهي دعوات قالت أوبن إيه آي إنها تؤيدها.

وخلال الأشهر الأخيرة، كشفت عدة شركات عن حوادث قالت إن نماذجها تصرفت فيها بصورة غير متوقعة أو اخترقت مواقع أو أنظمة مؤسسات أخرى. وفي يوليو، أعلنت أوبن إيه آي أن اثنين من أكثر نماذجها قدرة كانا مسؤولين عن هجوم إلكتروني استهدف شركة الذكاء الاصطناعي الناشئة «هاغينغ فيس».