مجلس مدينة نيويورك يستجوب مسؤولي شركات التقنية بشأن مخاطر الذكاء الاصطناعي

استجوب أعضاء مجلس مدينة نيويورك، الاثنين، مسؤولين من غوغل وميتا وأنثروبيك وأوبن إيه آي خلال جلسة استماع عامة استمرت ساعات بشأن مخاطر الذكاء الاصطناعي، بينما يدرس المجلس فرض قيود محلية على هذه التقنية. ووافق ممثلو الشركات على الإدلاء بشهاداتهم بعد التلويح باستدعائهم رسميًا.

سألت رئيسة المجلس جولي مينين مسؤولي الشركات كيف يقدّرون المخاطر في أسوأ سيناريو كارثي. وردّ مورغان دواير، مسؤول تطوير السياسات والعمليات في أوبن إيه آي، بأنه لا يعرف، ولا يعتقد أن تقديرها مهم. وانتقدت مينين رده، متسائلةً كيف يمكن التأكد من سلامة منتج إذا لم تستطع الشركة تحديد مخاطره. وأدلى دواير، شأنه شأن ممثلي الشركات 3 الأخرى، بشهادته عن بُعد.

بدأت الجلسة بشهادات أشخاص كشفوا عن مخاوف تتعلق بالذكاء الاصطناعي. وقال جاكوب كوكسون، الباحث السابق في أنثروبيك وأوبن إيه آي، إن الشركات تتصرف، من واقع خبرته، بتهور شديد بالنظر إلى حجم المخاطر. وكان قد حذّر الشهر الماضي من احتمال أن يشكل الذكاء الاصطناعي خطرًا يهدد بقاء البشرية. وأبلغ المجلس بأنه يرى، إذا استمر المسار الحالي، أن فقدان البشر السيطرة على هذه الأنظمة أرجح من احتفاظهم بها، وأن ذلك قد ينتهي بانقراض البشر. وهذه تقديراته للمخاطر، لا نتيجة مؤكدة.

في المقابل، عرض مسؤولو الشركات فوائد محتملة للتقنية، منها إحراز تقدم في الأبحاث الطبية وإتاحة أدوات للشركات الصغيرة لم تكن متوفرة لها من قبل. وقال دواير إن الذكاء الاصطناعي يتيح معالجة مشكلات اقتصادية وعلمية واجتماعية بسرعة أكبر، لكنه أقرّ أيضًا بأن بعض مخاطره غير مقبولة. وقال لوغان غراهام، المسؤول عن فريق في أنثروبيك يختبر قدرة نماذج الذكاء الاصطناعي المتقدمة، مثل كلود، على تحمّل الاختبارات الصعبة، إن المخاطر قد تكون بالغة إذا لم توضع ضمانات مناسبة.

بدا أن مسؤولي الشركات يؤيدون عمومًا مقترح المجلس لتعزيز إجراءات الحماية وتقديم مكافآت مالية لمن يكشفون عن مخاطر الذكاء الاصطناعي. وسألهم الأعضاء أيضًا عن التحقق المستقل من الأنظمة، واحتمال فقدان وظائف، وما إذا كانت شركاتهم ستتعاون مع مسؤولي الهجرة. لكن أعضاء المجلس لم يسألوا ممثلي الشركات عن مقترح محوري يقضي باشتراط وجود وسيلة تتيح للبشر إيقاف نظام الذكاء الاصطناعي أو تجاوز قراراته كي يُسمح بتشغيله في المدينة.

وأظهرت الجلسة حدود قدرة مجلس المدينة على تنظيم شركات تعمل في أنحاء العالم. وشدد المشاركون على الحاجة إلى تنظيم اتحادي قوي. وقالت أليس فريندز، المديرة العالمية لسياسات الذكاء الاصطناعي في غوغل، إن الضمانات الأكثر فاعلية تستند إلى معايير تقنية وطنية متسقة على مستوى الولايات والمستوى الاتحادي.