مشروعات في مجلس مدينة نيويورك تفرض «مفاتيح إيقاف» على شركات الذكاء الاصطناعي

طرح مجلس مدينة نيويورك، الجمعة، حزمة مشروعات قوانين لتنظيم شركات الذكاء الاصطناعي العاملة في المدينة، تشمل إلزامها بتوفير «مفاتيح إيقاف» بشرية للأنظمة، والتحقق المستقل من ادعاءات السلامة، مع غرامات تصل إلى 25,000 دولار عن كل مخالفة ومكافآت مالية للمبلّغين عن المخالفات. ومن المقرر أن يناقش أعضاء المجلس الـ51 الحزمة في جلسة نادرة تضم المجلس بكامل أعضائه يوم 5 أكتوبر.

وقالت رئيسة المجلس جولي مينين إن نيويورك «تتحول سريعًا إلى عاصمة التكنولوجيا والذكاء الاصطناعي في العالم»، وإن المدينة تريد تشجيع ذلك، لكنه يفرض في الوقت نفسه مسؤولية أكبر لضمان وجود تدابير حماية مناسبة من العواقب غير المقصودة على سكانها.

ووجهت مينين رسائل إلى رؤساء خمس شركات كبرى في المجال، طالبة حضور جلسة 5 أكتوبر: داريو أموندي من «أنثروبيك»، وسام ألتمان من «أوبن إيه آي»، وسوندار بيتشاي من «غوغل»، وإيلون ماسك من «سبيس إكس»، ومارك زوكربيرغ من «ميتا».

وتنص المقترحات على منع شركات الذكاء الاصطناعي من «تسويق أو عرض للبيع أو نشر» أنظمة الذكاء الاصطناعي في الأحياء الخمسة للمدينة ما لم تحصل على اعتماد من طرف ثالث. وبموجب ذلك، سيكون على الشركات الاستعانة بخبير خارجي لتقييم ادعاءاتها الداخلية المتعلقة بالسلامة.

كما تفرض المشروعات وجود ما تسميه المدينة «مفاتيح إيقاف» لكل أداة ذكاء اصطناعي مستخدمة فيها، وتعرّفها بأنها «تدخل بشري يمكنه إيقاف النظام». ويترتب على عدم الامتثال غرامة قدرها 25,000 دولار عن كل مخالفة.

ويقترح مشروع منفصل ضمن الحزمة نهجًا وُصف بأنه الأول من نوعه على مستوى البلاد، يمنح المبلّغين مكافآت نقدية من الغرامات المحصلة من الجهات المخالفة التي يساعدون في كشفها.

وقالت مينين، خلال مؤتمر صحفي منفصل الخميس، إن المدينة تنظم مختلف القطاعات، في حين تواجه شركات الذكاء الاصطناعي الكبرى الموجودة في نيويورك تنظيمًا محدودًا جدًا. وأوضح متحدث باسم المجلس أن الهيئة تستهدف تنظيم الشركات التي لها مكاتب في المدينة، وأن المقترحات مخصصة لسكان نيويورك ويمكن للمدينة إنفاذها.

ويأتي التحرك بعد إعلان حاكمة الولاية كاثي هوكول، في وقت سابق من الأسبوع، أن الولاية ستلزم شركات الذكاء الاصطناعي بالتسجيل في بوابة حكومية اعتبارًا من نوفمبر، والإبلاغ عن حوادث السلامة الخطرة خلال 72 ساعة.

وقال المجلس في بيان صحفي إن طرح القوانين مدفوع بمخاوف متزايدة من أن تطوير نماذج الذكاء الاصطناعي المتقدمة والحدودية قد ينطوي على مخاطر كارثية محتملة من دون تشديد الرقابة. وتصاعدت هذه المخاوف في وقت سابق من الشهر بعدما استقال الباحث في «أنثروبيك» جاكوب كوكسون، قائلًا إن التكنولوجيا سريعة النمو «قد تقتلنا جميعًا بحلول نهاية العقد».