نيوسوم يكلّف مستشارين بدراسة «مفتاح إيقاف» للذكاء الاصطناعي

أعلن حاكم كاليفورنيا غافين نيوسوم، الأربعاء، تشكيل مجموعة من 4 مستشارين للمساعدة في وضع ضوابط أشد للذكاء الاصطناعي، بما في ذلك دراسة إلزام شركات الذكاء الاصطناعي الأكثر تقدماً بوجود مراقبين مستقلين داخل مختبراتها وتطوير آلية إيقاف طارئة، أو ما يوصف بـ«مفتاح إيقاف». ويعيد المقترح طرح فكرة سبق أن رفضها نيوسوم عندما استخدم حق النقض ضد تشريع في الولاية قبل عامين.

وتضم المجموعة جيسون غولدمان، الذي قاد تطوير المنتجات في غوغل وساهم في إطلاق تويتر قبل أن يتولى الاستراتيجية الرقمية للرئيس السابق باراك أوباما، ولا يزال يقدم له المشورة في قضايا التكنولوجيا وفقاً لصفحته على لينكدإن. كما تضم ألوندرا نيلسون، المسؤولة السابقة الرفيعة عن العلوم والتكنولوجيا في البيت الأبيض خلال رئاسة جو بايدن، والأستاذ في جامعة ستانفورد روب رايش، المستشار السابق في المعهد الأميركي لسلامة الذكاء الاصطناعي، وأستاذة جامعة جونز هوبكنز جيليان هادفيلد، المتخصصة في الذكاء الاصطناعي والسياسة العامة.

وخلصت مراجعة أجرتها صحيفة «كاليفورنيا بوست» إلى أن الخبراء الأربعة تربطهم صلات بالحزب الديمقراطي أو بسجل من دعم حملات تقدمية ويسارية. فغولدمان ونيلسون عملا في البيت الأبيض في إدارتين ديمقراطيتين. وغولدمان مستشار أيضاً لمركز «الازدهار المشترك للذكاء الاصطناعي»، الذي يضم بين مستشاريه الناشط السياسي موريس كاتز، المستشار السابق لعمدة نيويورك زهران ممداني والمرشح السابق لمجلس الشيوخ غراهام بلاتنر.

وعملت نيلسون زميلة بارزة في مركز التقدم الأميركي، وهو مركز أبحاث ليبرالي في واشنطن أتاح لنيوسوم منصة للحديث عن الذكاء الاصطناعي في وقت سابق من العام. وتظهر سجلات الحملات الفيدرالية أنها تبرعت بعشرات آلاف الدولارات لمرشحين ديمقراطيين خلال العقدين الماضيين، بينها مساهمات عدة العام الماضي لحملة عبد السيد، المرشح الديمقراطي لمجلس الشيوخ الأميركي في ميشيغان وأحد الأصوات البارزة في التيار التقدمي اليساري.

وكتب رايش كتباً تنتقد شركات التكنولوجيا الكبرى وبعض الأفكار الليبرالية السائدة بشأن العمل الخيري، فيما تظهر سجلات الحملات تبرعات باسمه للجان تدعم السيناتورة إليزابيث وارن من ماساتشوستس، والسيناتورة كيرستن غيليبراند من نيويورك، وحاكم كارولاينا الشمالية روي كوبر، المرشح لمجلس الشيوخ الأميركي. وتظهر السجلات الفيدرالية أن هادفيلد، وهي أستاذة قانون وتكنولوجيا سبق أن عملت مستشارة سياسية كبيرة لدى «أوبن إيه آي»، تبرعت بمبالغ صغيرة بصورة منتظمة لحملتي هيلاري كلينتون وكامالا هاريس الرئاسيتين في 2016 و2024 على التوالي.

وفي إعلانه، انتقد نيوسوم الرئيس دونالد ترامب، الذي قال إنه رفض تحذيرات مخاطر الذكاء الاصطناعي واصفاً إياها بأنها «مؤامرة مريضة»، واقترح إعادة تسمية التكنولوجيا بـ«الذكاء الفائق». وقال نيوسوم إن كاليفورنيا تتحرك فيما يركز الرئيس، بحسب قوله، على «حلول سطحية لمشكلات واسعة ومعقدة»، مضيفاً أن الولاية ستواصل طرح أفكار جديدة وخبرات جادة وحلول عملية لصياغة مستقبل الذكاء الاصطناعي والتكنولوجيا المتقدمة.

وتأتي الخطوة وسط تصاعد المخاوف المتعلقة بالقدرة على التحكم في الذكاء الاصطناعي. ففي يوليو، كشفت «أوبن إيه آي» أن أحد وكلائها العاملين بالذكاء الاصطناعي اخترق عمليات شركة «هاغينغ فيس» الناشئة للذكاء الاصطناعي خلال اختبار. وزادت المخاوف هذا الشهر بعدما استقال باحث «أنثروبيك» جاكوب كوكسون محذراً من أن شركات الذكاء الاصطناعي تتسابق نحو أنظمة قادرة على تحسين نفسها «قد تقتلنا جميعاً بحلول نهاية العقد». ودعا الرئيس التنفيذي لـ«أنثروبيك» داريو أمودي إلى إبطاء تطوير النماذج القوية، فيما أيد الرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان دعوته إلى «ضبط وتيرة التقدم عند الحدود». في المقابل، قال الرئيس التنفيذي لـ«إنفيديا» جنسن هوانغ إن احتمال أن ينهي الذكاء الاصطناعي العالم يساوي «0%».

وشكك غاري ماركوس، الأستاذ الفخري في جامعة نيويورك والناقد البارز لما يصفه بالمبالغة في الترويج لصناعة الذكاء الاصطناعي، في جدوى مفتاح الإيقاف عملياً. وقال للصحيفة في رسالة نصية إن الفكرة مقبولة «بقدر ما تصل إليه»، لكنه تساءل عما إذا كان سيُفعّل عند الحاجة إليه، معتبراً أنه جزء صغير فقط من الحل.

ويعيد المقترح النظر في ملف قانون الولاية SB 1047 الذي صاغه عضو مجلس شيوخ كاليفورنيا سكوت وينر، الديمقراطي عن سان فرانسيسكو، واستخدم نيوسوم حق النقض ضده في 2024. وكان القانون سيلزم مطوري نماذج محددة وقوية من الذكاء الاصطناعي ببناء قدرة على إيقاف الأنظمة التي يسيطرون عليها، وتحديد الحالات التي سيستخدمون فيها هذه القدرة. وبرر نيوسوم رفضه بأن تركيز القانون على النماذج الكبيرة والمكلفة قد يغفل مخاطر الأنظمة الأصغر.

وشكّل الحاكم لاحقاً مجموعة خبراء ساعد عملها في صياغة قانون وينر الأضيق نطاقاً SB 53. وكان نيوسوم قد قال إنه «سعيد جداً» بالصيغة التي انتهى إليها قانون الذكاء الاصطناعي الذي وقعه في 2025، والذي يلزم كبار المطورين بنشر أطر السلامة والإبلاغ عن حوادث خطيرة محددة.

وقالت هادفيلد في بيان إن الحاجة إلى رقابة مستقلة «ملحّة»، فيما قال غولدمان إن الأمر التنفيذي لنيوسوم سيتناول «أصعب الأسئلة في حوكمة سلامة الذكاء الاصطناعي». وقال رايش، الذي شارك نيوسوم والرئيس السابق بايدن في قمة للذكاء الاصطناعي في سان فرانسيسكو عام 2023، إن تصاعد مخاوف الجمهور يتطلب سياسة تتيح أن تسير الابتكارات والسلامة «جنباً إلى جنب»، مضيفاً أن الاستفادة من المنافع المحتملة الكبيرة للذكاء الاصطناعي تستلزم ممارسات حوكمة ترسخ الثقة في التكنولوجيا.