كلود يشارك في تطوير نسخته التالية تحت إشراف بشري

أعلنت شركة «أنثروبيك» الخميس أن نموذجها للذكاء الاصطناعي «كلود» بات يساعد في تطوير النسخة التالية الأكثر ذكاءً منه، فيما تتصاعد دعوات من قادة في القطاع إلى إبطاء وتيرة تطوير هذه التكنولوجيا بسبب مخاوف تتعلق بالسلامة.

وقالت الشركة إن «كلود» يقود 26% من أعمال البحث والتطوير الخاصة بنماذجها، بمعنى أنه يستطيع إنجاز معظم المهمة من بدايتها إلى نهايتها انطلاقًا من توجيه عام، مع بقائه تحت إشراف بشري. وأكدت أنه لا يعمل باستقلالية كاملة حتى الآن.

وبحسب «أنثروبيك»، يُنجز نحو 90% من أعمال البحث والتطوير بالتعاون مع «كلود»، أي إن النموذج قادر على تنفيذ أجزاء كبيرة من العمل تحت توجيه بشري مباشر ومكثف.

وأوضحت الشركة في تدوينة أن النماذج القادرة على تسريع تطويرها الذاتي قد تجعل فهم البشر لهذه الأنظمة أو السيطرة عليها أكثر صعوبة. ودعت إلى تقليص الفجوة بين ما تعرفه مختبرات الذكاء الاصطناعي المتقدمة وما يعرفه الجمهور، عبر قياس تطور الذكاء الاصطناعي بصورة أفضل، والإفصاح العلني عن تلك القياسات، وإتاحة الفرصة للمجتمع لاتخاذ قرار بشأن كيفية استخدام هذه المعلومات.

وقالت إن نشر هذه المؤشرات قد يساعد على فهم مدى اقتراب مختبرات الذكاء الاصطناعي الرائدة من بلوغ «التحسين الذاتي التكراري»، أي قدرة النموذج على بناء خليفته بصورة مستقلة. كما حثت مطوري الذكاء الاصطناعي الآخرين على نشر مؤشرات مماثلة بانتظام، باستخدام منهجية علنية تسمح بمقارنة الأرقام مع مرور الوقت، وربما بين المختبرات المختلفة.

ولم يتضح من إفصاح «أنثروبيك» مدى اعتقادها بقربها من تحقيق هذا التحسين الذاتي التكراري. لكن مساهمة «كلود» في البحث والتطوير زادت سريعًا: ففي فبراير لم يكن يقود أي جزء من هذا العمل، ثم بلغ نصيبه ربع أعمال البحث والتطوير بعد 6 أشهر، مسجلًا هذا المستوى في أغسطس.

وكشفت الشركة أيضًا أن نحو 30,000 وكيل برمجي كانوا ينفذون أعمالًا في البحث والهندسة حتى أغسطس. وقالت إن تدابير الإشراف على هؤلاء الوكلاء ضرورية لرصد مدى اكتشاف أنظمة المراقبة للسلوك غير المنضبط. وكانت «أنثروبيك» قد تعهدت أخيرًا بإشراك مقيمين خارجيين مستقلين يعملون من داخل الشركة لمراقبة جهود السلامة.

ويأتي الإعلان بينما يدعو عدد من الشخصيات البارزة في قطاع الذكاء الاصطناعي، يتقدمهم الرئيس التنفيذي لـ«أنثروبيك» داريو أمودي، إلى إبطاء تطوير التكنولوجيا. وبدأ جانبًا كبيرًا من النقاش الأخير بشأن سلامة الذكاء الاصطناعي باحث في الشركة استقال الأسبوع الماضي محذرًا بشدة من التهديدات التي قد تشكلها التكنولوجيا على البشرية. ومنذ ذلك الحين، أيد أمودي والرئيس التنفيذي لشركة «أوبن إيه آي» سام ألتمان وإيلون ماسك وقادة تقنيون آخرون فكرة التباطؤ، بينما عارضها قادة آخرون في القطاع والرئيس دونالد ترامب.