نيو أورليانز أول مدينة أميركية كبرى تستخدم الذكاء الاصطناعي للرد على اتصالات 911

بدأت نيو أورليانز توجيه اتصالات الطوارئ على رقم 911 إلى نظام ذكاء اصطناعي يقرر أيها يُحوَّل إلى موظفي تلقي البلاغات، وأيها يتعامل معه النظام الآلي، في خطوة أثارت تحذيرات من احتمال أن تترتب عليها عواقب قاتلة.

وتتلقى دائرة اتصالات أبرشية أورليانز، التي تستقبل أكثر من 1,000 اتصال طوارئ يوميًا ضمن أحد أعلى معدلات الاتصالات في الولايات المتحدة، هذه البلاغات عبر أداة تحمل اسم «فرز مكالمات الطوارئ بالذكاء الاصطناعي». وبدأ استخدام الأداة في أواخر يوليو بعد اختبارها على الخط 311، وهو خط للخدمات غير الطارئة.

ويحلل النظام المكالمات لترتيب أولويات الحالات التي ينبغي أن يتولاها البشر، بينما يتعامل مع البلاغات المتكررة أو منخفضة الأولوية، بهدف منع إغراق موظفي تلقي الاتصالات بالبلاغات.

وشدد المدير التنفيذي للدائرة، كارل فاسولد، على أن الذكاء الاصطناعي لا يحل محل الموظفين البشر. وقال إن النظام سيُستخدم أساسًا عندما يكون المتصل ضمن مسافة تقارب 200 متر من حادث تصادم تم الإبلاغ عنه سابقًا، وفي حال كان جميع موظفي تلقي المكالمات مشغولين.

لكن منتقدين يرون أن النظام قد يسيء فهم مواقف حساسة. وقال منتقد عبر الإنترنت يستخدم اسم «بوكسي» ويقول إنه مستجيب أول وكان يعمل موظف تلقي اتصالات 911 لمدة 11 عامًا، إن ذلك «أسوأ فكرة يمكن التفكير فيها». وأضاف أن بعض المتصلين قد لا يستطيعون التحدث بوضوح أو لديهم لهجات قوية، أو قد يكونون في حالة عنف منزلي ويتظاهرون مثلًا بأنهم يطلبون بيتزا، ما يتطلب القدرة على فهم مشاعرهم وما لا يقولونه صراحة.

وتبدو نيو أورليانز أول بلدية أميركية كبرى تسمح للذكاء الاصطناعي بالرد فعليًا على اتصالات الطوارئ. لكن مدنًا أخرى، منها أتلانتا وسياتل، دمجت الذكاء الاصطناعي في أنظمة 911 بصورة أكثر محدودية؛ إذ تستخدم أتلانتا التقنية لمساعدة الموظفين المباشرين في تحديد مواقع المتصلين بسرعة، بينما بدأت سياتل في 2024 استخدام تقنية مشابهة لمساعدة الموظفين على تقرير من يستحق استجابة سريعة، واستخدمتها لأكثر من عامين من دون إعلان ذلك للجمهور، وفق تحقيق لصحيفة «سياتل تايمز».

ويستند القلق إلى سجل دقة أنظمة الذكاء الاصطناعي، ولا سيما في المحادثات الصوتية. فقد خلصت دراسة في فبراير، استنادًا إلى بيانات جمعتها «نيوزغارد»، إلى أن روبوتات مثل ChatGPT وGemini اختلقت معلومات خاطئة قرابة نصف الوقت، وقدمتها بصوت بدا مقنعًا. كما حذر منتقدون من أن متصلي 911 نادرًا ما يكونون هادئين أو متماسكين أو سهلين في الفهم، بما يزيد خطر سوء التفسير.

وأفاد باحثون أمنيون من جامعة تشجيانغ الصينية، خلال ندوة IEEE للأمن والخصوصية في مايو، بأن أنظمة الصوت المدعومة بالذكاء الاصطناعي عرضة لهجمات خارجية ولانحيازات خفية قد تنشأ من البيانات التي تُغذّى بها. وقالوا إنهم نجحوا في التلاعب بسلوك نماذج صوتية بمعدلات نجاح تراوحت بين 79% و96%، فيما تمكن باحثون أمنيون أيضًا من خداع هذه النماذج ودفعها إلى التصرف على نحو غير صحيح بنسبة وصلت إلى 96% في بعض الاختبارات.

ومع ذلك، قال مسؤولو نيو أورليانز إنهم يعتقدون بقوة أن روبوت 911 يمكن أن يعمل بفاعلية إذا خضع لإشراف بشري، واعتمد على بيانات تدريب شاملة، وحماية قوية للأمن السيبراني، وتنظيم للخوارزميات.