نيويورك أول مدينة تستخدم نظم الذكاء الاصطناعي في تعيين الموظفين الجدد

من المقرر أن تصبح نيويورك أول مدينة أميركية تنظم استخدام تطبيقات وبرامج الذكاء الصناعي في تعيين الموظفين الجدد.

إلا أن التساؤل القائم هنا: هل سيفلح القانون الجديد في تقديم أي فائدة حقيقية؟.

وسوف يبدأ سريان التنظيم الجديد، الذي يحمل اسم «القانون المحلي 144»، خلال الشهور المقبلة، ويقر إطار عمل يتطلب من الأقسام المعنية بالموارد البشرية اختبار أدوات التعيين لديهم المعتمدة على الذكاء الصناعي، تحسباً لمنع وجود أي نمط من التحيز في اختياراتها.

كما يحدد القانون الجديد المواقف التي يتعين على الشركات خلالها إخطار المتقدمين لشغل الوظائف الجديدة بأن التعيينات تعتمد على نظم الذكاء الصناعي.

ومع ذلك، يرى البعض أن القانون الجديد جرى تفريغه من محتوى حقيقي ويعج بالثغرات، الأمر الذي يشكل سابقة خطيرة يمكن أن تسمح لمزيد من الأدوات بالالتفاف على جهود الرقابة.

الملاحظ أن الأدوات الأوتوماتيكية لقرارات التعيين بدأت في الظهور سريعاً بكل مرحلة في عملية التعيين: إذ يتولى نظام خوارزميات اتخاذ قرار ما إذا كان يظهر أمامك إعلان عن وظيفة ما. ويتصفح تطبيق ذكاء صناعي سيرتك الذاتية بحثاً عن كلمات مفتاحية. ويحاول برنامج كمبيوتري تخمين سماتك الشخصية. وخلال مقابلة العمل، يجري تقييم استجاباتك العاطفية من جانب برنامج تعرّف سمعي، يتعرف كذلك على الوجه.

يذكر أن قانون العمل القائم لا يتناول مباشرة هذا السيل من تقنيات الذكاء الصناعي، ما يعد مشكلة. من ناحيتها، تدعي الجهات التي تبيع هذه الأدوات أن الآلات أكثر حيادية مقارنة مع البشر، لكن منظومات التعلم الآلي غالباً ما ينتهي بها الحال إلى محاكاة أنماط قائمة سلفاً من التحيز. فعندما طورت شركة «أمازون» محرك تعيين يعتمد على الذكاء الصناعي عام 2018، جرى الاستغناء عنه بعدما علّم المحرك نفسه تفضيل المرشحين الذكور.

وقال ناشطون حقوقيون إن بعض التقييمات الكومبيوترية الجديدة تنحاز ضد الأفراد أصحاب الإعاقات. وأفاد باحثون بأن الأدوات التي تركز على حديث وحركات جسد المتقدم لوظيفة ما، ليست نتاج علم حقيقي، وإنما زائف.

إلا أن خطر الذكاء الصناعي لا يقتصر بالضرورة على كونه أكثر تحيزاً مقارنة بالأشخاص، وإنما أن تصرفاته وقراراته أكثر احتمالاً لأن تفلت من المحاسبة. وعن هذا، قال دانييل شوارز، باحث لدى اتحاد نيويورك للحريات المدنية، إنه فيما يخص أي نمط من التمييز، «فإن هذه الأدوات يمكنها التسبب في تفاقم هذا التمييز، وجعله مبهماً ووضعه داخل صندوق أسود وتنفيذه على نطاق واسع، حيث يبدو أكثر غموضاً. وينتقل التحيز من مستوى فردي إلى مستوى آخر تنظيمي مختلف تماماً».

لسوء الحظ، يبقى نطاق القانون المحلي 144 شديد الضيق على نحو لا يسمح بتنظيم غالبية أدوات الذكاء الصناعي المنتشرة.