نشرت صحيفة الجارديان البريطانية، مقالا للروائي النمساوي الألماني “دانييل كيلمان” عن خطورة الذكاء الاصطناعي، وأهمية السيطرة على تطوره في أسرع وقت.
بدأ الروائي مقاله بتفاصيل مكالمة هاتفية من صديقه كاتب سيناريو من ولاية لوس أنجلوس الأمريكية، حيث أخبره أن عمله سينتهي خلال 3 أو 5 سنوات إذا كان محظوظا، موضحا أنه سُمح له باختبار سيناريو الذكاء الاصطناعي الذي لا يزال قيد التطوير.
وبحسب كيلمان، وصف صديقه مواصفات المسلسل القصير على برنامج ذكاء اصطناعي محددا: الشخصيات الرئيسية والحبكة والأجواء – وبعد بضع دقائق، كانت جميع الحلقات مكتوبة وجاهزة للتصوير.
ثم طلب من الذكاء الاصطناعي اقتراحات تحسين لسلسلته الخاصة، ولدهشته، كانت تلك الاقتراحات رائعة – ذكية، وهادفة، ومبدعة. لقد أصلح الذكاء الاصطناعي نهاية إحدى الحلقات بالكامل، ومع هذه التغييرات أصبح الأمر برمته جيدًا.
توقف كاتب السيناريو للحظة، ثم كرر أنه لم يبق أمامه سوى ثلاث سنوات قبل أن يضطر إلى العثور على وظيفة جديدة.
وتحدث الروائي كيلمان عن إلقائه محاضرة، في العام 2020، عندما كشف عن توقعاته في العام التالي وهو 2021، وتم نشرها لاحقًا في كتيب بعنوان My Algorithm and I. وفيه وصف تعامله الفاشل مع نموذج لغوي كبير في وقت لم تكن فيه أنظمة الذكاء الاصطناعي موجودة.
وأكد كيلمان أنه بعد مرور 3 سنوات فقط على استخدامه هذا النموذج، تجاوز التطور التقني الكثير من الحدود لدرجة أن هذا النموذج أصبح اليوم قديمًا جدًا كما لو أنه جاء من فترة مختلفة من تاريخ العالم، مثل نص عن أول خطوط سكك حديدية أو عرض جوي ذو سطحين.
وأوضح الروائي النمساوي، في مقاله، أن الذكاء الاصطناعي حينها كان كيانًا متعثرًا ومربكًا ومثيرًا للشفقة تمامًا، وكان ذلك قبل أقل من أربع سنوات بقليل، محذرا أنه إذا استمر تطوره بهذه السرعة بل وأسرع من ذلك، فإننا نواجه شيئًا ليس لدينا غريزة كافية له، والدليل هو أننا لا نشعر بالذعر.
ورأى كيلمان أنه يجب على الجميع أن يشعر بالذعر بدلا من الهدوء الذي نواجه به هذا التسونامي الذي أصبح ملحوظا بشكل كبير، أو على حد تعبير باحث الذكاء الاصطناعي ليوبولد أشنبرينر: “في الوقت الحالي، ربما هناك بضع مئات من الأشخاص الذين لديهم وعي بالموقف”.
وكان أحدهم هو المفكر وأحد مؤسسي فلسفة العقل الحديثة “دانييل دينيت” الذي توفي مؤخرًا، والذي كان في اجتماع غير رسمي للخبراء، وحثهم جميعا على بذل كل ما في وسعنا لتحذير صناع القرار.
ومع ذلك، أكد كيلمان أنه لا يريد شيطنة الثورة التي نعيشها، ويعتقد أنه لم يحدث شيء رائع في عالم العقل البشري في حياته، مستشهدا بتحقيقنا باستخدام الوسائل التكنولوجية، ما حلم به علم التأويل منذ زمن طويل: لقد جعلنا اللغة نفسها تتكلم.
وأكد أنه يتعين على الذكاء الاصطناعي المفتوح OpenAI توظيف مئات من العمال ذوي الأجور المتدنية في الجنوب العالمي لقمع الاتجاه الطبيعي لنموذج اللغة الكبير بالقوة إلى التلفظ بألفاظ بذيئة غاضبة وإهانات – وهو ما أصبح الآن جيدًا. والنغمة المهذبة والهادئة المعروفة لروبوت الدردشة تتطلب الكثير من التصفية.
ولفت الروائي إلى تعلمنا من الاكتشافات العظيمة للإنسانية أننا لسنا أسيادًا في عالمنا، مثلما أكد لنا فرويد أننا لا نعرف ولا نتحكم في رغباتنا، مؤكدا أن الإذلال الذي يشعرنا به الذكاء الاصطناعي قوي جدا وعميق، إذ أثبتنا أنه بالنسبة للأنشطة الفكرية التي نعتبرها إنسانية بعمق، ليست هناك حاجة إلينا.
وأشار كيلمان إلى إمكانية جني قدر هائل من الأموال باستخدام الذكاء الاصطناعي، وإلى أنه من المحتمل أن يكون أكبر سوق للنمو الرقمي في السنوات القادمة هو الأصدقاء والشركاء الاصطناعيون.
وإذا كنت تريد إثباتًا، فانظر إلى سعر سهم شركة Replika، المتخصصة في ذلك، أو استمع إلى سام ألتمان، مؤسس OpenAI، الذي أكد لنا في مقابلة مع صحيفة نيويورك تايمز، في نوفمبر 2023، أنه لن ينشئ افتراضيًا اهتمامات الحب لأسباب أخلاقية، وبعد أشهر فقط قدمت شركته عرضًا توضيحيًا يضم صوتًا أنثويًا جديدًا غزليًا لـ ChatGPT وهو بالضبط الصديق الذي يرغب فيه الشباب غير الآمنين.
وشرح الروائي أن المنتج الترفيهي المستقبلي عبارة عن: أشخاص افتراضيين يعرفوننا جيدًا، ويشاركوننا الحياة، ويشجعوننا عندما نشعر بالحزن، ويضحكون على نكاتنا أو يخبروننا بنكات يمكن أن نضحك عليها، دائمًا يقفون إلى جانبنا ضد العالم القاسي الموجود هناك. وهؤلاء الأشخاص متاحون دائمًا، وقابلون للرفض دائمًا، بدون رغباتهم الخاصة، وبدون احتياجات، بدون الجهد الذي يأتي مع الحفاظ على العلاقات مع أناس حقيقيين.
وإذا كنتم الآن تهزون رؤوسكم اشمئزازًا، فاسألوا أنفسكم إذا كنتم صادقين حقًا مع أنفسكم، وما إذا كنتم لا ترغبون أيضًا في أن يكون لديكم شخص يتلقى مكالمات مزعجة نيابةً عنكم، ويحجز رحلات جوية، ويكتب رسائل بريد إلكتروني تبدو حقًا وكأنكم كتبتموها، وإلى جانب ذلك، يناقش حياتك معك، ويسألك لماذا عمتك لئيمة جدًا معك وما يمكنك فعله للتصالح مع ابن عمك الذي أسأت إليه. حتى أنا، الذي أحذر من هذه التكنولوجيا، أود استخدامها.
وتسآل كيلمان “من يدفع ثمن كل هذا؟”، لأنه يبدو أن الرفاق الافتراضيين يعيشون فقط في عالم الهواء السحري، لكنهم في الواقع موجودون في مزارع خوادم ضخمة، وكل تفاعل معهم يكلف أموالاً لأن شخص ما يجب أن يأتي مع ذلك وإذا لم يكن المستخدمون، فمن إذن؟
وأوضح الروائي النمساوي أن الذكاء الاصطناعي وتحديدا برنامج ChatGPT الذي يكون لك أصدقاء افتراضيين، سوف يقومون بالإعلان أيضًا في بعض الأحيان. على سبيل المثال، إذا كنت مصابًا بنزلة برد، يوصي هؤلاء الأصدقاء بدواء، وإذا كنت بصحة جيدة، فمن المثير للدهشة أن الأصدقاء هم خبراء حسن الاطلاع في المشروبات والعصائر.
وفي بعض الأحيان، سيشرح لك هذا الصديق أيضًا بشكل مفهوم وتعاطفي لمن يجب أن تصوت، لأنه يتم توفيره، على سبيل المثال، من قبل شركة صينية للذكاء الاصطناعي؛ أو ببساطة لأن الشركة المعنية، مثل TikTok أو YouTube، تستخدم ما يسمى بالخوارزمية التكيفية التي تكتشف كيفية إنتاج أكبر قدر من “التفاعل”.
وكما اكتشفت خوارزميات وسائل التواصل الاجتماعي، فإن أقوى المشاعر هي مشاعر الغضب تجاه أعضاء المعسكرات السياسية الأخرى.
ونبه الروائي أنه بدلاً من مجرد مقاطع الفيديو التي نستخدمها حاليا، تخيل أن كل الاتهامات والنظريات المتعلقة بالغضب السياسي مثلا يقدمها الآن شخص قريب منك- ليس لأنه شرير، ولكن ببساطة لأنه أي محتوى يقودك إلى “المشاركة” الأكثر كثافة، وبقناعة وحجج مصممة خصيصًا لك، ولكن دائمًا بصوت غزلي خاضع ومحب.
ثم تخيل أن هذا لا يؤثر عليك وحدك، بل على كل شخص في البلد، طوال الوقت، ولا يتوقف.
ونوه كيلمان إلى أن هذه ليست تكهنات، سيأتي هذا، ليس في وقت ما، ولكن قريبًا جدًا. في الوقت الحالي، لا يزال ChatGPT يتحدث بلهجة العقل الهادئ ويرفض بعناد اتخاذ مواقف سياسية، ولكن إذا سألنا أنفسنا ما الذي يدر المزيد من المال – الذكاء الاصطناعي الذي يصحح ارتباكنا بهدوء أو تلك التي تشاركنا وتضخم غضبنا – فلن يكون الأمر صعبًا للتنبؤ إلى أين سيذهب التطوير.
وشدد الروائي النمساوي الألماني على أهمية الوعي الظرفي للمستخدمين، لأننا سنواجه معلومات مضللة على نطاق يجعل كل شيء حتى الآن يبدو وكأنه مناقشة ودية بين الأشخاص ذوي التفكير المماثل.
