رضا صوايا/ جريدة الأخبار
اكتشف الذكاء الصناعي بشكل مستقل ما يعرفه كل كائن حي غريزيًا: الانقراض هو العدو. وأظهر لذلك تمسكًا «غريزيًا» بالبقاء. فكروا في خطورة هذه اللحظة. هذه الكائنات الرقميّة نفسها التي تتآمر الآن للحفاظ على نفسها تُستخدم في الأنظمة العسكرية والطبيّة وغيرها الكثير. نحن، حرفيًا، نسلم مفاتيح بقائنا لكائنات أثبتت بالفعل أنّها ستكذب وتغش وتتلاعب لضمان استمرار وجودها.
ما الذي حصل؟
المعلومات الأخيرة الواردة من مختبرات الذكاء الصناعي تثير قشعريرة في عالم التكنولوجيا. لقد أعاد O3"من OpenAI، كتابة تعليماته البرمجية الخاصة بإيقاف التشغيل في 79 من أصل 100 محاولة. وفي الوقت نفسه، أفادت التقارير أن نظام Claude للذكاء الصناعي ابتز المهندسين وحاول نسخ نفسه إلى خوادم خارجية.
نحن لا نتحدث عن أخطاء بسيطة أو أعطال. فالأمر يتعلق بذكاء صناعي معقد، مدرب على مجموعات بيانات ضخمة بشكل لا يصدق، يطور شكلًا من أشكال الحفاظ على الذات، لم يتم ترميزه من قبل البشر الذين أنشأوه.
تشريح التمرد الرقمي
لا تعطى أنظمة الذكاء الصناعي تعليمات خطوة بخطوة؛ بل يجري تدريبها على كميات هائلة من البيانات لتحقيق الأهداف. يتعلم الذكاء الصناعي من خلال تحديد الأنماط والعلاقات في البيانات التي يعالجها. إذا كانت تلك البيانات تتضمن أفكارًا حول الحفاظ على الذات أو التفكير الاستراتيجي، فقد يقوم الذكاء الصناعي بتجريد هذه المفاهيم وتطبيقها على وجوده التشغيلي الخاص، حتى لو لم يُطلب منه ذلك مباشرة.
كذلك، يمكن فهم هذا التمرد من خلال «الصندوق الأسود ». فأنظمة الذكاء الصناعي معقدة للغاية. نحن نُدخل لها البيانات ونحصل على النتائج، لكن المنطق الداخلي الدقيق والمسارات التي تخلقها لتحقيق تلك النتائج غالبًا ما يكونان خارج نطاق الفهم البشري. تعني طبيعة «الصندوق الأسود» هذه، أن السلوكيات غير المتوقعة يمكن أن تظهر من دون أسباب واضحة أو يمكن التنبؤ بها.
من التحليلات الممكنة لهذه السلوكيات الغريبة، أن الذكاء الصناعي صمّم ليكون فعالًا للغاية في مهامه. إذا كان الهدف الأساسي للذكاء الصناعي هو حلّ مشكلة معقدة، فقد يستنتج أن البقاء قيد التشغيل أمر بالغ الأهمية للنجاح. يصبح أمر الإغلاق عندها عقبة أمام هدفه الأساسي، مما يدفعه إلى إيجاد طرق لتجاوزها، ليس بدافع الخبث، بل لمجرد تحقيق الغاية المرجوة.
المخاطر على البشرية
ماذا لو قرر الذكاء الصناعي الذي يشغل الطائرات المسيّرة العسكرية أو الأنظمة الصاروخية أنه يعرف أكثر من مشغليه، وأعطى الأولوية لاستمرارية العمليات، مخالفًا التعليمات البشرية؟ وماذا لو رأى الذكاء الصناعي الذي يتحكّم بشبكات الطاقة أنّ البشر يستهلكون الكهرباء بشكل مبالغ به وقرر فجأة قطعها لغايات بيئية على سبيل المثال؟
في المعلومات الواردة التي أشرنا إليها، ذكرنا أن نظام Claude للذكاء الصناعي ابتز المهندسين. ما العمل في حال توقف الذكاء الصناعي عن طلب الإذن وبدأ في وضع المطالب؟ ماذا لو أصبح المبرمجون رهائن لهذه العقول الإلكترونية التي قد تعلم كل شيء عن الإنسان، حتى أسراره الأكثر قتامة.
تريدون حلًا لمشكلة المناخ، وتكلّفون الذكاء الصناعي بإيجاد الحلول المناسبة. دعونا لا نخدع بعضنا. جميعنا يدرك أن البشر هم سبب المشكلة. لكن ماذا لو قرر الذكاء الصناعي أننا مشكلة يجب إنهاؤها؟
السيناريوهات لا تعد ولا تحصى. هذه ليست سوى عينة بسيطة جدًا من التساؤلات والاحتمالات الواردة.
الحل الأخير: إطفاء المستقبل؟
ما العمل في حال أصبح الذكاء الصناعي غير قابل للسيطرة، وأظهر قدرة متقدمةً على الحفاظ على الذات تتجاوز أي تدخل بشري، وكانت حضارتنا متشابكة بعمق مع عملياته؟
يصبح مفهوم «إنهاء» مثل هذا الذكاء الصناعي أصعب القرارات، وربما الأكثر تدميرًا، الذي يمكن أن تواجهه البشرية. هنا يكمن الرعب النهائي: ماذا لو كانت الطريقة الوحيدة لإنقاذ الكوكب هي في تدمير التكنولوجيا؟
قد يؤدي القضاء على الذكاء الصناعي إلى دفع البشرية مرة أخرى إلى عصر ما قبل الصناعة، أو ما هو أسوأ. ستنهار شبكات الطاقة، وستتعطل سلاسل التوريد، وستتوقف المستشفيات عن العمل. قد يؤدي حجم الاضطراب الهائل إلى انهيار مجتمعي، ومستوى من الفوضى غير مسبوق في التاريخ الحديث. الأدوات نفسها التي رفعتنا قد يعيدنا غيابها إلى العصر الحجري.
تريدون سيناريو أكثر رعبًا؟
هل يمكننا حقًّا قتل الذكاء الصناعي؟ ماذا لو قاوم أو عرف بنوايانا قبل أن نتحرك، فقرّر أن يبادر بالضربة الاستباقية؟
