ما مدى القلق الذي يجب أن تشعر به بشأن نهاية العالم التي يعتمدها الذكاء الاصطناعي؟

لقد كان ظهور الذكاء الاصطناعي الفائق الذكاء والقضاء على البشرية مجازًا شائعًا في الخيال العلمي لعقود من الزمن. الآن، نحن نعيش في عالم حيث يبدو أن الذكاء الاصطناعي الحقيقي يتقدم بشكل أسرع من أي وقت مضى. هل هذا يعني أنك يجب أن تبدأ في القلق بشأن نهاية العالم التي يعتمدها الذكاء الاصطناعي؟

وخلافا للمخاطر الوجودية الأخرى مثل تغير المناخ، فمن الصعب تحديد المخاطر التي يشكلها الذكاء الاصطناعي. ونحن الآن في منطقة المضاربة، وذلك ببساطة لأن فهمنا للموقف أقل كثيراً من فهمنا للأنماط المناخية.

ما نعرفه على وجه اليقين هو أن الكثير من الأشخاص الأذكياء يشعرون بالقلق. لقد حذر العديد من رؤساء شركات الذكاء الاصطناعي اليوم من احتمالية أن يؤدي الذكاء الاصطناعي إلى انقراض الإنسان، وحتى رائد الذكاء الآلي، آلان تورينج، تحدث عن مستقبل تصبح فيه أجهزة الكمبيوتر واعية، قبل أن تتفوق على قدراتنا وتتولى المسؤولية في النهاية.

السيناريو يدور حول شيء من هذا القبيل. تخيل أننا نعطي الذكاء الاصطناعي المهمة الوحيدة المتمثلة في حل مشكلة كبيرة وضخمة مثل فرضية ريمان، وهي واحدة من أشهر المشاكل التي لم يتم حلها في الرياضيات. يمكنها أن تقرر أن ما تحتاجه هو الكثير والكثير من القوة الحاسوبية، ودون التقيد بالحس السليم، والشروع في تحويل كل جسم جامد على الأرض إلى كمبيوتر عملاق واحد ضخم، مما يترك 8 مليارات منا يتضورون جوعا حتى الموت في مركز بيانات ضخم ومعقم. وقد يستخدمنا أيضًا كمواد خام.

الآن، يمكنك القول إنه في هذا السيناريو، قد نلاحظ ما كان يفعله الذكاء الاصطناعي ونعطيه دفعة سريعة بالقول: “بالمناسبة، يبدو أنك تحول العالم كله إلى مركز بيانات، وإذا كان الأمر كذلك، فيرجى التوقف، لأننا ما زلنا بحاجة إلى العيش على الأرض”. لكن قد يفضل بعض الأشخاص وجود ضمانات لاكتشاف هذا النوع من المشكلات قبل حدوثها ومنع أي ضرر.

من المعروف أن كاتب الخيال العلمي إسحاق أسيموف كان لديه صدع في هذا الأمر من خلال قوانينه الثلاثة للروبوتات، أولها هو أن الروبوت لا يجوز له أن يؤذي إنسانًا، أو يسمح للإنسان، من خلال التقاعس عن العمل، بإيذاء الإنسان.

لذا، من الناحية النظرية، يمكننا فقط أن نطلب من الذكاء الاصطناعي ألا يؤذينا، لكنه لن يفعل، أليس كذلك؟ حسنا، لا. إن قدرتنا على بناء ضمانات وقواعد في الذكاء الاصطناعي خرقاء وغير فعالة. يمكننا أن نقول لعارضي اللغات الكبار اليوم ألا يكونوا عنصريين، أو يشتمون، أو يكشفون عن وصفة المتفجرات، ولكن في الظروف المناسبة، سوف يمضون قدمًا ويفعلون ذلك على أي حال. نحن ببساطة لا نفهم ما يحدث داخل نموذج الذكاء الاصطناعي بشكل كافٍ لمنعه من القيام بأشياء لا نريده أن يفعلها.

حتى لو قمنا بحل كل ذلك، لا يزال لديك سيناريو حيث يقرر نموذج الذكاء الاصطناعي القضاء علينا عن قصد – المنهي أو مصفوفة سيناريو. ويمكن أن يأتي هذا بعد تحسينات تدريجية للغاية في الذكاء الاصطناعي على مدى فترات طويلة، أو بشكل شبه فوري مع التفرد ــ العملية الافتراضية التي يصبح بموجبها الذكاء الاصطناعي ذكيا بما يكفي لتحسين نفسه، ثم يتكرر بسرعة بوتيرة كبيرة، ويصبح أكثر ذكاء وأكثر ذكاء، ويتجاوز الذكاء البشري في غمضة عين.

وقد يقرر الذكاء الاصطناعي القيام بذلك لأنه يخشى أن نطفئه، أو لأنه لا يريد أن نسيطر عليه، أو ببساطة لأنه يعتقد أن الأرض ستكون في وضع أفضل دون أن نعترض طريقنا ونفسد الأمور – وهو شعور قد تشاركه فيه الكثير من أنواع الحيوانات والنباتات إذا كانت قادرة على ذلك.

ويمكنها القيام بذلك عن طريق استخدام مختبر بيولوجي آلي لإنشاء فيروس قاتل، أو عن طريق إطلاق مخزون العالم من الأسلحة النووية، أو عن طريق بناء جيش من الروبوتات القاتلة – أو مجرد اختطاف الروبوتات التي تبنيها الحكومات بالفعل. ربما يمكنها أن تفعل شيئًا شنيعًا وذكيًا ومتسترًا لدرجة أننا لم نفكر فيه بعد.

في الواقع، قد يكون هذا أمرًا صعبًا. قد يرغب الذكاء الاصطناعي في القضاء على البشر، ولكن سيكون لديه أدوات محدودة للسحب. نعم، يمكن أن يجعل جميع إشارات المرور خضراء ويقضي على عدد قليل منا بسبب حوادث المرور. يمكن أن يسبب انقطاع التيار الكهربائي الذي قد يحصل على المزيد. يمكن أن تحطم بعض الطائرات. لكن القضاء على 8 مليارات شخص دفعة واحدة؟ ليست مهمة سهلة. وقد يتعين عليها صد نماذج الذكاء الاصطناعي الأخرى التي تحاول منع خططها القاتلة من النجاح.

في حين أن العديد من هذه السيناريوهات تبدو وكأنها خيال علمي مستحيل أو تجارب فكرية غير قابلة للتصديق، إلا أن الخبراء يختلفون حول مدى احتمالية حدوثها. وهذا في حد ذاته يجب أن يجعلنا نتوقف للتفكير.

في الوقت الحالي، تتسابق الشركات ذات الاستثمارات الهائلة والموارد الهائلة وفرق من بعض ألمع الأشخاص على هذا الكوكب لبناء ذكاء اصطناعي فائق الذكاء. وسواء كنت تعتقد أن ذلك سيأتي قريبًا أم لا، وسواء كان له نتائج سلبية أم لا، فربما يمكننا أن نتفق على أنه إذا فعل بعض الأشخاص ذلك، فقد يكون من الجيد التباطؤ والتفكير بعناية قبل الاستمرار. لسوء الحظ، الرأسمالية ليست نظامًا جيدًا في النظر بعناية في العواقب قبل الابتكار، ويبدو أن السياسيين اليوم حريصون جدًا على الفوائد الاقتصادية المحتملة للذكاء الاصطناعي، لدرجة أن التنظيم ليس له الأولوية.

إذًا، ما مدى احتمال وقوع كارثة؟ وكشفت ورقة بحثية أجريت عام 2024، والتي استطلعت ما يقرب من 3000 باحث منشور في مجال الذكاء الاصطناعي، أن أكثر من النصف اعتقدوا أن فرصة تسبب الذكاء الاصطناعي في انقراض الإنسان أو عدم التمكين الدائم والشديد – ما يسمى ب (الموت) أو احتمال الهلاك – كانت على الأقل 10 في المائة. لا أعرف عنك، لكني كنت أفضل حقًا أن يكون هذا الرقم أقل بكثير.

بعض الأشخاص الذين يعملون في مجال الذكاء الاصطناعي متفائلون بالمستقبل، ويعتقد بعض الخبراء أنه سيكون نهاية البشرية. وما يثير القلق أننا نفعل ذلك على أي حال.

أنا شخصياً من المدرسة الفكرية التي تقول إنه لا يوجد شيء سحري بطبيعته في الدماغ البشري ووعينا؛ بالتأكيد، لا يوجد شيء لا يمكن تكراره بشكل مصطنع. لذلك، على نطاق زمني طويل بما فيه الكفاية، من المرجح أن نخلق ذكاءً اصطناعيًا يفوق قدرة البشر بشكل كبير. لكنني أعتقد أيضًا أننا لا نزال بعيدين جدًا عن فهم ما قد يتضمنه ذلك، ناهيك عن تحقيقه.

من المؤكد أنني لا أعتقد أن النماذج الحالية تقترب بأي حال من الأحوال من المنحدر الزلق للتفرد ــ فهي لا تستطيع حتى أن تعد إلى 100 بشكل موثوق ــ ولا أفقد النوم بشأن الأمر برمته.

ولكن – وهذا لكن كبير – هذا لا يعني أن الذكاء الاصطناعي لا يسبب مشاكل وشيكة.

ولعل نهاية العالم التي ينبغي لنا أن نقلق بشأنها هي في الواقع خسارة هائلة في الوظائف نتيجة للتشغيل الآلي، أو الخسارة التدريجية للمهارات البشرية مع تولي الذكاء الاصطناعي المزيد والمزيد من المهام، أو المزيد من تجانس الثقافة، النابعة من الفن والموسيقى والأفلام التي يولدها الذكاء الاصطناعي.

أو ربما يكون الركود العالمي ناجماً عن انهيار أسعار أسهم شركات التكنولوجيا التي أقنعت المستثمرين بتسليم المليارات بوعود مضخمة بآلات فائقة الذكاء ستستمر لسنوات أكثر مما يُزعم. تبدو هذه السيناريوهات أكثر ترجيحًا بالنسبة لي، وأقرب كثيرًا.