هل تحتاج إلى القلق بشأن Mythos، الذكاء الاصطناعي لاختراق الكمبيوتر من Anthropic؟

جلبت الأسابيع القليلة الماضية أخبارًا مثيرة للقلق على ما يبدو حول Mythos، وهو الذكاء الاصطناعي الذي يمكنه تحديد عيوب الأمن السيبراني في غضون لحظات، مما يترك أنظمة التشغيل والبرامج عرضة للقراصنة. بدأ مجتمع الأمن السيبراني الآن في تكوين فكرة أفضل عن الكيفية التي قد تغير بها ميثوس وجه الأمن السيبراني – وليس بالضرورة إلى الأسوأ.

ما هي الأسطورة ولماذا يهتم بها الناس؟

Mythos هو ذكاء اصطناعي تم إنشاؤه بواسطة Anthropic. تم الكشف عن وجودها عن طريق الخطأ الشهر الماضي عندما اكتشف الأشخاص محتوى على موقع الشركة على الويب، لم يكن من المقرر نشره، والذي تم تركه غير آمن ليراه أي شخص.

وفقًا لـ Anthropic، هناك سبب وجيه لبقاء النموذج خلف أبواب مغلقة: فهو – عن طريق الصدفة وليس عن تصميم – جيد للغاية في القرصنة. ويُزعم أنه يمكنه اكتشاف العيوب في أي برنامج تقريبًا، إذا طلب منه ذلك، مما يسمح للمستخدم باختراقه.

وتقول الشركة إن Mythos عثرت على الآلاف من نقاط الضعف عالية الخطورة والحرجة في أنظمة التشغيل والبرامج الأخرى. لم يستجب الأنثروبي ل عالم جديد”طلبت الشركة التعليق، لكن الشركة قالت على موقعها على الإنترنت إن “التداعيات – على الاقتصادات والسلامة العامة والأمن القومي – يمكن أن تكون شديدة”.

وتقول الشركة إنها اتخذت الخطوة المسؤولة بإبقائها مخفية.

لذلك لا أحد على الإطلاق قادر على استخدامه؟

ليس تماما. قررت شركة Anthropic إتاحتها لمجموعة مختارة من عمالقة التكنولوجيا والتمويل مثل Amazon Web Services وApple وGoogle وJPMorganChase وMicrosoft وNVIDIA في إطار ما يسمى Project Glasswing حتى يتمكنوا من اكتشاف أي أخطاء في برامجهم الخاصة قبل أن يقوم شخص آخر بذلك.

تمكن أعضاء منتدى خاص عبر الإنترنت أيضًا من الوصول غير المصرح به إلى التجربة. تشير التقارير إلى أنهم ببساطة قاموا “بتخمين مدروس” حول المكان الذي سيتم فيه استضافة النموذج عبر الإنترنت – وهو نفس النوع من القضايا التي أدت إلى الكشف عن وجود ميثوس في المقام الأول. ربما يتعين على الشركة المهتمة جدًا بالأمن السيبراني أن تولي المزيد من الاهتمام لأمنها الخاص.

وبينما كان من المقرر في البداية إبقاء النموذج طي الكتمان وعدم الاستخدام، إلا أنه يحظى الآن باهتمام كبير ويتم اختباره من قبل بعض أفضل خبراء الأمن السيبراني في العالم. العديد من هذه الشركات هي أيضًا أكبر العملاء المحتملين لشركة Anthropic، بالطبع – ومن المؤكد أن الضجيج حول قوة Mythos لن يسبب أي ضرر لشركة Anthropic.

ولخص الخبير الأمني ​​دافي أوتينهايمر الوضع في منشور على إحدى المدونات بأنه “قدرة تكنولوجية مشروعة، أعيد صياغتها كتهديد حضاري، من قبل حزب يستفيد من إعادة الصياغة”.

هل الأمر خطير كما يتصور الناس؟

يقول كيفن كوران، من جامعة أولستر بالمملكة المتحدة، إن الكشف عن برنامج ميثوس وما يمكن أن يفعله “أثار إنذارًا في جميع أنحاء صناعة الأمن”، على الرغم من انقسام الباحثين حول مدى خطورة التهديد فعليًا. “ماذا يحدث عندما تستطيع الآلة أن تفعل في ثوانٍ ما يستغرق قرصانًا بشريًا ماهرًا شهورًا لإنجازه؟” يتساءل.

ولكن هناك دلائل تشير إلى أن الوقت لم يحن بعد للذعر. كتب بوبي هولي من Firefox – إحدى تلك المنظمات التي تم منحها حق الوصول إلى Mythos – في منشور على مدونة أن النموذج ساعد فريقه في العثور على 271 نقطة ضعف في متصفح الويب، وهو بالتأكيد رقم كبير، ولكن لم يكن أي منها بارعًا أو معقدًا أو متطورًا بشكل لا يمكن اختراقه لدرجة أنه لم يكن بإمكان الإنسان اكتشافها.

كتب هولي: “كان من الممكن أن يتم وضع حالة تأهب قصوى في عام 2025، وهناك خطأ واحد فقط من هذا القبيل، والعديد منها يجعلك تتوقف لتتساءل عما إذا كان من الممكن مواكبتها”. “ومن المشجع أننا لم نشهد أيضًا أي أخطاء لا أستطيع تم العثور عليها من قبل نخبة من الباحثين البشريين.”

كما قام معهد أمن الذكاء الاصطناعي (AISI) – الذي تم إنشاؤه في عهد رئيس وزراء المملكة المتحدة آنذاك ريشي سوناك بعد قمة الذكاء الاصطناعي في المملكة المتحدة في عام 2023 – بالتحقيق في ميثوس. وفي الاختبارات، تبين أنه قادر على مهاجمة “أنظمة المؤسسات الصغيرة وضعيفة الدفاع والضعيفة” فقط، ولم يكن هناك ما يشير إلى أن جزءًا آمنًا حقًا من البرامج أو الشبكات سيكون في خطر، على الرغم من أن ذلك كان بمثابة خطوة أعلى من النماذج السابقة. وقد حذرت AISI من أن هذه الأمور تتحسن بسرعة. ولم يعلق AISI عندما سئل عالم جديد لمناقشة التهديد.

لدى آلان وودوارد من جامعة سري بالمملكة المتحدة وجهة نظر عملية للتهديد الذي يشكله ميثوس ــ وجميع نماذج الذكاء الاصطناعي الأخرى بشكل عام، والتي لديها أيضا القدرة على اكتشاف نقاط الضعف السيبرانية بدرجات متفاوتة. ويقول: “إن الذكاء الاصطناعي ليس بالضرورة قادرًا على اكتشاف نقاط الضعف التي لا يستطيع الإنسان اكتشافها، ولكنه أسرع بكثير وشامل ولا هوادة فيها. ومن ثم فهو يكتشف نقاط الضعف التي فاتتها البشر”. “الذكاء الاصطناعي، كما أظهر Mythos، يجعل مهمة المهاجم أكثر كفاءة ويمنحهم السرعة وخفة الحركة التي تجعل الدفاع أكثر صعوبة، ولكن ليس مستحيلاً.”

لذا يبدو أنه على الرغم من قدرة Mythos على اكتشاف العيوب على نطاق واسع وبسرعة، إلا أنها لم تجد أي شيء خطير للغاية حتى الآن. بل إن هناك أسبابًا للاعتقاد بأن هذا قد يكون شيئًا جيدًا بالفعل.

كيف يمكن أن يكون الذكاء الاصطناعي للقرصنة إيجابيًا؟

كتب هولي: “العيوب محدودة، ونحن ندخل عالمًا حيث يمكننا أخيرًا العثور عليها جميعًا”. في الأساس، إذا قمت بإنشاء برنامج أو صيانته، فيمكنك أيضًا استخدام Mythos لفصل التعليمات البرمجية الخاصة بك وتصحيحها – ربما حتى قبل إصدارها.

من المؤكد تقريبًا أن الذكاء الاصطناعي سيصبح أكثر قدرة على اكتشاف العيوب ومن المؤكد أن المهاجمين الخبيثين سيستفيدون من ذلك إلى حد ما. لكن هذا سيساعد أيضًا صانعي البرمجيات – على الرغم من أن أولئك الذين يحافظون على البرامج الحكومية العتيقة المكتوبة منذ عقود مضت قد يجدون صعوبة في مواكبتها.

حتى أنثروبيك تعتقد أن اختراق أنظمة الذكاء الاصطناعي سيفيد المدافعين في النهاية أكثر من المهاجمين – ولكن مرة أخرى، القول بأن العكس سيجعل من الصعب تبرير صنعها.

في الأساس، يعمل الذكاء الاصطناعي على تسهيل القرصنة والدفاع ضد المتسللين، وسيستمر في تسهيل ذلك، ولكن أولئك الذين يتجاهلون التكنولوجيا سيجدون أنفسهم في وضع غير مؤاتٍ للغاية.

يقول كوران: “تعامل مع ميثوس باعتبارها طلقة تحذيرية”. “وعلى افتراض أنه في غضون 18 شهرا، ستكون القدرات المماثلة في أيدي الخصوم. إن الفرصة للمضي قدماً في هذا الأمر مفتوحة، ولكنها تنغلق بسرعة”.