عادةً ما تجعل هيئة الخدمات الصحية الوطنية في إنجلترا البرامج التي تطورها مفتوحة المصدر
مارك توماس / شاترستوك
القرار الذي اتخذته هيئة الخدمات الصحية الوطنية في إنجلترا بسحب التعليمات البرمجية مفتوحة المصدر التي تم إنشاؤها بأموال دافعي الضرائب في المملكة المتحدة بسبب المخاطر التي تشكلها نماذج الذكاء الاصطناعي لاختراق الكمبيوتر، يثير ردود فعل عكسية متزايدة.
في الشهر الماضي، أفادت تقارير على نطاق واسع أن Mythos، وهو برنامج ذكاء اصطناعي أنشأته شركة التكنولوجيا Anthropic، قادر على اكتشاف العيوب في أي برنامج تقريبًا، مما قد يسمح للمتسللين باقتحام الأنظمة التي تقوم بتشغيله. أخبرت هيئة الخدمات الصحية الوطنية في إنجلترا الموظفين الآن أنه يجب سحب البرامج الحالية والمستقبلية من العرض العام وإبقائها خلف أبواب مغلقة بحلول 11 مايو بسبب هذا الخطر.
يتعارض القرار مع معيار خدمة هيئة الخدمات الصحية الوطنية، والذي يتطلب من الموظفين إنشاء أي برنامج ينتجونه مفتوح المصدر بحيث يمكن البناء عليه وتحسينه واستخدامه دون الحاجة إلى بذل جهد مضاعف. ويقول الخبراء إن سحب الكود بعيدًا عن الأنظار العامة لن يفعل شيئًا لتحسين الأمن.
والآن، تجتذب رسالة مفتوحة تدعو هيئة الخدمات الصحية الوطنية في إنجلترا إلى التراجع عن قرارها مئات التوقيعات. في وقت كتابة هذا التقرير، وقع 682 شخصًا على الرسالة، بما في ذلك المؤلف والناشط في مجال الحقوق الرقمية كوري دوكتورو ووزير الصحة البريطاني السابق مات هانكوك، الذي اتصل به للتعليق من قبل عالم جديدوأشار إلى منشور على موقع LinkedIn وصف فيه السياسة بأنها “خطأ فادح”.
كتب هانكوك: “أحد أذكى الأشياء التي فعلتها هيئة الخدمات الصحية الوطنية في السنوات الأخيرة هو فتح المصدر الخاص بكودها. لقد دفع دافعو الضرائب ثمنها، لذا يجب أن يستفيد منها دافعو الضرائب”. “لكن الحالة العملية قوية بنفس القدر: يتم اختبار التعليمات البرمجية مفتوحة المصدر بشكل أكثر صرامة وأكثر أمانًا، وتسمح لأفضل العقول في أي مكان في العالم بالبناء عليها.”
فلاد ستيفان حربوز من جامعة إدنبرة بالمملكة المتحدة، هو مؤلف مشارك للرسالة المفتوحة. لديه حق الوصول إلى Mythos وكان جزءًا من مجموعة استخدمته مؤخرًا لمسح كود NHS مفتوح المصدر بحثًا عن نقاط الضعف. لقد وجدوا “بعض نقاط الضعف الخطيرة نسبيًا” التي تم الكشف عنها بشكل مسؤول إلى هيئة الخدمات الصحية الوطنية قبل قرار سحب المشاريع مفتوحة المصدر.
يقول حربوز: “لا أعرف ما إذا كانت نقاط الضعف التي أبلغنا عنها هي الدافع وراء ذلك، لكنها ربما كانت جزءًا منها”. “يمكن لعمليات التدقيق الأمني المنتظمة ونماذج اللغات الكبيرة المتاحة للجمهور العثور على نفس نقاط الضعف التي وجدناها. تجعل ميثوس الأمور أقل كثافة في العمالة. لكن المشكلة الحقيقية تكمن في نقص الاستثمار المنهجي في الأمن السيبراني، وهو ما كان عليه الحال قبل ظهور ميثوس.”
يعتقد هاربوز أن النسخ الاحتياطية لجميع أكواد هيئة الخدمات الصحية الوطنية ستظل موجودة وسيتم استخدامها لتدريب مجموعة متنوعة من نماذج الذكاء الاصطناعي، لكن سحبها من GitHub يمنع الخبراء الذين يهتمون بجودة وأمن الخدمات العامة من المساهمة. “أنايقول حربوز: “إننا نتضرر من المساعدين بجعل الأشياء مغلقة المصدر، وليس المهاجمين”.
قام معهد أمن الذكاء الاصطناعي (AISI) المدعوم من الحكومة البريطانية بالتحقيق في Mythos ووجد أنه قادر على مهاجمة فقط “أنظمة المؤسسات الصغيرة والضعيفة والضعيفة”، وخلص إلى أنه لا يوجد ما يشير إلى أن شبكة آمنة حقًا أو جزء من البرنامج سيكون في خطر.
يوافق تيرينس إيدن، الذي يتمتع بخبرة واسعة في الخدمة المدنية في المملكة المتحدة في العمل على فتح الوصول إلى البيانات العامة، على أن هذه الخطوة ليس لها أي معنى منطقي.
“إن ثقة الناس في هيئة الخدمات الصحية الوطنية تعتمد على كون الخدمة الصحية منفتحة وشفافة وصادقة. ونظرًا لمدى اعتماد الرعاية الصحية لدينا على الأدوات الرقمية، فهذا يعني أن المصدر المفتوح غير قابل للتفاوض. لدينا الحق في رؤية كيفية عمل هذه الأدوات. ويقول إيدن: “إنني أحث بقوة هيئة الخدمات الصحية الوطنية على الاستجابة بشكل إيجابي للالتماس والوفاء بوعودها للمجتمع”.
المملكة المتحدة ولم تستجب وزارة الصحة والرعاية الاجتماعية لطلب التعليق، بينما أ كرر المتحدث الرسمي باسم NHS England بيانه السابق: “نحن نقوم بتقييد الوصول مؤقتًا إلى بعض أكواد مصدر NHS England لزيادة تعزيز الأمن السيبراني بينما نقوم بتقييم تأثير التطورات السريعة في نماذج الذكاء الاصطناعي. سنستمر في نشر كود المصدر حيثما تكون هناك حاجة واضحة”.
المواضيع:
(علامات للترجمة) هيئة الخدمات الصحية الوطنية (ر) الهجمات السيبرانية (ر) منظمة العفو الدولية
#Mythos #Backlash #يعتمد #على #خطة #NHS #لإخفاء #كود #المصدر #من #مخاطر #اختراق #الذكاء #الاصطناعي
