تسارع هيئة الخدمات الصحية الوطنية في إنجلترا إلى إخفاء البرامج بسبب مخاوف من اختراق الذكاء الاصطناعي

تقوم هيئة الخدمات الصحية الوطنية في إنجلترا على عجل بسحب جميع البرامج التي كتبتها من العرض العام بسبب خطر القرصنة من الذكاء الاصطناعي المتطور. ويقول خبراء أمنيون إن هذه الخطوة غير ضرورية وتؤدي إلى نتائج عكسية.

لقد تم سابقًا جعل البرامج التي تنتجها خدمة الصحة الوطنية مفتوحة المصدر وتم إدراجها في GitHub لأنها تم إنشاؤها بأموال عامة. وهذا يسمح للمؤسسات الأخرى بالبناء عليها وتقديم خدمات أفضل بتكلفة أقل دون تكرار الجهود.

لكن هيئة الخدمات الصحية الوطنية في إنجلترا أصدرت إرشادات جديدة للموظفين، والتي تمت مشاركتها معهم عالم جديد، الذي يتطلب سحب البرامج الحالية والمستقبلية من العرض العام وإبقائها خلف أبواب مغلقة. تقول التوجيهات الجديدة: “يجب أن تكون جميع مستودعات كود المصدر خاصة بشكل افتراضي. ويجب ألا تكون المستودعات عامة ما لم تكن هناك حاجة صريحة واستثنائية، وتمت الموافقة رسميًا على الوصول العام”. الموعد النهائي لجعل الكود خاصًا هو 11 مايو.

في الشهر الماضي، تم الإبلاغ على نطاق واسع عن أن الذكاء الاصطناعي الذي أنشأته شركة Anthropic يسمى Mythos قادر على اكتشاف العيوب في أي برنامج تقريبًا، مما قد يسمح للمتسللين باقتحام الأنظمة التي تقوم بتشغيله.

تشير توجيهات NHS England على وجه التحديد إلى Mythos كسبب للتدابير الجديدة. “تزيد المستودعات العامة بشكل ملموس من خطر الكشف غير المقصود عن كود المصدر، والقرارات المعمارية، وتفاصيل التكوين، والمعلومات السياقية التي يمكن استغلالها – لا سيما في ضوء التقدم السريع في نماذج آل القادرة على استيعاب التعليمات البرمجية على نطاق واسع، والاستدلال، والاستدلال (على سبيل المثال، التطورات مثل نموذج ميثوس)”، كما جاء في التقرير. “يحدد هذا الخط الأحمر موقفًا مغلقًا افتراضيًا للتعليمات البرمجية بينما تقوم المنظمة بتقييم تأثير هذه التغييرات والتأكد من أن أي نشر عام للتعليمات البرمجية هو قرار متعمد ومراجع ومبرر.”

ومع ذلك، قام معهد أمن الذكاء الاصطناعي (AISI) المدعوم من الحكومة البريطانية بالتحقيق في Mythos ووجد أنه قادر على مهاجمة فقط “أنظمة المؤسسات الصغيرة وضعيفة الدفاع والضعيفة”، وخلص إلى أنه لا يوجد ما يشير إلى أن جزءًا آمنًا حقًا من البرامج أو الشبكات سيكون في خطر.

تتعارض الإجراءات الجديدة مع معيار خدمة الصحة الوطنية، الذي يتطلب من الموظفين جعل أي برنامج ينتجونه مفتوح المصدر. “تُبنى الخدمات العامة بأموال عامة. لذا، ما لم يكن هناك سبب وجيه لعدم القيام بذلك، يجب إتاحة الكود الذي تستند إليه (على) أشخاص آخرين لإعادة استخدامه والبناء عليه. تقول التوجيهات السابقة إن الكود مفتوح المصدر يمكن أن ينقذ الفرق من تكرار الجهود ويساعدهم على بناء خدمات أفضل بشكل أسرع”.

تعمل البرامج مفتوحة المصدر للخدمات العامة أيضًا على خلق قدر أكبر من الثقة والشفافية. على سبيل المثال، إذا كان الكود الخاص بنظام Horizon IT الذي قاد مكتب البريد في المملكة المتحدة لملاحقة الأبرياء بتهمة السرقة والاحتيال قد أصبح علنيًا، فربما لم تستمر الفضيحة لسنوات.

يقول تيرينس إيدن، الذي يتمتع بخبرة واسعة في الخدمة المدنية في المملكة المتحدة في العمل على فتح الوصول إلى البيانات العامة، إن هذه الخطوة ليس لها أي معنى منطقي.

يقول إيدن: “هل من الممكن أن تقوم شركة ميثوس بمسح أحد المستودعات والعثور على خطأ ما؟ نعم، محتمل بنسبة 100 في المائة. هل سيكون هذا خطأً يسبب مشكلة أمنية في خدمة حية تابعة لهيئة الخدمات الصحية الوطنية في مكان ما؟ من المؤكد تقريبًا لا”. “أعتقد أن شخصًا ما في هيئة الخدمات الصحية الوطنية في إنجلترا يقتنع بالضجة التي تقول إن ميثوس سوف يتسبب في نهاية الأمن كما نعرفه ويشعر بالذعر قليلاً.”

يقول إيدن إن البرمجيات مفتوحة المصدر هي في الواقع أكثر أمانًا لأن الكثير من الأشخاص يمكنهم التحقق منها بحثًا عن العيوب، ومعظم برامج هيئة الخدمات الصحية الوطنية لا ترتبط بشكل حاسم بالأمن على أي حال. والأهم من ذلك، نظرًا لأن الكود كان متاحًا للعامة لسنوات، فإنه سيظل موجودًا في العديد من النسخ الاحتياطية والتنزيلات على أي حال.

يقول إيدن: “إن إغلاقه الآن يعني إغلاق باب الإسطبل بعد رحيل الحصان”. “أنا والأشخاص الذين تحدثت إليهم داخل هيئة الخدمات الصحية الوطنية في حيرة تامة بشأن ما يحاول هذا تحقيقه.”

وقال متحدث باسم هيئة الخدمات الصحية الوطنية في إنجلترا: “نحن نقوم بتقييد الوصول مؤقتًا إلى بعض التعليمات البرمجية المصدر الخاصة بهيئة الخدمات الصحية الوطنية في إنجلترا لتعزيز الأمن السيبراني بشكل أكبر بينما نقوم بتقييم تأثير التطورات السريعة في نماذج الذكاء الاصطناعي. وسنواصل نشر التعليمات البرمجية المصدر حيثما تكون هناك حاجة واضحة”.