NHS England menarik perangkat lunak yang tersedia untuk publik karena kekhawatiran terhadap model AI yang mampu melakukan peretasan. Langkah ini membalikkan kebijakan sumber terbuka yang telah lama berlaku bagi kode yang didanai pembayar pajak. Para pakar keamanan menyebut keputusan ini tidak perlu dan kontraproduktif.
NHS England telah mengeluarkan panduan baru yang mengharuskan semua repositori kode sumber dijadikan privat secara default. Kebijakan tersebut menuntut agar perangkat lunak yang sudah ada maupun yang akan datang disimpan secara tertutup kecuali jika secara eksplisit disetujui untuk akses publik. Staf diberikan tenggat waktu hingga 11 Mei untuk memprivatisasi kode tersebut, yang sebelumnya dibagikan secara terbuka di platform seperti GitHub karena dibuat dengan uang publik. Hal ini memungkinkan organisasi lain untuk menggunakannya kembali dan menghindari duplikasi upaya, sesuai dengan standar layanan NHS sebelumnya. Panduan ini menyebut kemajuan AI yang pesat, khususnya model Mythos dari Anthropic, sebagai pemicunya. Bulan lalu, Mythos menarik perhatian karena menemukan kelemahan dalam perangkat lunak, yang berpotensi memungkinkan peretas mengeksploitasi sistem. Dokumen tersebut memperingatkan bahwa repositori publik meningkatkan risiko pengungkapan detail kode yang dapat dianalisis dan dieksploitasi oleh AI. "Repositori publik secara material meningkatkan risiko pengungkapan kode sumber yang tidak disengaja... terutama mengingat pesatnya kemajuan dalam model AI... (misalnya perkembangan seperti model Mythos)," demikian bunyi dokumen tersebut. Sikap tertutup secara default akan tetap berlaku selama dampaknya dinilai. Namun, lembaga keamanan AI yang didukung pemerintah Inggris (AISI) menemukan bahwa Mythos hanya mampu menyerang sistem kecil yang lemah pertahanannya, sehingga tidak menimbulkan ancaman bagi perangkat lunak atau jaringan yang aman. Terence Eden, mantan pakar Layanan Sipil Inggris bidang akses data publik, mengkritik kebijakan tersebut sebagai tidak logis. "Apakah mungkin Mythos akan memindai repositori dan menemukan bug? Ya, kemungkinan 100 persen. Apakah itu akan menjadi bug yang menyebabkan masalah keamanan dalam layanan NHS yang sedang berjalan di suatu tempat? Hampir pasti tidak," kata Eden. Ia berpendapat bahwa kode sumber terbuka lebih aman karena pengawasan komunitas dan mencatat bahwa kode NHS, yang sudah dipublikasikan selama bertahun-tahun, tersimpan dalam berbagai cadangan. "Menutupnya sekarang sama saja dengan menutup kandang setelah kudanya kabur," tambahnya. Seorang juru bicara NHS England menjelaskan: "Kami untuk sementara membatasi akses ke beberapa kode sumber NHS England untuk lebih memperkuat keamanan siber sementara kami menilai dampak dari perkembangan pesat dalam model AI. Kami akan terus mempublikasikan kode sumber jika ada kebutuhan yang jelas."
