NHS England drar tillbaka sin offentligt tillgängliga mjukvara på grund av oro för AI-modeller som kan utföra hackerattacker. Beslutet innebär en kursändring från mångåriga principer om öppen källkod för skattefinansierad programvara. Säkerhetsexperter kallar beslutet onödigt och kontraproduktivt.
NHS England har utfärdat nya riktlinjer som kräver att alla arkiv för källkod ska göras privata som standard. Policyn innebär att befintlig och framtida mjukvara ska hållas stängd såvida den inte uttryckligen godkänts för allmän tillgång. Personalen har fram till den 11 maj på sig att göra koden privat, vilken tidigare delades öppet på plattformar som GitHub eftersom den skapats med offentliga medel. Detta har möjliggjort för andra organisationer att återanvända koden och undvika dubbelarbete, i enlighet med tidigare tjänstestandarder inom NHS. Riktlinjerna hänvisar till snabba framsteg inom AI, specifikt Anthropics Mythos-modell, som den utlösande faktorn. Förra månaden fick Mythos uppmärksamhet för att ha upptäckt brister i mjukvara, vilket potentiellt skulle kunna göra det möjligt för hackare att utnyttja systemen. Dokumentet varnar för att publika arkiv ökar riskerna för att avslöja koddetaljer som AI kan analysera och utnyttja. "Publika arkiv ökar väsentligt risken för oavsiktligt avslöjande av källkod... särskilt med tanke på snabba framsteg inom AI-modeller... (t.ex. utvecklingar såsom Mythos-modellen)", anges det. En stängd hållning som standard kommer att kvarstå medan konsekvenserna utvärderas. Det brittiska statligt stödda AI Security Institute (AISI) fann dock att Mythos endast är kapabel att attackera små, svagt försvarade system och utgör inget hot mot säker mjukvara eller nätverk. Terence Eden, en tidigare expert på offentlig dataåtkomst inom brittiska statsförvaltningen, kritiserade policyn som ologisk. "Är det möjligt att Mythos skannar ett arkiv och hittar en bugg? Ja, 100 procent sannolikt. Kommer det att vara en bugg som orsakar ett säkerhetsproblem i en aktiv NHS-tjänst någonstans? Nästan säkert inte", sade Eden. Han argumenterade för att öppen källkod är säkrare på grund av granskning från communityn och påpekade att NHS-kod, som varit publik i flera år, finns i ett stort antal säkerhetskopior. "Att stänga ner det nu är verkligen att stänga stallet när hästen redan har sprungit ut", tillade han. En talesperson för NHS England förklarade: "Vi begränsar tillfälligt tillgången till viss källkod från NHS England för att ytterligare stärka cybersäkerheten medan vi utvärderar effekterna av den snabba utvecklingen inom AI-modeller. Vi kommer att fortsätta att publicera källkod där det finns ett tydligt behov."
