Sal die VK se KI-groeiplanne ook "hooflyn" kuberbedreigings?

Die Verenigde Koninkryk is vir meer as 'n dekade 'n ekonomiese onderpresteerder. Sedert die finansiële krisis van 2008-’9 het produktiwiteit skaars gestyg, wat die land se blootstelling aan ekonomiese skokke verhoog, populêre ontevredenheid aangewakker en tot verswakkende openbare dienste gelei het. Die nuwe regering dink hy het 'n antwoord: KI. 'n Belangrike nuwe KI-geleenthede-aksieplan in Januarie onthul is ontwerp om 'n "dekade van nasionale vernuwing" te lewer deur "KI in die are van hierdie ondernemende nasie te plaas".

Tog, soos kenners gewaarsku het, bied dit ook beduidende nuwe geleenthede vir bedreigingsakteurs om te steel, saboteer, afpers en ontwrig. Die sleutel sal wees om te verseker dat die organisasies wat aangemeld is om die plan 'n werklikheid te maak, hul KI-infrastruktuur en -stelsels van die begin af met sekuriteit in gedagte ontwerp.

Wat is in die plan?

Die plan self, wat die regering beweer hy ten volle sal aanvaar, kort beslis nie ambisie nie. Daar is agt sleutelelemente:

Lê die fondamente met KI-infrastruktuur

Dit sluit in die bou van 'n toegewyde KI-navorsingshulpbron (AIRR) van gevorderde KI-bekwame rekenaars en die vestiging van "KI-groeisones" om die konstruksie van privaatsektor-datasentrums te versnel.

Ontsluit databates

Ontwikkel 'n Nasionale Databiblioteek (NDL), wat openbare datastelle "veilig en eties" beskikbaar sal stel vir KI-navorsers en innoveerders. Hierdie planne sal ook die bou van openbare sektor data-insameling-infrastruktuur behels, die finansiering van die skepping van nuwe hoëwaarde-datastelle en die aansporing van die industrie om "private datastelle saam te stel en te ontsluit."

Opleiding en vaardighede

Die bepaling van die gaping in KI-vaardighede, die verbetering van diversiteit in die talentpoel, die ondersteuning van hoër onderwys om die aantal KI-gegradueerdes te vermeerder, en om geskoolde werkers uit die buiteland te lok.

Regulering, veiligheid en versekering

Die ontwikkeling van die KI-veiligheidsinstituut, maak die "VK-teks- en data-ontginning-regime" meer mededingend, befondsing van reguleerders "dringend" om hul KI-kundigheid te verbeter, en verseker dat alle borgdepartemente "veilige KI-innovasie" prioritiseer. Die plan noem ook pro-innovasie-inisiatiewe soos regulatoriese sandkaste en die bou van staatsgesteunde "hoëgehalte-versekeringsinstrumente" om KI-veiligheid te assesseer.

Neem 'n "Skandering > Loods > Skaal"-benadering aan

Verwag toekomstige KI-ontwikkelings, konsekwente en vinnige loodsing en prototipering, en 'n fokus op skaal tot tien of honderde miljoene burgerinteraksies regoor die VK. Hierdie stadium verwys ook na die behoefte aan infrastruktuurinteroperabiliteit, kodeherbruikbaarheid en oopverkryging.

Openbare en private sektor versterking

Die regering beplan om sy stewige en nuutgeboude digitale infrastruktuur te gebruik om nuwe geleenthede vir innoveerders te skep, 'n KI-kennissentrum te skep en privaatsektor se belangstelling in die Skandeer > Loods > Skaal-benadering vir vinnige oorwinnings te dryf.

Pak gebruikersaannemingshindernisse aan

Verbeter die aanvaarding van die openbare en private sektor deur sektorspesifieke KI-kampioene en 'n nuwe nywerheidstrategie.

Vooraf AI

Skep 'n nuwe regeringseenheid met die mag om met die private sektor saam te werk om die VK se belang in grens-KI te maksimeer.

Meer as lipdiens?

Soos tipies met groot regeringsaankondigings, moet baie van die besonderhede uitgewerk word. Dus, terwyl "sekuriteit" 14 keer in die plan genoem word, is dit slegs in die vaagste terme, soos dat die regering "toegewyd is om die nuutste, veilige en volhoubare KI-infrastruktuur te bou" of dat dit "verantwoordelik, veilig en eties die waarde van openbare sektor databates sal ontsluit".

Tog is daar goeie rede om bekommerd te wees oor die implikasies. Volgens die Wêreld Ekonomiese Forum (WEF) se Globale risikoverslag 2025, “Ongunstige uitkomste van KI-tegnologieë” is deur sakeleiers en kundiges as die sesde ernstigste risiko oor die volgende dekade gerangskik. Hierdie uitkomste kan afkomstig wees van swak ontwerpte modelle of kwaadwillige optrede soos data/modelvergiftiging. In laasgenoemde scenario kry bedreigingsakteurs toegang tot KI-stelsels om die opleidingsdata te korrupteer of modelparameters te manipuleer om óf te saboteer óf om spesifieke, ongewenste uitsette te veroorsaak.

Hulle kan dieselfde toegang tot KI-infrastruktuur gebruik om sensitiewe korporatiewe en klantopleidingsdata, of selfs 'n groot taalmodel (LLM) self, te steel as dit deur 'n organisasie fyn ingestel is vir 'n spesifieke doel en dus waardevolle IP in sy eie reg verteenwoordig.

Ongelukkig onthul navorsing dat die sleutelkomponente van volgende-gen KI-benaderings soos herwinning versterkte generasie (RAG) en outonome "agentiese KI" deurspek is met sekuriteitsfoute. Een verslag beweer om verskeie kwesbaarhede in LLM-gasheernutsgoed en -platforms soos llama.cpp en Ollama, sowel as vektordatabasisse soos ChromaDB, gevind te hê. Dit onthul ook talle bedieners wat in die openbaar blootgestel is en gevalle wat met sulke instrumente geassosieer word, waarvan baie geen verifikasie vereis nie. Dit is om nie te praat van die risiko wat deur gekompromitteerde geloofsbriewe inhou nie.

“’n Hoë persentasie kuberaanvalle gebruik gesteelde geloofsbriewe – so aanvallers meld aan eerder as om in te breek,” sê SoSafe CSO Andrew Rose aan ISMS.online. “Baie firmas skep KI-kletsbotte om hul personeel by te staan, maar min het deur die scenario gedink dat hul kletsbot ’n medepligtige in ’n aanval word deur die aanvaller te help om sensitiewe data in te samel, sleutelindividue en nuttige korporatiewe insig te identifiseer.”

Kenners hys rooi vlae

Ander veiligheidskenners het ook alarm gemaak oor die regering se planne. Michael Adjei, direkteur van stelselingenieurswese by Illumio, waarsku teen 'n "versteekte laag" van eie en onvoldoende ondersoek KI-tegnologie wat bedreigingsakteurs kan teiken via die teenstrydige datavergiftigingsaanvalle wat hierbo verduidelik is.

“Die uitdaging is dat die verborge lae van KI werk deur middel van 'aangeleerde voorstellings', wat moeilik is vir sekuriteitspanne om te interpreteer en te monitor vir kwesbaarhede. Dit maak dit moeiliker om gepeuterde KI-modelle op te spoor, veral in stelsels wat outonoom of intyds funksioneer,” sê hy aan ISMS.online.

“Die KI-voorsieningsketting hou verdere risiko's in. Gekompromitteerde derdeparty-data, opleidingsomgewings, sagteware of hardeware kan hele KI-stelsels in gevaar stel. Aanvallers kan byvoorbeeld kwaadwillige data in opleidingsdatastelle inspuit, wat vooroordele of kwesbaarhede in KI-modelle skep.”

Die regeringsplan verwys na oopbronsagteware, 'n besondere verskaffingskettingkwessie gegewe die bedryf se goed gedokumenteerde sekuriteitsuitdagings.

Bridewell CTO Martin Riley het 'n agtergrond in datasentrumontwerp en bedryf. Hy waarsku dat die "datasentrummark nie goed gereguleer word nie, en dat die volwassenheid van kuberveiligheid rondom hierdie fasiliteite ietwat ontbreek." Hy hys ook 'n rooi vlag oor die NDL.

"Die NDL sal hoofsaaklik daarop gemik wees om te verseker dat die private sektor kan innoveer om die openbare sektore te ondersteun, so die strengheid rondom die data, anonimisering en beskerming van individue gaan verskeie kuberveiligheidsuitdagings skep," sê Riley. "Wat gaan die kuberveiligheidsvereistes wees vir diegene wat toegang tot die NDL wil hê en die data daarvan wil gebruik?"

SoSafe's Rose wil 'n groter fokus op bestuur sien.

“Ek sou hoop om die regering te sien herhaal dat KI aan bestaande regulasies moet voldoen, soos data-privaatheidstandaarde. Om aan te dring op kwaliteit en beheer vir insetdata sal wys wees om 'n kwaliteit-uitset te verseker wat nie partydigheid het nie, maar dit word 'n uitdaging wanneer die datastelle groot en wydverspreid word, afkomstig van baie plekke,” verduidelik hy.

“Die sleutel is om daarop aan te dring dat maatskappye wat KI omhels 'n bestuurs- en toesigkomitee saamstel. Dit moet 'n inventaris vereis van waar KI gebruik word, en die omvang van sy verantwoordelikhede, ondersteun deur risikobepalings van die potensiële skade wat veroorsaak word deur foutiewe uitset of mislukking, en herstelpaaie vir enige mislukkings of oortredings.

ISO 42001 tot die redding

Reguleerders sal 'n beduidende rol speel om te verseker dat die regering se ambisies veilig, veilig en eties verwesenlik word. Die KI-veiligheidsinstituut sal 'n statutêre liggaam word, borgdepartemente sal befonds word om "hul KI-vermoëns op te skaal", en "veilige KI-innovasie" sal beklemtoon word in leiding aan hierdie reguleerders.

Alhoewel dit nog moet gesien word watter nuwe reëls as gevolg daarvan geïmplementeer kan word, is daar reeds beste praktykstandaarde wat KI-ontwikkelaars en -gebruikers kan help om te navigeer deur watter regulatoriese raamwerke ook al op hul pad kom. ISO 42001, byvoorbeeld, is ontwerp om verantwoordelike gebruik en bestuur van KI-bestuurstelsels aan te dryf.

"Dit verskaf riglyne vir veilige KI-gebruik, wat ontwikkelaars help om meganismes te implementeer om ongewone gedrag of onverwagte uitsette op te spoor, wat die vatbaarheid vir manipulasie verminder," sê Illumio se Adjei.

SoSafe's Rose stem saam.

“ISO 42001 is 'n doeltreffende metodologie om organisasies te help om KI verstandig aan te neem. Dit dryf 'n noukeurige benadering tot die assessering en beheer van die implementering van KI, om te verseker dat daar voldoende insig en toesig oor gepaardgaande risiko's is,” sluit hy af.

“Soos ISO 27001 maak dit jou nie veilig nie. Dit skep egter 'n pad vir voortdurende assessering en verbetering, wat die waarskynlikheid verhoog om 'n veerkragtige oplossing te skep.”

Ons sal baie meer weet oor die regering se planne in die lente, alhoewel met die Britse ekonomie in 'n swak toestand, moet dit nog gesien word of die tesourie baie van hierdie inisiatiewe sal blokkeer of verwater. Wat ook al gebeur, kom ons hoop dat ingeboude sekuriteit en verbeterde KI-bestuur ononderhandelbaar is.