Hoe 'n nuwe praktykkode kan help om KI-risiko te verminder

Die Britse regering wed groot op KI. Gegewe die stand van openbare finansies en 'n langdurige nasionale produktiwiteitsinsinking, moet dit in baie opsigte. 'n Ambisieuse Aksieplan vir KI-geleenthede wat in Januarie aangekondig is, het baie om aan te beveel. Waar daar egter geleentheid is, is daar ook risiko.

Daarom is dit bemoedigend om te sien dat die regering ook konkrete stappe doen om die veiligheid van die KI-ekosisteem te verbeter. Aangekondig net twee weke na die aksieplan sal 'n nuwe "wêreld-eerste" praktykkode help om ontwikkelaars, stelseloperateurs en ander belanghebbendes te lei in die bou, ontplooiing, instandhouding en monitering van hul KI-stelsels in ooreenstemming met die beste sekuriteitspraktyke. Daar word gehoop dat die kode uiteindelik die basis van 'n nuwe internasionale ETSI-standaard sal vorm.

Hoekom ons dit nodig het

Alhoewel die tegnologie vinnig vorder, weet ons reeds van die belangrikste bedreigings wat KI vir besighede inhou as dit nie veilig ontwerp is nie. Hulle sluit in:

• Vinnige inspuitingsaanvalle wat kwaadwillige akteurs in staat stel om ingeboude veiligheidsrelings te omseil om groottaalmodelle (LLM's) vir onheilspellende doeleindes te misbruik. Die donker web is glo reeds oorspoel met “jailbreak-as-a-service”-aanbiedinge wat presies dit moontlik maak.
• Kwesbaarhede en wankonfigurasies in KI-stelselkomponente, wat uitgebuit/gebruik kan word om sensitiewe opleidingsdata of modelle te steel of te “vergiftig”. Sulke sekuriteitsgate reeds ontdek is regoor die voorsieningsketting, insluitend in vektordatabasisse, oopbronkomponente en LLM-gasheerplatforms.
• Ontkenning van diens, as 'n aanvaller 'n buitengewone groot inset in 'n LLM voer
• Openbaarmaking van sensitiewe data (bv. kliëntdata) via die reaksie op 'n gebruiker se versoek, hetsy onopsetlik of kwaadwillig

Die waarheid is dat moderne KI-stelsels 'n reeds breë korporatiewe kuberaanvaloppervlak uitbrei, insluitend API's, LLM-modelle, oopbronkode, opleidingdatastelle, front-end-koppelvlakke en wolkinfrastruktuur. Die risiko van misdrywe neem toe namate dit in meer besigheidsprosesse en toepassings ingebed raak. Die OWASP Top 10 vir LLM-toepassings is 'n goeie begin. Maar dit is nie 'n volledige lys van KI-verwante sekuriteitsrisiko's nie.

Vir wie dit is

Die praktykkode self is van toepassing op 'n aantal sleutelbelanghebbendes. Dit sluit in:

• Sagtewareverkopers wat KI-dienste aan kliënte bied
• Sagtewareverkopers wat KI intern gebruik, of dit nou in die huis of deur 'n derdeparty geskep is
• Gereelde organisasies wat KI-stelsels vir interne gebruik skep
• Gereelde organisasies wat slegs derdeparty-KI-komponente vir interne gebruik gebruik

Slegs "KI-verskaffers" wat modelle of komponente verkoop, maar dit nie werklik ontwikkel of ontplooi nie, sal waarskynlik buite die "omvang" van hierdie kode wees.

Wat is in die kode

Die praktykkode is verdeel in 13 "beginsels" wat elke stadium van die KI-lewensiklus dek, oor ontwerp, ontwikkeling, ontplooiing, instandhouding en lewenseinde. Hulle is:

1. Verhoog bewustheid van KI-sekuriteitsbedreigings en -risiko's deur kuberveiligheidspersoneel en 'n groter werknemerbasis op te lei.
2. Ontwerp KI-stelsels vir sekuriteit, funksionaliteit en werkverrigting gebaseer op deeglike beplanning en risikobeoordelings.
3. Evalueer/modelleer bedreigings en bestuur risiko's wat verband hou met die gebruik van KI deur sekuriteitskontroles en deurlopende monitering.
4. Aktiveer menslike verantwoordelikheid en toesig oor KI-stelsels.
5. Identifiseer, spoor en beskerm bates deur 'n omvattende inventaris en opsporingsinstrumente wat rekening hou met interafhanklikhede en konnektiwiteit.
6. Veilige infrastruktuur soos API's, modelle, data en opleiding en verwerking van pyplyne. Dit moet 'n kwesbaarheidsopenbaarmakingsbeleid en voorvalbestuur/stelselherstelplanne insluit.
7. Beveilig die sagteware-voorsieningsketting deur risikobepalings, versagtende beheermaatreëls en dokumentasie.
8. Dokumenteer data, modelle en opdragte met 'n duidelike ouditspoor van stelselontwerp en na-ontplooiing instandhoudingsplanne. Dokumentasie sal nodig wees om kommer oor datavergiftiging te besweer wanneer openbare opleidingsdata gebruik word.
9. Voer toepaslike toetsing en evaluering uit wat alle modelle, toepassings en stelsels dek voor ontplooiing via onafhanklike toetsers.
10. Ontplooi veilig deur eindgebruikers te vertel hoe hul data gebruik, toeganklik en gestoor sal word. Belanghebbendes moet ook sekuriteitsrelevante opdaterings, leiding oor bestuur en opstelling, en bystand verskaf om die impak van enige voorval te beperk en te versag.
11. Handhaaf gereelde sekuriteitsopdaterings, kolle en versagtings.
12. Monitor stelselgedrag deur stelsel- en gebruikersaksies aan te teken en onreëlmatighede, sekuriteitsbreuke of onverwagte gedrag oor tyd op te spoor.
13. Verseker behoorlike data en model wegdoening wanneer 'n model of opleidingsdata uit diens gestel word of eienaarskap oorgedra word.

Plaas die boublokke in plek

Die goeie nuus is dat beste-praktyk kuberveiligheidstandaarde organisasies kan help om aan die kode te voldoen. ISO 27001 word in die dokument self aangehaal, maar David Cockcroft, inligtingsekuriteitsektorbestuurder by ISOQAR, beweer dat ISO 42001 die beste pas. Hierdie relatief nuwe standaard is ontwerp om organisasies te help om 'n kunsmatige intelligensiebestuurstelsel (AIMS) te vestig, te implementeer, in stand te hou en voortdurend te verbeter.

“Die fundamentele skakels met ISO 42001 is uit die staanspoor duidelik. Die gehoor en belanghebbendes binne die praktykkode is direk gekoppel aan die organisatoriese konteks en die organisasie se rol in die KI-lewensiklus wat in die standaard gevind word,” sê hy aan ISMS.online.

"Alle beginsels binne die praktykkode kan gekarteer word na die klousules en kontroles binne die 42001-standaard."

Andreas Vermeulen, hoof van KI by Avantra, stem saam.

"Deur ISO 42001 met huidige sekuriteitstandaarde te integreer, kan organisasies voldoening aan die kode verbeter, om te verseker dat KI-spesifieke sekuriteit en operasionele risiko's voldoende aangespreek word, en sodoende die algehele sekuriteitsposisie van KI verbeter," sê hy aan ISMS.online.

“Die VK stel 'n sterk voorbeeld deur omvattende riglyne daar te stel wat die veilige en veilige ontplooiing van KI-tegnologie verseker. Hierdie pogings posisioneer dit as 'n leier in die verantwoordelike ontwikkeling van KI-stelsels."

By ISMS.online, ons het voorheen bevraagteken of die regering se ambisieuse KI-planne ook kuberrisiko kan inspuit in die infrastruktuur en toepassings wat nodig is om sy veelbesproke “dekade van nasionale vernuwing” aan te dryf. Dit is dus goed om 'n paar nuttige riglyne gepubliseer te sien saam met dikwels vae beloftes van tegnologie-geleide groei.

"Die nuwe praktykkode, wat ons in samewerking met globale vennote opgestel het, sal nie net help om die veerkragtigheid van KI-stelsels teen kwaadwillige aanvalle te verbeter nie, maar 'n omgewing bevorder waarin Britse KI-innovasie kan floreer," sê NCSC se tegniese direkteur, Ollie Whitehouse.

Soos die kode verouder en ontwikkel tot 'n internasionale standaard, kan dit vir 'n geruime tyd die de facto basislyn vir KI-sekuriteit word.