Besighede word aangemoedig om 'vinnig-ontwikkelende' KI-regulasies op te spoor

Kunsmatige intelligensie (KI) is besig om die inligtingstegnologie-sektor teen 'n duiselingwekkende tempo te transformeer. KI het toepassings getransformeer, insluitend data-analise, kliëntediens en selfs sagteware-ontwikkeling. Besighede wat traag is om KI aan te neem, loop groot mededingende nadele in gevaar. Maar KI-tegnologie-ontplooiings kom nie sonder risiko nie.

Byvoorbeeld, foute in 'n KI-stelsel ontwerp om kindersorgvoordeelbedrog aan te pak, het gesinne in Nederland in finansiële nood gedompel. Amazon moes 'n KI-werwingsinstrument skrap wat vooroordeel teenoor vroulike kandidate getoon het.

Die gebruik van KI vir data-insameling en -ontleding bring ook privaatheidskwessies en die potensiaal vir data-oortredings na vore, veral in sensitiewe sektore van die ekonomie. Byvoorbeeld, baie banke het personeel verbied om gereedskap soos ChatGPT en ander KI virtuele assistente te gebruik weens kommer dat die aard van navrae inligting oor sakegeheime soos beplande verkrygings of samesmeltings kan uitlek.

'N Onlangse verslag deur die Sentrum vir Langtermyn Veerkragtigheid (CLTR) het 'n beroep op die VK gedoen om 'n stelsel op te stel om AI-misbruik of wanfunksionering aan te teken voorvalle. Die dinkskrum voer aan dat probleme met KI-tegnologie op dieselfde manier hanteer moet word as wat die Air Accidents Investigation Tak ondersoek instel na vliegongelukke.

’n Voorvalrapporteringstelsel vir KI-probleme bied die geleentheid om beste praktyke op gebiede soos risikobestuur te ontwikkel, lesse te leer en regulasies te vorm, volgens die CLTR.

Regulerende vordering

Terwyl regulering steeds die gebruik van KI binne besighede inhaal, is 'n wag-en-sien-benadering tot voldoening ver van wys.

David Corlette, VP van produkbestuur by VIPRE Security Group, het aan ISMS.online gesê dat KI-regulering (byna) gelyktydig met die tegnologie self ontwikkel.

"Terwyl ons nog 'n omvattende raamwerk vir KI moet sien - word noemenswaardige vordering gemaak," volgens Corlette. “Daar is die NIST AI Risk Management Framework (AI RMF), en natuurlik die ISO 42001, wat 'n belowende benadering tot KI-bestuur bied. Die ISO 42001 sal 'n vlak van konsekwentheid en betroubaarheid oor grense heen bring."

Lê 'n fondasie

Raamwerke soos ISO 42001 kan help om robuuste fondamente te vestig en die las van voldoening te verlig soos en wanneer nuwe regulasies ingestel word.

ISO 42001 beskryf hoe besighede 'n raamwerk kan vestig vir die vestiging en instandhouding van 'n kunsmatige intelligensiebestuurstelsel binne hul organisasie. Risikobestuur is een van die kernkomponente van die raamwerk.

Volgens Glenn Chisholm, medestigter en uitvoerende hoof van Obsidian Security, "Die ISO 42001-standaard beklemtoon risikobestuur en kan toegepas word om risiko's wat met KI geassosieer word, in te sluit, insluitend etiese oorwegings, risiko- en impakbeoordelings, dataprivaatheid, vooroordeel en voortdurende verbetering .”

Chisholm het bygevoeg: "Alhoewel dit nie outomaties voldoening aan ander standaarde verseker nie, deel ISO 42001 baie eienskappe met standaarde soos die EU AI-wet, NIST AI RMF en ander."

Peter Wood, hoof tegniese beampte by Spectrum Search, het bygevoeg: "Deur ISO 42001 aan te neem, kan organisasies voldoening aan komende regulasies vereenvoudig deur 'n proaktiewe eerder as reaktiewe benadering. Dit stel organisasies in staat om moeiteloos aan te pas by veranderende regulatoriese landskappe, wat die risiko en moontlike strawwe van nie-nakoming tot die minimum beperk.”

Wêreldwye inisiatiewe

Internasionale standaarde ontwikkel vinnig, en verskeie lande, soos die Verenigde State, China, Indië en Australië, is almal besig om hul regulasies daar te stel.

Volgens Chisholm, "Baie van hierdie standaarde sal waarskynlik van mekaar leen, so die voordeel van in lyn met die een sal waarskynlik in die ander vloei."

Regs- en nakomingskundiges sê die nakoming van die onlangs ingevoerde EU-KI-wet behoort 'n prioriteit vir Britse ondernemings te wees, aangesien hulle dikwels met die EU sake sal doen.

“Baie Britse ondernemings werk in of saam met die EU; daarom verseker belyning met die EU KI-wet voortgesette toegang tot hierdie beduidende mark,” het Becky White, senior prokureur vir databeskerming en privaatheid by Harper James, aan ISMS.online gesê. “Nie-nakoming kan tot toegangsversperrings of boetes lei, wat sakebedrywighede en mededingendheid beïnvloed.”

Die EU KI-wet fokus op hoërisikotoepassings en datastelle. Die kernbeginsels daarvan beklemtoon deursigtigheid en aanspreeklikheid.

"Die EU KI-wet is 'n goeie plek om te begin, aangesien die kernbeginsels van deursigtigheid, veiligheid en databestuur waarskynlik fundamenteel sal wees vir enige KI-regulasie in enige streek," volgens VIPRE se Corlette. “Hierdie wetgewing is die eerste in sy soort en lê feitlik die raamwerk neer vir ’n opkomende bedryf wat geen vorige afdwingbare standaarde het nie.”

Corlette het tot die gevolgtrekking gekom: "Die geskiedenis sou voorstel dat regulasies wat in ander streke ontwikkel is, ook baie na hierdie ontluikende EU-wetgewing sal ooreenstem. ’n Voorbeeld is die EU se GDPR.”

Terwyl belyning met die EU KI-wet gladde sakebedrywighede oor grense heen verseker en potensiële regulatoriese konflikte kan vermy, moet Britse ondernemings regulatoriese ontwikkelings nader aan die huis fyn dophou.

Spectrum Search se Wood het aangeraai om "weddenskappe te verskans deur die VK-spesifieke regulasies noukeurig na te kom en die buigsaamheid te handhaaf om aan te pas by beide die VK en EU-vereistes."

Kenners het aangeraai dat Britse organisasies hulself moet posisioneer om vinnig aan te pas as en wanneer verskille tussen regulatoriese regimes in verskillende streke ontstaan.

Harper James se White het gesê: “Volledige nakoming van verskeie regulatoriese regimes op dieselfde tyd kan hulpbron-intensief wees; daarom stel hierdie tipe 'verskansing'-strategie ondernemings in staat om hulpbronne doeltreffend toe te wys, en balanseer nakoming met innovasie en operasionele doeltreffendheid en deur 'n mate van buigsaamheid te handhaaf, kan ondernemings draai en aanpas by veranderinge in beide die VK en EU-regulerende omgewings soos en wanneer dit nodig is.”

Privaatheid en Bestuur

Bekommernisse oor bestuur en privaatheid wat voortspruit uit ondernemingsgebruik van KI gaan verder as voldoening en regulatoriese aangeleenthede.

"Die opleiding van Gen AI-modelle en databasisse sal dikwels die verwerking van groot datastelle behels wat aansienlike hoeveelhede persoonlike data bevat, wat kan lei tot aansienlike privaatheid en bestuursrisiko's vir Britse ondernemings," het Harper James' White verduidelik. “Hierdie inligting kan soms sensitiewe of spesiale kategorie-data oor individue insluit, waarvan die verwerking per ongeluk vooroordele kan voortduur of selfs vererger, wat lei tot onbillike of diskriminerende uitkomste. Die misbruik van die gegenereerde inhoud kan privaatheidsregte skend.”

Algoritmiese vooroordeel, waar KI-stelsels onbedoeld bestaande vooroordele wat in die opleidingsdata voorkom, kan weerklink, kan versag word deur gereguleerde oudits en diverse datastelle.

Volgens White kan besighede help om hierdie risiko's te versag deur robuuste databestuurspraktyke te implementeer en te fokus op hoe hul werknemers KI gebruik.

"Dit sluit in die gebruik van anonimiseringstegnieke, die vestiging van streng toegangskontroles, die uitvoer van gereelde vooroordeelmonitering en om te verseker dat die data wat gebruik word om die KI-modelle op te lei akkuraat, volledig en verteenwoordigend is," het White aangeraai.