Die Raamwerkkonvensie oor KI kom: Wat beteken dit vir jou organisasie?

Die spoed waarteen KI-innovasie beweeg, het baie verras. In sommige lande sukkel wetgewers om tred te hou, en wissel tussen selfregulering (waarvan die VSA 'n voorstander is) en 'n meer praktiese benadering (bv. die EU-wet op KI). Maar die meeste erken nou die potensiaal vir die tegnologie om menseregte en die oppergesag van die reg te ondermyn. 'n Nuwe Raad van Europa se raamwerkkonvensie oor kunsmatige intelligensie spreek hierdie bekommernisse aan.

Dit het ten doel om bestaande globale standaarde oor menseregte, demokrasie en die oppergesag van die reg aan te vul, terwyl enige wetlike leemtes wat voortspruit uit vinnige KI tegnologiese vooruitgang aangespreek word. Tog sal sy tegnologie-agnostiese, vaag bewoorde benadering waarskynlik die soort impak hê wat sy voorstanders beweer?

Wat is dit en hoekom nou?

Vyf jaar in wording, word die konvensie beskryf as die "eerste internasionale wetlik bindende verdrag" wat KI beheer. Dit is geskryf deur die 46 lidlande van die Raad van Europa (insluitend die VK), die EU en 11 nie-lidlande, insluitend Australië, Japan en die VSA.

Dit kan gesien word in die konteks van 'n groeiende aantal uiteenlopende regeringspogings om KI te reguleer op 'n manier wat ontluikende risiko's versag. Dit sluit president Biden s'n in Executive Order op KI vanaf Oktober 2023, die Bletchley-verklaring 'n maand later (November 2023), en die King se toespraak aankondiging dat die Britse regering beplan om KI-wetgewing in te stel om kragtige KI-modelle te reguleer.

Hoe verskil dit van die EU KI-wet?

Volgens die Raad van Europa bevat die konvensie verskeie fundamentele beginsels wat die lewensiklus van KI-stelsels moet beheer:

• Menswaardigheid en individuele outonomie
• Gelykheid en nie-diskriminasie
• Respek vir privaatheid en beskerming van persoonlike data
• Deursigtigheid en toesig
• Aanspreeklikheid en verantwoordelikheid
• betroubaarheid
• Veilige innovasie

Ondertekenaars moet relevante inligting oor KI-stelsels dokumenteer en dit beskikbaar stel aan enigiemand wat geraak word. Hierdie inligting moet gedetailleerd genoeg wees sodat mense besluite wat geneem word via KI of selfs die gebruik van KI self kan betwis. Hulle moet ook 'n klag by die owerhede kan indien. Daardie owerhede moet "effektiewe prosedurele waarborge, waarborge en regte" verskaf aan enigiemand wat deur KI geraak word wat hul menseregte en vryhede kan beïnvloed. Die Raad sê kennis moet ook aan gebruikers van KI gegee word dat hulle interaksie het met nie-menslike intelligensie.

Die konvensie vereis dat state ook risiko- en impakbeoordelings uitvoer wat verband hou met KI se impak op menseregte, demokrasie en die oppergesag van die reg. Gevolglik moet hulle “voldoende voorkomings- en versagtingsmaatreëls” instel en selfs verbod of moratoria op sekere KI-toepassings instel.

So, hoe verskil dit van die EU KI-wet? Vanselfsprekend is dit van toepassing op nasiestate eerder as private besighede – hoewel dit ook private entiteite wat namens regerings optree, raak. Alhoewel albei daarop gemik is om menseregte in die konteks van KI-gebruik te beskerm, is hulle "afsonderlike stukke wetgewing met baie verskillende grondslae in die wet", volgens Sarah Pearce, vennoot by Hunton Andrews Kurth.

“Die EU KI-wet is 'n stuk wetgewing wat deur die Europese Unie ingestel is en wat direk afgedwing sal word. Die KI-verdrag is 'n internasionale konvensie wat deur verskeie nasiestate onderteken is. Ondertekenaars verbind hulle tot sekere beginsels/verpligtinge en om saam met wetgewers en reguleerders op nasionale vlak te werk om daardie beginsels/vereistes te implementeer en af ​​te dwing,” sê sy aan ISMS.online.

“Die beginsels van die KI-konvensie lyk taamlik wyd en vereis verdere optrede deur nasiestate om implementering en afdwinging te verseker, so die doeltreffendheid daarvan is in hierdie stadium twyfelagtig. Daarenteen is die EU KI-wet wetgewing wat van krag is en bevat 'n stel wetlike vereistes waaraan organisasies in omvang moet voldoen, of om sanksies te waag vir nie-nakoming. Dit sluit ook bepalings in oor hoe die wetgewing afgedwing sal word.”

Sal dit 'n verskil maak?

Daar is verskeie potensiële uitdagings met die konvensie, volgens a Voël- en voëlontleding:

• State kan kies hoe om sy reëls op private akteurs toe te pas – direk of via “ander toepaslike maatreëls”. Dit kan lei tot verskille in hoe dit regoor die wêreld toegepas word, asook die feit dat die term "openbare gesag" nie in die teks omskryf word nie.
• Oor die algemeen hou die konvensie by breë beginsels eerder as spesifieke vereistes, wat beteken dat wanneer dit in plaaslike wette omgesit word, daar 'n groot verskil in regulasies kan wees.
• Alhoewel voldoeningsrapportering vereis word, maak geen streng toepassingskriteria die konvensie ietwat tandeloos nie.
• Geen remedies, soos boetes, is voorgestel vir skending van menseregte wat met die konvensie verband hou nie – wat beteken dat dit ook aansienlik kan verskil tussen jurisdiksies.

"Na alle waarskynlikheid sal die meeste organisasies voldoening aan konvensies uitdagend vind vanweë die onakkurate taal en breë pligte," sê Cripps-vennoot, Matthew Holman, aan ISMS.online.

"Die EU sê dat hy dit gedoen het deur die EU-KI-wet te implementeer, en dit is basies korrek op daardie punt. Die Britse regering sê dat bestaande nasionale wette reeds die punte wat uit die konvensie kom, aanspreek, dus is geen selfstandige handeling nodig nie. Of dit op daardie punt reg is, is baie op vir debat, maar ek sal geneig wees om nie saam te stem nie.”

 Wat is die volgende stappe?

Die Britse regering lyk gretig om te handhaaf sy posisie as 'n leier in KI-veiligheid. Dit beweer bestaande wette en maatreëls sal "versterk" word sodra die verdrag bekragtig is en dat dit nou sal saamwerk met "reguleerders, die afgewentelde administrasies en plaaslike owerhede" om die nuwe vereistes te implementeer.

Tot dan, sê Holman, moet beide openbare en private sektororganisasies wat moontlik deur die konvensie geraak word, verseker dat enige KI-ontwikkeling in lyn is met die Raad van Europa se kernwaardes van menseregte, demokrasie, die oppergesag van die reg en deursigtigheid.

"Openbare owerhede en private akteurs moet daarna streef om die deursigtigheid van prosesse te verbeter en met openbare owerhede saam te werk om 'n raamwerk vir industriestandaard etiese praktyke te skep," sluit hy af.