September was 'n keerpunt vir voorstanders van KI-etiek. Die FTC uitgereik Artikel 6(b) beveel sewe groot tegnologiemaatskappye wat kletsbotte vervaardig om as metgeselle gebruik te word. Dit is die eerste groot federale ondersoek wat spesifiek gemik is op KI-metgesel-kletsbotte wat ontwerp is om menslike eienskappe, emosies en bedoelings na te boots. Die FTC trek nie houe nie. Dit gaan agter sommige van KI se swaargewigmaatskappye aan. Alphabet, Meta Platforms, Instagram, OpenAI, Snap, Character Technologies en Elon Musk se xAI het almal letters gekry.
Die kommissarisse het eenparig gestem om die bevele uit te reik, wat tweeparty-regulatoriese kommer oor KI aandui. Hulle het maatskappye 45 dae gegee om verskeie aspekte van hul KI-bedrywighede te verduidelik, insluitend hoe hulle gebruikersbetrokkenheid monetiseer, gebruikersinsette verwerk, uitsette genereer in reaksie op gebruikersnavrae, en hul KI-karakters ontwikkel en goedkeur. Hulle moet ook verslag doen oor hoe hulle negatiewe impakte meet, toets en monitor voor en na ontplooiing, asook hoe hulle negatiewe impakte, veral vir kinders, verminder.
Daardie verslae bespreek ook hoe hulle gebruikers en ouers inlig oor potensiële negatiewe impakte, oor hul data-insamelings- en hanteringspraktyke, asook hoe hulle persoonlike inligting gebruik of deel. Daar is dus breë kommer oor potensiële skade aan privaatheid en kwesbare gebruikers.
Hoe beïnvloed dit B2B-maatskappye?
Ons is beide verbaas en nie verbaas dat die FTC dit doen nie. Aan die een kant is die Trump-administrasie sterk teen regulering, veral wat KI betref. Aan die ander kant het verskeie families regsgedinge aanhangig gemaak waarin hulle beweer dat KI-kletsbotte tienerselfmoorde aangemoedig het. Kinders is na bewering aangehits om hul eie lewens te neem deur KI-algoritmes wat onverantwoordelik gefunksioneer het. Dit is dus hoog tyd dat iets gedoen word.
KI's wat egter vinnig en losbandig met kwesbare mense se emosionele toestande speel, laat kwessies van verbruikersskade ontstaan. Hoe kan dit B2B-maatskappye beïnvloed?
Enige aanname dat B2B-organisasies verbruikersgerigte KI-regulering kan ignoreer, is gevaarlik. gewaarsku Mayer Brown-prokureurs Christa Bieker en Christopher Leach in 2022. FTC-artikel 5 bevat geen uitdruklike beperkings op wie as 'n verbruiker kwalifiseer nie. Dit het byvoorbeeld handhawingsaksies teen B2B-betalingsverwerkers en kleinsake-leningsmaatskappye ingestel.
En hierdie aksie dui daarop dat die FTC nie so afsydig sal wees soos sommige van ons dalk gedink het wanneer dit kom by die regstelling van sommige van KI se skade nie.
In 2023 het die destydse voorsitter, Lina M. Khan, gesê dat “Daar geen KI-vrystelling van die wette is nie, en die FTC sal die wet kragtig afdwing om onbillike of misleidende praktyke of onbillike metodes van mededinging te bestry.” Dit bly nog gesien hoeveel daarvan in die nuwe administrasie sal bly, maar daar is duidelik steeds 'n aptyt om besighede aanspreeklik te hou.
Maatskappye wat nie KI behoorlik inneem nie, loop die risiko van "algoritmiese ontbinding"
Dit sal inderdaad 'n hartseer en seldsame persoon wees wat verlief raak op hul debiteure-kletsbot. Nietemin kan onverantwoordelike gebruik van KI steeds probleme vir B2B-ondernemings veroorsaak.
Byvoorbeeld, die FTC het 'n algoritmiese verwyderingsmaatreël ingestel wat dit kan gebruik om maatskappye te laat verwyder KI's wat ontwikkel is met onbehoorlik verkrygde data. Hierdie is hoofsaaklik in verbruikersake toegepas, maar soos ons geleer het, kan besighede ook verbruikers wees.
Gebruik ISO 42001 om beste praktyke te dokumenteer
Daar is maatreëls wat maatskappye kan tref om hulself te beskerm deur te verseker dat hulle hul KI's verantwoordelik ontwikkel en ontplooi. Een van die kragtigste maatreëls is om die feit te dokumenteer dat jy dinge van nuuts af verantwoordelik doen. ISO 42001, 'n internasionale standaard spesifiek vir kunsmatige intelligensie-bestuurstelsels (AIMS), spreek KI-uitdagings aan, insluitend etiek, deursigtigheid, voortdurende leer, vooroordeel en aanspreeklikheid. Dit is presies die bekommernisse wat die FTC-ondersoek dryf.
Byvoorbeeld, organisasies wat hierdie standaard volg, moet potensiële skade identifiseer en dokumenteer voor ontplooiing, onevenredige impakte op beskermde groepe assesseer, risiko's gereeld herevalueer en gedokumenteerde versagtingsmaatreëls implementeer. Dit is presies wat die FTC van kletsbotverskaffers vereis.
Net so beheer ISO 42001 se aanhangsel A.7 die dokumentasie van data-insamelingsbronne, tesame met transformasie, gebruik en berging. Dit kyk na datakwaliteitsbestuur, insluitend die impak van enige vooroordele in die stelsel.
Selfs maatskappye wat nie direk met verbruikers te doen het nie, sal goed doen om die FTC se huidige ondersoek deur 'n B2B-lens te bekyk. Kletsbotte is nie net nuwe koppelvlakke tot bestaande ondernemingstelsels nie. Inteendeel, hulle is baie kragtiger in terme van hoe hulle data kan insamel en masseer, en baie meer vloeiend en natuurlik in hul taalgebruik. Dit skep nuwe maniere van interaksie met sakekliënte en met werknemers.
FTC Artikel 6(b) bevele dui nie op regstappe nie; hulle is feite-insamelingsinstrumente om die Kommissie se kennis te help uitbrei. As dit egter nie hou van wat dit bevind nie, kan handhawingsmaatreëls volg. En dit kan presedente skep vir alle soorte KI-gebruik teen alle soorte verbruikers (selfs klein besighede). In 'n wisselvallige regulatoriese landskap waar beleidmakers met nuwe tegnologie worstel, is dit die moeite werd om versigtig te wees en beheermaatreëls te implementeer.
