Gesondheidsorg-KI beweeg vinnig, maar data-oorsig sukkel om tred te hou

By Kate O'Flaherty • 19 Mei 2026 • 6 min lees

Hoe kan gesondheidsorgorganisasies gapings in vertroue en databestuur oplos om die volle voordele van KI te verwesenlik?

Deur Kate O'Flaherty

Die gesondheidsorgsektor innover met behulp van KI, met groot potensiaal vir die tegnologie oor gebiede soos diagnostiek, triage en administrasie.

In die Verenigde Koninkryk is die NHS reeds omhelsing van KI verder as basiese take. NHS Engeland het begin loodse vir KI-longkanker-siftings, waar die tegnologie kleiner probleme kan identifiseer as wat die menslike oog kan sien.

Intussen het die Amerikaanse Voedsel- en Medisyne-administrasie (FDA) gemagtigde meer as 1 000 KI-inkorporerende toestelle, waarvan die meerderheid in radiologie gebruik word.

Oor die afgelope twee jaar het gesondheidsorgleiers verskuif van die vraag of KI relevant is na die fokus op hoe dit verantwoordelik en op skaal gebruik kan word, volgens 'n onlangse McKinsey verslag.

Die syfers toon dat die helfte van Amerikaanse gesondheidsorgorganisasies reeds generatiewe KI geïmplementeer het, terwyl meer as 80% hul eerste gebruiksgevalle aan eindgebruikers ontplooi het. Die volgende fase, volgens McKinsey, is om te sien hoe organisasies beweeg van die gebruik van generatiewe KI om inhoud te skep en individuele take te ondersteun na ... agentiese KI om aksie te neem en meer komplekse prosesse te koördineer.

Tog vertraag beduidende struikelblokke die innovering van KI in gesondheidsorg, insluitend sekuriteitsrisiko's en voldoeningskwessies as gevolg van die groot hoeveelhede sensitiewe data wat nodig is om stelsels op te lei. Hoe kan gesondheidsorgorganisasies gapings in vertroue en databestuur oplos om die volle voordele van KI te verwesenlik?

Hoogs Sensitiewe Data

Gesondheidsorgdata is van die sensitiefste en veelsydigste van enige sektor, en kombineer mediese rekords, persoonlike identiteitsdata en finansiële inligting van verskeie verskaffers en stelsels.

“’n Pasiënt se inligting kan oor hospitale, huisdokterspraktyke, spesialiste, laboratoriums, apteke, versekeraars en tegnologieplatforms versprei wees – dikwels in onversoenbare formate sonder ’n verenigde rekord wat dit saambind,” verduidelik Craig Gravina, hooftegnologiebeampte van Semarchy.

Die gevolg is dat geen enkele stelsel 'n volledige prentjie van 'n pasiënt bevat nie. “Die bou van daardie prentjie — die longitudinale pasiëntrekord — is wat nodig is om KI veilig en effektief in 'n kliniese omgewing te laat werk,” vertel Gravina IO“Daarsonder werk KI vanuit 'n onvolledige en onbetroubare prentjie. In gesondheidsorg gaan dit verder as 'n dataprobleem en word dit 'n pasiëntveiligheidskwessie.”

Namate KI in kliniese werkvloeie ingebed raak, staar organisasies toenemende druk in die gesig om fundamentele vrae te beantwoord: Waar het hierdie data ontstaan, is dit gevalideer, wie kan toegang daartoe kry, en kan KI-ondersteunde besluite geouditeer word? “Wanneer stelsels kliniese besluite op skaal begin beïnvloed, bloot swak databasisse ernstige gapings in vertroue en aanspreeklikheid,” sê Gravina.

Die bekendstelling van KI-tegnologie skep probleme op drie gebiede: Verantwoordbaarheid, verduidelikbaarheid en toestemming, sê Mike Macauley, hoofbestuurder by Liferay. “Niemand weet wie om te blameer wanneer KI mediese advies gee nie. As 'n stelsel 'n aanbeveling maak, kan die wet nie sê wie verantwoordelik is vir die uitkoms nie.”

Baie KI-modelle is effektief "swart bokse" wat nie verduidelik hoe hulle tot 'n gevolgtrekking kom nie, volgens Macauley. Dit skep 'n regsprobleem onder die VK se Regulasie Algemene Data Protection (GDPR), want pasiënte het die reg om te weet hoekom 'n rekenaar 'n spesifieke besluit oor hul gesondheid geneem het, sê Macauley.

Intussen oefen maatskappye hul KI met behulp van data wat hulle vir een spesifieke doel ingesamel het, maar dit word dikwels ook vir ander redes gebruik. “Dit beteken dat hulle nie kan bewys dat hulle die wettige reg het om die oorspronklike data te gebruik wat die stelsel geleer het nie,” vertel Macauley. IO.

Die Verborge Probleem

Soos KI in gesondheidsorg bekendgestel word, is 'n dikwels oor die hoof gesiene risiko wat gebeur soos data deur 'n komplekse ketting van derde partye soos ouer platforms en eksterne vennote beweeg.

“Verantwoordelikheid word met elke oorhandiging verdun,” volgens Semarchy se Gravina. “Dit is nie altyd duidelik wie die data in elke stadium besit, wie aanspreeklik is vir die kwaliteit daarvan, of wie verantwoordelik is wanneer iets verkeerd loop nie. Wanneer geen enkele party 'n volledige, end-tot-end-beeld van die data-lewensiklus het nie, breek bestuur af.”

Om by te dra tot die kompleksiteit, is tradisionele gesondheidsorgbestuursraamwerke ontwerp vir statiese stelsels met relatief stabiele datavloei en vaste reëls. Byvoorbeeld, Cyber Essentials en NHS-inligtingsbestuur, werk slegs vir rigiede stelsels. “KI oortree hierdie reëls omdat dit voortdurend ontwikkel,” sê Macauley van Liferay.

Terselfdertyd, 'n standaard Databeskermingsimpakevaluering Soos uiteengesit deur die GDPR, kyk 'n stelsel slegs een keer. 'n KI wat leer soos dit aangaan, kan egter sy gedrag verander sonder dat enigiemand kyk of dit steeds veilig of wettig is, volgens Macauley.

Innovasie-knelpunte

'n Gebrek aan vertroue in bestuur ondermyn die vordering van KI in gesondheidsorg deur die risiko van innovasie-bottelnekke te verhoog. Wanneer organisasies nie vertroue in hul databasis het nie, stagneer die aanvaarding van KI.

“Leiers sal huiwer om KI in kliniese omgewings te ontplooi as hulle nie datakwaliteit en -afstamming kan waarborg nie, of ouditbaarheid aan reguleerders kan demonstreer nie,” sê Semarchy se Gravina. “Die ironie is dat die bestuursinfrastruktuur wat nodig is om KI veilig te skaal, dieselfde is wat die longitudinale pasiëntdata-aansig lewer wat KI in die eerste plek meer effektief maak.”

Goeie bestuur is die dryfveer vir effektiewe gesondheidsorg-KI, verduidelik hy. “Kritiek is dat die blootstelling van data aan KI nie hoef te beteken dat die bestuurswaarde wat daaromheen gebou is, verlore gaan nie – afstamming, toegangsbeheer en datakwaliteit moet saam met die data reis, nie agtergelaat word wanneer dit 'n KI-pyplyn binnegaan nie.”

Internasionale standaarde

Twee internasionale standaarde bied die raamwerk vir die bestuur van KI. ISO 27001 bied die fondament vir sterk inligtingsekuriteit en -bestuur, wat help om gestruktureerde benaderings tot risikobestuur, toegangsbeheer, voorvalreaksie, batebestuur en aanspreeklikheid te vestig. Dit help om "meer verdedigbare bestuur" te bou, sê Gravina.

ISO 42001 bou hierop voort deur die bekendstelling van bestuur wat spesifiek vir KI-stelsels ontwerp is. Dit fokus op toesig, KI-spesifieke risikobestuur, deursigtigheid en die verantwoordelike ontwikkeling en gebruik van KI.

Saam stel hierdie standaarde gesondheidsorgorganisasies in staat om “verder as ad hoc KI-aanvaarding na 'n meer gestruktureerde bestuursmodel te beweeg”, verduidelik Gravina.

Dit is duidelik dat KI enorme potensiaal in gesondheidsorg bied, indien bestuursstrukture aangepas kan word om by hierdie innoverende nuwe era te pas.

Pasiëntvertroue behoort alles te onderlê, volgens kenners. Lohyd Terrier, medeprofessor in organisatoriese gedrag aan die EHL Hospitality Business School, bepleit die behandeling van KI as 'n eksplisiete diens vir die pasiënt. "Dit moet naspeurbaar, verklaarbaar en geweier kan word – eerder as 'n onsigbare agterkantoorfunksie."

Die beginpunt moet die data self wees. Leiers moet verstaan of hul organisasie die fondamente in plek het om "'n verenigde, longitudinale siening van pasiëntdata oor alle stelsels en verskaffers te bou", sê Semarchy se Gravina. "Sonder dit is KI-beheer op sand gebou."

Hy beveel aan dat kartering gedoen word van waar KI reeds in gebruik is, dat kritieke datavloei en afhanklikhede van derde partye geïdentifiseer word, dat eienaarskap en rentmeesterskap verduidelik word, en dat toegangsbeheer, ouditroetes en datakwaliteit van begin tot einde versterk word. “Privaatheid, sekuriteit en KI-bestuur moet in 'n enkele samehangende benadering saamgevoeg word, eerder as om dit in isolasie te bestuur.”