KI er i utvikling og det er behov for økt kompetanse knyttet til anvendelsen av KI-verktøy i klinisk praksis. Per i dag er det lite forskningsbasert kunnskap å basere seg på, og vi trenger å vite mer om betydningen av KI-verktøy for pasientsikkerheten. Vi må opprettholde et tillitsforhold til våre pasienter.
Det finnes mange forskjellige KI-funksjoner, og utviklingen går fort. Hver funksjon vil ha sine særegne faglige og juridiske problemstillinger, derfor er det vanskelig å si kategorisk nå hvilke program/funksjoner som kan tas i bruk per i dag. Det er hensiktsmessig å skille mellom KI brukt som administrativ støtte og KI brukt i klinisk praksis.
I møtet ble det presentert løsninger fra MaiaMD, Noteless, MediVox, TalkTracer og Aifal/MedBric, NEL, Livv Health og Omilion. Flere journalleverandører la også frem sine planer på området.
Både direktoratene og Helsetilsynet mante til varsomhet og poengterte at legen som ansvarlig for behandlingen også har et stort ansvar for å sikre at verktøyene er trygge og forsvarlige. CE-merking som medisinsk utstyr må etterspørres hvis verktøyet påvirker diagnose, forebygging, overvåking, prediksjon, prognose, behandling eller lindring av sykdom eller skade. Jo tettere funksjoner er knyttet opp mot behandling av konkrete enkeltpasienter, jo større sannsynlighet for at verktøyet må være CE-godkjent. KI-funksjoner som kan påvirke behandlingen av pasienter må også vurderes opp mot medisinsk forsvarlighet – dette ansvaret ligger hos legen. *) se merknad ovenfor
Transkripsjon fra tale til journalnotat tilbys av flere firmaer, og er foreløpig den eneste funksjonen som er omtalt på nettsiden til den tverretatlige rådgivningstjenesten til Hdir, DMP, Helsetilsynet og Direktorat for strålevern og atomsikkerhet. Dette kan brukes som hjelpemiddel (administrativ støtte) hvis den tekniske løsningen er lovlig i henhold til taushetsplikt/deling/lagring av data. Legen må ta maskinens forslag som et utkast, og selv ta det fulle ansvaret for endelig innhold og utforming av notatet. Pasientene har rett til informasjon om at KI benyttes, men det er ikke nødvendig med signert samtykke.
Disse funksjonene ble også presentert i seminaret:
-
Hjelp til å lage sammendrag av journaler, notater, epikriser mv
-
Hjelp til å skrive brev og henvisninger
-
Oppslag i retningslinjer (kunnskapsstøtte). Det har betydning hvilke kilder som inngår i søket. Selv enkle søk kan rammes av KI-feil som hallusinasjoner og misforståelser.
-
KI-diagnostikk basert på konkrete opplysninger om enkeltpasienter (beslutningsstøtte), inkludert billedanalyse, har høy risiko og kan ikke anbefales i norsk allmennpraksis nå.
-
Innhenting/analyse av eksterne data fra f.eks. pulsklokke.
-
Flere KI-verktøy er kombinert med andre funksjoner, som pasient-apper og kommunikasjonsløsninger til pasienter, og må da følge regler for dette.
EUs forordning om kunstig intelligens ("AI act") trådde i kraft i august 2024 og vil innlemmes i norsk lov innen 2026. I mellomtiden må vi navigere så godt vi kan, og innføre verktøyene på en så trygg og sikker måte som mulig. Per dags dato forholder vi oss til følgende:
-
KI-verktøy gjør feil (de oppgir selv <10 %)
-
KI-verktøy hallusinerer, dvs hvis de ikke finner svar kan de finne på svar selv
-
Brukeren (legen) har ansvaret
-
Brukeren (legen) skal ha kunnskap, kompetanse og rutiner for internkontroll ved bruk av KI-verktøy
-
Ingen av møtets leverandører av KI-verktøy til allmennpraksis er CE-merket per i dag
-
Når CE-merket utstyr kommer er det legens ansvar å ikke bruke det til andre formål enn leverandøren har lagt opp til.
-
Helsepersonell har meldeplikt ved alvorlige hendelser (melde.no)
-
KI er energikrevende og har et betydelig klimaavtrykk