Visste du at legetimen din blir tatt opp av KI?

– Jeg ble sjokkert da jeg først hørte om det, sier Mikkel Ellis Inchley (21).

 Han går honours-programmet ved Universitetet i Oslo (UiO) og er en av flere studenter Universitas har snakket med som er overrasket over at kunstig intelligens (KI) ble brukt til å journalføre legetimen deres.

 Siden sommeren 2024 har SiO Helse tatt i bruk KI til journalføring, levert av selskapet Medbric. Teknologien brukes i utgangspunktet i alle legetimer, men pasienter har mulighet til å reservere seg. SiO Helse er fornøyde med løsningen og opplever at få studenter reserverer seg. Av ti studenter Universitas har snakket med på SiO Helse Blindern, visste imidlertid kun tre at legen hadde brukt KI.

Tilliten avhenger av åpenhet

– Har de ikke en plikt til å gi beskjed? spør Merita Grande (24), som studerer sosialt arbeid ved OsloMet. Grande ble først klar over at KI ble brukt under legetimen hennes da Universitas opplyste om det utenfor legesenteret på Blindern. – Mange er jo skeptiske til bruk av teknologi som KI, så SiO burde helt klart informert bedre, sier hun. 

Dersom hun visste på forhånd ville hun likevel ikke reservert seg.

– Jeg har ingenting i mot at leger bruker KI, men det hadde gitt mer troverdighet om de opplyste tydeligere at det blir brukt, sier hun. 

For Grande handler det om respekt for den som har legetime. – Skal legen ta i bruk verktøy som kan skremme den som er på konsultasjon, men samtidig ikke forklare hvordan det fungerer? Det handler om å ivareta den som sitter i stolen, sier Grande.

Honoursstudenten Inchley er enig i at SiO bør informere bedre.

– Det jeg blir mest bekymra for, er personvernet. Derfor er det fint med tydeligere informasjon, sier Inchley

Begge studentene har forslag til SiO:

– En enkel løsning kunne vært å opplyse om det i en tekstmelding, når timen bestilles, sier Inchley. 

– Mange studenter følger SiO på Instagram, så de kunne for eksempel lagt ut informasjon der, sier Grande.

Studenter som prøvekaniner

Jorunn Thaulow er lege og forsker ved avdeling for allmennmedisin ved UiO. Sammen med førsteamanuensis Jon Espen Ingvaldsen fra NTNU har de grunnlagt Medbric. De første prototypene av Medbric ble testet på SiO. Nå bruker nærmere 1000 leger teknologien.

– En pasient vil bli informert om at KI brukes til journalføring både via plakater på venterommet og ofte muntlig beskjed, forteller Thaulow. 

Hos SiO Helse Blindern gis det informasjon via elektroniske skjermer på venterommet og plakater inne hos legen. På spørsmål om informasjonen er mangelfull, svarer hun at det er opp til legen å avgjøre om det er nødvendig med muntlig informasjon i tillegg. Hun har tillit til at legene gjør riktig vurdering. Thaulow forteller at det gjøres et opptak av konsultasjonen, som fortløpende gjøres om til tekst. 

– Da er det en fordel at legen snakker høyt om hva han tenker, ser og finner, noe som også gjør at pasienten føler seg mer involvert, sier Thaulow.

På bakgrunn av teksten genereres et forslag til journalen. Dette kan legen redigere.

– Lyddata slettes med en gang de er gjort om til tekst, og tekstlige data ligger lagret i Medbric i 24 timer før de slettes. Så pasientinformasjon lagres ikke noe annet sted enn i pasientjournalen, forteller Thaulow.

Pasientdata ble ikke brukt i treningsfasen av modellen.

Reelt samtykke

– Legen er helt og fullt ansvarlig for journalføringen. Rent prinsipielt er dette et støtteverktøy, sier Eirik Gulbrandsen, spesialrådgiver i Datatilsynet.

Ifølge ham tar flere i bruk slik teknologi fordi den er ressursbesparende. Datatilsynet følger med på utviklingen av slike løsninger, men mener det er for tidlig å si noe generelt om mulig mislighold ved bruken av teknologien. Han mener det er et rimelig krav fra studentene å vite at det gjøres opptak.

– Grunnprinsippet er at man skal informeres på en slik måte at man enkelt forstår hvordan og på hvilken måte egne personopplysninger behandles, sier Gulbrandsen.

Fornøyd selv om få vet

SiO Helse har ikke tall på hvor stor andel av pasientene som har reservert seg mot løsningen. Direktør for SiO studentliv, Trond Morten Trondsen, sier han har inntrykk av at studentene får med seg informasjonen om Medbric. Han skriver på epost at SiO «informerer om transkriberingsløsningen og muligheten til å reservere seg i alle våre ventesoner og inne på legekontoret. Det er også en QR-kode med mer informasjon om sikkerhet ved løsningen».

På spørsmål om informasjonen er god nok, svarer Trondsen at de må gjøre løpende vurdering på om informasjonen er synlig nok.

SiO Helse mener løsningen ikke krever eksplisitt samtykke fordi den ikke skiller seg nevneverdig fra annen teknologi brukt i behandling.

På spørsmål om de tror mangelende informasjon kan være årsaken til at så få studenter har reservert seg svarer Trondsen at «inntrykket er at studentene som er kjent med at vi bruker KI til journalutkast er positive til dette».

Bedre pasientkontakt?

– Så lenge det gjør at legen arbeider bedre, ser jeg ikke noe store problemer med at de bruker KI, sier Asgeir Kråkenes (24), som er matematikkstudent på honours-programmet ved UiO. Selv om han også var uvitende om at KI tok opp legekonsultasjonen da han besøkte SiO Helse, tar han det hele med ro. Han tror utviklingen er uunngåelig.

– Leger har ikke uendelig med tid, sier han.

Han påpeker at KI-verktøy som forenkler journalføringen kan være et nyttig hjelpemiddel, så lenge det fremdeles er legens ansvar å kvalitetssikre journalen.

– Jeg velger å stole på dem som har innført og bruker systemet. Jeg tar det for gitt at det er ment for å forbedre arbeidet, og at de følger regelverket, sier han.

Har mer tid til pasientene

– Løsningen gjengir ikke dialogen, men lager en oppsummering, forklarer Anders Sandvei, allmennlege i SiO. Han forteller at den har åpenbare fordeler, for eksempel at den er tidsbesparende.

– Om vi er heldige gjør dette at vi kan ta inn flere pasienter, sier Sandvei. Han trekker også fram at kvaliteten på teksten er god og gjør det enklere å overta pasienter etter andre leger.

– Jeg opplever at det blir bedre notater enn før. Er du 40 minutter etter skjemaet og skal skrive journal etter en lengre konsultasjon, er det stressende, sier Sandvei.

– Kan Medbric skrive noe som ikke er blitt sagt?

– All KI kan misforstå, men legen lagrer ikke journalen uten å gå igjennom, sier Anders.

KI-løsningen vil for eksempel ikke referere til en tidligere legetime, slik en lege kan gjøre. – Den oppfatter kun det som blir sagt. Funn fra undersøkelse og egne vurderinger må legen skrive selv. Om noen gråter må jeg kanskje skrive at pasienten tar til tårene, sier Sandvei.