Lite gjennomtenkt KI-forslag

En 50 år gammel mann kommer til meg to uker for seint. Han hadde i flere uker hatt stikkende smerter i siden, og en chatbot mente det kunne være en virusbetinget brysthinnebetennelse som går over av seg selv. Han tok ibuprofen og ventet. Det viste seg å være aggressiv prostatakreft med knokkelmetastaser, blant annet til ribbena.

Svaret fra chatboten var ikke nødvendigvis feil i seg selv. Virusbetinget pleuritt er en rimelig differensialdiagnose for stikkende brystsmerter. Problemet er at chatboten ikke visste, og ikke kunne vite, om han hadde hatt uforklart vekttap eller ryggsmerter i månedene før, informasjon en samtale uten anamnestisk oppfølging aldri fanger opp.

Dette er bakteppet jeg leser regjeringens nye helsechatbot-satsing mot. Helseminister Jan Christian Vestre har fått 20 av de 120 millioner kronene i regjeringens KI-pakke for 2027 til å etablere en offentlig chatbot på Helsenorge, uten pålogging, som skal svare på spørsmål om «symptom, plager og prøvesvar». Vestre er selv presis på hvorfor: «det er viktig å understreke at vi snakker om helseråd, ikke helsehjelp.»

Jeg hørte ham fortelle om dette på Arendalsuka, og er overrasket over at ingen har påpekt at han sanksjonerer utrulling av uregulerte chatboter til diagnostikk og behandling i stor skala.

Hva er helsehjelp?

Helsehjelp er definert med identisk ordlyd i pasient- og brukerrettighetsloven § 1-3 og helsepersonelloven § 3: en handling med forebyggende, diagnostisk, behandlende eller pleiemessig formål, utført av helsepersonell. En chatbot er ikke helsepersonell og kan derfor aldri gi helsehjelp, uansett hva den svarer.

«Helseråd» finnes ikke som rettslig begrep. Ingen egen bestemmelse, ingen avgrensning i forskrift, ingen rettspraksis. Det er belejligt.

Konsekvensen: verken forsvarlighetskravet i helsepersonelloven § 4 eller journalføringsplikten i §§ 39-40 gjelder. Pasientrettigheter som informert samtykke og klagerett gjelder heller ikke. Og fordi pasientskadeerstatning forutsetter skade «ved ytelse av helsehjelp», faller en feilinformert pasient utenfor hele erstatningsordningen helsevesenet ellers er bygget på.

Vil ha i pose og sekk

Vestre sier chatboten skal svare på spørsmål om feber, utslett og svangerskap. Det er de spørsmålene en sykepleier på legevaktstelefonen, en farmasøyt eller fastlegen din stiller for å avgjøre om noe er akutt. Å spørre om et prøvesvar innebærer tolkning av det. For meg høres det ut som helsehjelp, der ministeren vil ha i både pose og sekk.

Falsk trygghet

Kan staten kvalitetssikre dette? Jeg tror ikke det. Feilratene til de beste språkmodellene er på ti til tyve prosent. Det er en margin helsevesenet aldri ville akseptert fra et nytt diagnostisk verktøy. I nasjonal skala, uten identifisert bruker og uten oppfølging, er dette uakseptabelt.

Det vi med dagens kunnskap vet vil skje inkluderer:

1. Forsinket kontakt med helsetjenesten ved akutte tilstander

2. Forsinket utredning ved kreftsymptomer

3. Feiltolkning av blodprøver og radiologiske funn

4. Feilinformasjon om dosering og legemiddelbruk

5. Falsk trygghet hos gravide og foreldre til spedbarn

I psykisk helsevern er risikoen enda større. Språkmodeller bekrefter brukerens egne utsagn i stedet for å utfordre dem. Hos en pasient i tidlig psykose kan det bekrefte vrangforestillinger i stedet for korrigering. Hos noen i akutt selvmordsfare kan samme mekanisme forsinke overgangen til et menneske med reelt ansvar.

Fordi tjenesten er statlig og ligger på Helsenorge, vil den oppfattes som mer autoritativ enn ChatGPT, uten å være tryggere. Sårbarheten i KI-modellene ligger forankret i treningen deres. Det krever et teknologisk paradigmeskifte å lage trygge chatboter uten supervisjon. Det får man ikke til med 20 millioner.

Hvilket problem forsøker man egentlig å løse?

Hvis problemet er tilgjengelighet til informasjon, kan man for en brøkdel av beløpet produsere kvalitetssikret innhold og sørge for at KI-tjenestene finner og bruker det.

Hvis problemet er at ChatGPT og lignende samler inn nordmenns helseopplysninger og sender dem til amerikanske servere, er svaret regelverk med reelt innhold, i samarbeid med Norden og EU, slik EU allerede har vist vilje til innen sosiale medier.

Hvis problemet er at eksisterende tjenester trenger å bli bedre, er 20 millioner til en ny chatbot underlig: Helsekort for gravide og Pasientens legemiddelliste ble forsinket et tiår av luftslott som Akson. Hvilke tjenester forsinkes av denne satsingen?

Men hvis problemet er å fremstå handlekraftig og moderne, er det nettopp det dette tiltaket leverer. Politisk sminke på grisen.

Dette er en løsning ingen helsepersonell har bedt om, på et problem som må løses billigere og langt bedre gjennom en oppdatering av regelverket. Klare regler for område og teknologi er den beste løsningen.

Referanser

1. Haugen, K. e24.no, 2026. «Regjeringen vil bruke 120 millioner på AI-tiltak». https://e24.no/boers-og-finans/i/ln6LOL/regjeringen-vil-bruke-120-millioner-paa-ai-tiltak

2: Pasient- og brukerrettighetsloven (lov 02.07.1999 nr. 63) § 1-3. https://lovdata.no/dokument/NL/lov/1999-07-02-63/§1-3

3: Helsepersonelloven (lov 02.07.1999 nr. 64) § 3. https://lovdata.no/dokument/NL/lov/1999-07-02-64/§3