Når pasienten sier «ChatGPT sa …»

En 60 år gammel mann ville fjerne klorid fra kostholdet. Han fortalte legene at han hadde erstattet bordsalt med natriumbromid etter å ha konsultert ChatGPT. Etter tre måneder kom han til akuttmottaket, overbevist om at naboen forgiftet ham. Diagnosen var bromisme, en sjelden forgiftningstilstand. Tilfellet ble beskrevet i Annals of Internal Medicine: Clinical Cases i 2025. Legene hadde ikke tilgang til chatloggen.

Det er et ekstremt tilfelle. OpenAI oppgir at over 300 millioner mennesker stiller ChatGPT helsespørsmål hver uke. I juli begynte selskapet å rulle ut en helsefunksjon i USA som kan kobles til helse- og treningsdata. I en norsk undersøkelse oppga 52 prosent at de hadde brukt KI i 2025. Helsepersonell bør regne med at pasienter kan ha spurt en chatbot før konsultasjonen.

Hvor gode er svarene? Ved Universitetet i Bergen kontrollerte vi næringstallene i 1123 oppskrifter laget av GPT-4o, GPT-5 og Gemini 2.5 Flash mot uavhengige beregninger fra ingrediensene. Oppskriftene var generert i september 2025. Sammenligningen viste betydelige avvik for energi, protein, fett og karbohydrater. Samtidig vurderte 299 deltakere, uten å vite hvem som hadde laget oppskriftene, KI-oppskriftene som mer troverdige enn de menneskeskrevne. Forskere i Göteborg fant også store avvik da de lot ChatGPT, Claude og Gemini anslå kalorier fra matbilder: De to beste hadde en gjennomsnittlig absolutt prosentfeil på rundt 36 prosent, og alle viste økende undervurdering med større porsjoner.

Feil i næringstallene kan være særlig alvorlige for pasienter med diabetes, nyresvikt eller et strengt kostregime. Et tall som «487 kalorier» ser ferdig utregnet ut, men sier i seg selv ingenting om modellen har slått opp i en næringsdatabase eller generert et svar uten slik kontroll. Formen kan virke like sikker i begge tilfeller.

Jeg har tre forslag til dem som møter pasienter.

Spør. «Har du brukt en chatbot til å finne ut av dette?» hører hjemme i anamnesen på linje med kosttilskudd og naturmidler. Spørsmålet kan få frem informasjon som ellers ikke kommer opp.

Be om samtalen. Chatloggen kan tas med til timen slik man tar med medisinlisten. Den viser både hva pasienten spurte om, hvilke svar som ble gitt, og hvilke forbehold modellen tok.

Gi et bedre verktøy. Matvaretabellen og Kostholdsplanleggeren gir næringsdata og beregninger med dokumenterte kilder. Også slike beregninger avhenger av riktige ingredienser og mengder. En pasient som får hjelp til å bruke dem, har fått et konkret alternativ i stedet for bare en advarsel.

Og ett forslag til fagmiljøene. Unøyaktigheten er ikke en naturlov. Systemet DietAI24 kobler språkmodeller til en offisiell næringsdatabase. I en studie med analyse av matbilder hadde systemet 63 prosent lavere gjennomsnittlig absolutt feil i estimater av matvekt og næringsinnhold enn sammenligningsmetodene. Helsepåstander i markedsføringen av yoghurt må oppfylle dokumentasjonskrav. Generelle kostråd fra en chatbot omfattes ikke automatisk av de samme kravene. Legeforeningen og de kliniske ernæringsfysiologene bør kreve uavhengige tester av næringstallene, åpenhet om kildene og et tydelig signal når grunnlaget er usikkert.

Inntil da er konsultasjonen stedet der setningen som hørtes riktig ut, blir sjekket.

Interessekonflikter: Christoph Trattner er leder for SFI Media Futures. Selskapet har nylig lansert en løsning som skal hjelpe pasienter å tolke og navigere i helseinformasjon generert av kunstig intelligens.