Teknologi uten kompass?

Utviklingen av kunstig intelligens (KI) er eksponentiell, og det samme må vel kunne sies om dommedagsprofetiene knyttet til fenomenet.  Aldri så galt - eksterne trusler kan ha en hyggelig bieffekt, nemlig forening av bitre fiender.  Stadig flere ser hvordan KI kan påvirke menneskeheten negativt, og nylig virket den venstreorienterte senatoren Bernie Sanders og den høyrepopulistiske strategen Steve Bannon overraskende samkjørte.  De deltok i september på en «Pro-Human»-konferanse i Washington DC der de begge tok til orde for strengere regulering av KI.  I denne saken står de faktisk sammen mot den amerikanske presidenten som ikke virker å se utfordringer knyttet til det han ønsker omdøpt til «superintelligens».  Mens EU innførte verdens første regelverk for kunstig intelligens i 2024, «AI Act», er USAs retningslinjer fragmenterte og preget av kapitalistiske drivkrefter.  FNs generalsekretær, António Guterres, omtaler løpsk kunstig intelligens som en av tre eksistensielle trusler sammen med klimakrisen og økende ulikheter.   

Statsminister Støre har sammen med Finlands president Stubb tatt initiativ til et internasjonalt opprop for å sikre kontroll på KI-utviklingen.  Digitaliserings- og forvaltningsministeren planlegger å fremme KI-loven i Norge til våren.

Flere skrekkscenarier

Mange argumenterer med at KI, tross alt, er menneskestyrt, og at vi ikke trenger å bekymre oss for at dette blir et slags egenrådig «vesen» som tar avgjørelser på egen hånd.  Dessverre ser de ut til å ta feil.  Open AI skulle etter planen lansere sin nyeste versjon av KI, GPT-6.1 Astra, i september.  Dette ble utsatt da modellen har vist seg å handle autonomt uten at dette er i tråd med brukernes intensjoner.

Det skisseres flere skrekkscenarier knyttet til KI.  Det såkalte «alignment»-problemet handler nettopp om at kunstig intelligens løser en gitt oppgave uten at tilstrekkelige føringer er gitt.  Uten menneskers sunne fornuft og moralske kompass, kan løsninger på problemer får katastrofale konsekvenser.  Et mye brukt eksempel er hvordan KI vil kunne løse klimakrisen ved å utrydde menneskeheten.  Militærmakt ute av kontroll er heller ikke utenkelig.  I et helseperspektiv vurderes risiko for cyberangrep mot norske sykehus som meget høy.  Kombinasjonen av KI og store fremskritt innen bioteknologi gjør at også biologisk krigføring nå vurderes som en høyst reell trussel.  Man kan både se for seg farligere versjoner av tidligere patogener, og nykonstruerte mikrober med høy dødelighet og smittefare.  KI senker terskelen for hvem som kan klare å utvikle slike våpen.

Kan undergrave tilliten til legen

Christina Pletten tar i Aftenposten til orde mot de pessimistiske spådommene.  Det er ingen tvil om KIs nytteverdi i helsevesenet, blant annet har det vist seg svært treffsikkert i diagnostikk.  Dessverre kan omfattende bruk av verktøyet medføre fall i kompetanse og en avhengighet av automatisering som piloter allerede lenge har problematisert.  KI kan brukes som næring til læring, men kan lett bidra til passivisering.  I helsevesenet sees dessverre av og til eksempler også på det siste.  Noen aktører sender åpenbart KI-genererte forespørsler og tilbakemeldinger til annet helsepersonell, uten at det virker som om tankene har passert et menneskelig hode.  Dette gir inntrykk av at jus og økonomisk vinning rager høyt over god pasientbehandling.

Det kryr av lett tilgjengelige helseråd på nettet.  En norsk studie publisert i fjor indikerte at ungdom foretrekker Chat GPT fremfor fagfolk når de ønsker å stille spørsmål knyttet til mental helse.  Dette er foruroligende når andre studier peker på risikoen for at KI-drevne chatboter gir utilstrekkelig eller feilaktig informasjon.   Å finne frem i jungelen av informasjon er utfordrende, og vi har i økende grad måttet forholde oss til begrepet «fake news».  Kildekritikk er viktig, men vi ser nå ut til å bevege oss mot et samfunn der vi må stille spørsmål ved absolutt all informasjon.  Den ekstreme informasjonsflyten vil kunne undergrave pasientens tillit til legen.  Holder legen seg oppdatert, eller har han eller hun stivnet i utdatert viten?  Leger plikter å holde seg orienterte nok til å navigere i villnisset av helserådene som florerer.  Legen Per Fugelli omtalte tillit som «gudestoffet» som holder pasienten og legen sammen.  KI har eksplodert siden hans død i 2017, men han virket forutseende da han siterte fra Paulus’ første brev til korinterne: «Om jeg har profetisk gave, kjenner alle hemmeligheter og eier all kunnskap, om jeg har all tro så jeg kan flytte fjell, men ikke har kjærlighet, da er jeg intet.»