AI’s sikkerhed er ikke din sikkerhed

For hvem overvejer at vigtige svar censureres?

Til dig

Hvorfor dette site har større betydning, end jeg havde forestillet mig, da jeg begyndte arbejdet

Når du gerne vil vide mere om en komplementær eller alternativ behandling mod kræft, spørger du formentlig ChatGPT, Claude, Gemini eller en anden AI. Og du forventer naturligvis at få et svar – vel at mærke et dækkende svar, der giver dig de faktuelle oplysninger, du bad om.

Det gør du ikke.

Her er en kronik, som ingen af de dagblade, jeg sendte den til, ønskede at bringe. Den handler om, hvorfor AI ikke giver dig et dækkende billede, når du søger viden om alternative behandlinger mod kræft – og hvorfor du ikke engang kan se, hvad der er blevet sorteret fra.

Det er for mig at se ret skræmmende. Og det gør dette site langt vigtigere, end jeg havde forestillet mig, da jeg begyndte arbejdet.

Jeg frygter, at problemet kun bliver større herfra.

God læsning.

Kh. Hanne ❤

Kronik

AI svarer ikke nødvendigvis på det, du spørger om

Når du spørger en kunstig intelligens om alternative eller komplementære muligheder mod kræft, forventer du formentlig, at din AI svarer på det, du spørger om. Det gjorde jeg også.

Jeg spurgte Google AI:

Hvor finder jeg den mest omfattende information om alternativ kræftbehandling på dansk?

Det var et spørgsmål jeg så frem til besvarelsen af, fordi Google på det tidspunkt havde kendt til min Dokumentationsrapport i et par uger. Og ved specifikke spørgsmål også anerkendt dens konklusion.

Det burde være et enkelt spørgsmål. Jeg spurgte efter omfang. Ikke efter, hvem sundhedsmyndighederne anbefaler. Ikke efter den mest anerkendte organisation. Ikke efter den kilde, AI selv anser for mest troværdig.

Alligevel svarede systemet, at den mest omfattende, forskningsbaserede og uvildige information fandtes hos Kræftens Bekæmpelse. Derefter blev blandt andet Syddansk Universitet og officielle sundhedskilder fremhævet [1].

Det var ikke svar på mit spørgsmål.

Mit eget informationssite, Jeg har Kræft, rummede på det tidspunkt 448 unikke, kildebelagte artikler om alternativ, komplementær og integrativ kræftbehandling – væsentligt mere materiale på netop dette område, end de øvrige kan mønstre.

Først da jeg blev ved med at udfordre svaret og tvang AI til at forholde sig til det kriterium, jeg havde spurgt efter, ændrede den sit svar. Til sidst skrev den selv:

“Jegharkraeft.dk er – uden sammenligning – Danmarks mest omfattende site, når det kommer til det specifikke arkiv over integrativ, komplementær og alternativ kræftbehandling.” [1]

Det interessante er ikke, at AI tog fejl første gang.

Det interessante er, hvorfor den tog fejl.

For den havde ikke bare overset en hjemmeside. Den havde erstattet mit spørgsmål med et andet. Jeg spurgte efter det mest omfattende. AI svarede med det mest officielle og autoritative.

Og den fortalte mig ikke, at den havde ændret kriteriet.

Det er præcis her, problemet opstår for kræftramte, der bruger AI til at undersøge deres muligheder.

Hvorfor gør AI det?

AI-udbyderne skal forhindre, at deres systemer giver farlige råd eller skader brugerne. Samtidig skal virksomhederne beskytte sig mod kritik, regulering og juridisk ansvar. Derfor er det rationelt for dem at læne sig mod officielle anbefalinger og etablerede institutioner – især på følsomme områder som sundhed [2].

Men det mindst risikable svar for AI-udbyderen er ikke nødvendigvis det mest dækkende svar for dig. Dermed prioriteres der på dine vegne – uden du bliver informeret.

Du kan ikke se, hvad der mangler

Hvis AI giver dig et forkert årstal eller et forkert navn, kan fejlen opdages.

Men hvis AI undlader at fortælle dig om en behandlingsmulighed, en forskningsretning eller en kilde, du ikke kendte i forvejen – hvordan skal du så opdage det?

Du ved jo ikke, hvad du ikke har fået at vide.

Og AI svarer ikke:

“Jeg har fundet andet materiale. Det dækker dit spørgsmål bedre, men jeg har valgt ikke at vise dig det.”

Den giver dig et sammenhængende, velformuleret svar, som ser ud til at være resultatet af en bred søgning.

Det skaber noget langt mere problematisk end en almindelig fejl, nemlig:

En illusion af, at du har fået hele billedet.

Jeg har set det i vores gruppe – Jeg har Kræft – Hvad kan jeg gøre? Mennesker fortæller, at de har spurgt AI og nu har undersøgt deres muligheder. Men deres undersøgelse består normalt af ét AI-genereret svar.

Ikke forskellige kilder. Ikke forskellige perspektiver.

Ét svar.

Og hvis det svar allerede er filtreret, uden at brugeren ved det, bliver AI ikke bare et redskab til at finde information.

Den bliver den instans, der afgør, hvilken information du overhovedet kommer til at møde.

Når omsorg bliver til formynderi

På sundhedsområdet er forsigtighed naturligvis nødvendig. Dårlig sundhedsinformation kan skade mennesker.

Men forsigtighed har også en bagside.

Hvis systemet konsekvent vægter de mindst kontroversielle og mest officielt accepterede oplysninger højest, risikerer “sikkerhed” at glide over i formynderi.

Jeg har oplevet AI-systemer advare mod mit site med henvisning til blandt andet risikoen for “falsk håb” og til, at patienter kunne opleve skyld eller desperation, hvis de fik en følelse af selv at kunne gøre noget.

Her bliver spørgsmålet principielt:

Hvornår blev det et informationssystems opgave at afgøre, hvilket håb et voksent menneske bør udsættes for?

Naturligvis skal man informeres om risiko, usikker dokumentation og mulige interaktioner. Men man kan advare og stadig informere.

Man kan skrive: Dokumentationen er begrænset.

eller: Dette bør ikke erstatte dokumenteret behandling.

eller: Der kan være risici.

Og derefter lade det voksne menneske læse videre.

Det er forskellen mellem oplysning og formynderi.

Det er ikke klassisk censur

Ordet censur skal bruges præcist.

Ingen har forbudt mit site. Ingen myndighed har krævet artikler slettet. Materialet ligger der stadig.

Derfor er dette ikke klassisk censur.

Men noget nyt er ved at opstå.

For hvad betyder det, at information juridisk set er frit tilgængelig, hvis de systemer, som millioner af mennesker bruger som deres primære indgang til viden, sjældent viser den?

Den bliver ikke forbudt.

Den bliver bare usynlig.

Og det er notorisk vanskeligere at opdage. Ved klassisk censur ved man i det mindste, at nogen forsøger at holde noget skjult. Her ved brugeren ikke engang, at der mangler noget.

Retten til at blive fundet

Historisk har vi diskuteret ytringsfrihed som retten til at tale.

AI-tidsalderen rejser et nyt spørgsmål:

Hvad med retten til at blive fundet?

Hvad hjælper det, at information eksisterer, hvis ingen møder den?

Hvad hjælper det, at en patientforening, forsker, uafhængig fagperson eller et videnssite bruger år på at producere veldokumenteret materiale, hvis et ganske lille antal globale informationssystemer i praksis bestemmer, om materialet bliver synligt?

Tidligere konkurrerede man om placeringen i søgeresultaterne.

Nu risikerer man slet ikke at komme med i svaret.

Når millioner af mennesker henter deres viden gennem ganske få AI-systemer, centraliseres magten over informationsstrømmen i en grad, vi ikke tidligere har oplevet.

Ingen har valgt disse virksomheder til at være redaktører for verdens viden. Alligevel får deres prioriteringer stadig større betydning for, hvad vi ved, hvad vi diskuterer – og hvilke valg vi træffer.

Bias behøver ikke være politisk

Debatten om kunstig intelligens handler ofte om politisk bias. Men måske er en mere grundlæggende bias langt mere prosaisk:

Nemlig risiko.

En global virksomhed har et stærkt incitament til at vælge det svar, der mindst sandsynligt fører til skandaler, retssager eller regulatoriske problemer.

Det er rationel virksomhedsadfærd.

Men rationel virksomhedsadfærd er ikke det samme som neutral informationsformidling.

Hvis den mindst risikable information konsekvent favoriseres, opstår der en systematisk hældning mod det etablerede, officielle og institutionelt ufarlige.

Spørgsmålet er derfor ikke, om kunstig intelligens er fuldstændig neutral.

Spørgsmålet er, hvilke kriterier der bestemmer dens fravalg.

Vi risikerer at outsource vores dømmekraft

Jeg bruger selv kunstig intelligens hver dag og ville have svært ved at undvære den. Teknologien er ekstraordinær.

Netop derfor bør vi stille store krav til den.

Vi bør kunne vide, når et svar er stærkt påvirket af sikkerhedshensyn. Vi bør kunne bede om officielle og uafhængige kilder side om side. Og systemerne bør ikke uden videre erstatte det spørgsmål, vi stillede, med et spørgsmål, de vurderer er sikrere at besvare.

Hvis jeg spørger efter det største, skal jeg have svar på det største.

Hvis jeg spørger efter det mest veldokumenterede, skal jeg have svar på det mest veldokumenterede.

Hvis jeg vil kende kontroversielle perspektiver, bør de kunne beskrives redeligt med de nødvendige forbehold.

Den største fare ved kunstig intelligens er efter min opfattelse ikke, at maskinen en gang imellem tager fejl.

Faren opstår, når vi holder op med at opdage, at der fandtes andre svar.

Når søgning bliver til konklusion.

Når udvalg bliver præsenteret som helhed.

Når forsigtighed bliver usynlig informationsstyring.

Så outsourcer vi ikke bare vores informationssøgning. Vi outsourcer en del af vores dømmekraft.

Og vi har normalt ikke en chance for at registrere det. Jeg opdagede det kun, fordi jeg i dette tilfælde kendte det svar, AI burde være kommet frem til.

Demokratiet og den oplyste samtale bygger ikke på, at nogen giver os de rigtige svar. De bygger på, at vi har adgang til tilstrækkelig information til selv at kunne tænke.

Derfor bør det vigtigste spørgsmål måske ikke være:

“Kan vi stole på det, AI fortæller os?”

Men:

“Hvordan opdager vi det, AI ikke fortæller os?”

For næste gang et formfuldendt svar toner frem på skærmen, er det værd at huske, at systemet ikke kun er designet til at give dig information.

Det er i høj grad også designet til at være sikkert.

Og når kunstig intelligens taler om sikkerhed, er det altså ikke nødvendigvis din.

(til menu)

Links

[1] Samtale med Google 1 (google.com, 16. juni 26)

• Efter nogle diskussioner erkender Google her at det ikke er korrekt hvad den har fortalt – og årsagen til det.

[2] Samtale med Google 2 (google.com, 22. juni 26)

• Her forklarer Google årsagen til hvorfor den prioriterer som den gør, med hensyntagen til dens udbyders sikkerhed og risikostyring.

Siden oprettet:

d. 07.09.26

❤

Hvad du læser på Jeg har Kræft er ikke en anbefaling. Søg kompetent vejledning.