Hvordan AI-generert innhold kan undergrave dine tenkeferdigheter

En rapport fra Europol tidligere i år advarte om at «så mye som 90 prosent av nettinnholdet kan være syntetisk generert innen 2026», med henvisning til «medier generert eller manipulert ved hjelp av kunstig intelligens." Det gjenværende spørsmålet er i hvilken grad dette vil påvirke folks kritiske tenkning, og om det virkelig betyr noe.

Mens mange applikasjoner av AI kan støtte menneskelig utvikling og velvære og gi tilgang til effektivitetsgevinster, brukes AI også for å generere deler av feilinformasjon og desinformasjon – både skrevet og bilde- eller videobasert – i et forsøk på å forvirre narrativer, endre populær mening, manipulere befolkningen og flytte fokus bort fra presserende nyheter gjenstander. Det har allerede hatt en direkte innvirkning på den menneskelige befolkningen, fra opptøyene 6. januar til forsinkelser i å søke helsehjelp på grunn av feilinformasjon om helse. Ifølge en studie publisert av Verdens helseorganisasjon, for eksempel, «blant YouTube-videoer om nye smittsomme sykdommer, ble 20 til 30 prosent funnet å inneholde unøyaktige eller villedende informasjon."

Kunstig Intelligens er oftest utformet for å operere gjennom menneskelige søk, og noen av skaperne jobber for å minimere potensialet for ondsinnet bruk. Men det er feilbar, og flere studier på plattformer som ChatGPT har vist hvordan det kan rettes til spesifikt å overvinne sine sikkerhetstiltak. For mange gir dette betydelig bekymring, og noen eksperter advarer om at kritisk tenkning fortsatt er en toppprioritet for å ivareta vår mentale evne.

Psykologer ved University of Cambridge utviklet nylig den første, validerte «misinformation susceptibility test» (MIST), som fremhever i hvilken grad et individ er mottakelig for falske nyheter. Yngre amerikanere (under 45) presterte dårligere enn eldre amerikanere (over 45) på feilinformasjonstesten, og scoret 12 av 20 riktig, sammenlignet med 15 av 20 for eldre voksne. Dette var delvis korrelert til hvor mye tid brukt på nett for å konsumere innhold, noe som indikerer relevansen av hvordan du bruker fritiden din.

Europol-rapporten fortsetter med en sterk advarsel: «På daglig basis stoler folk på at deres egen oppfatning veileder dem og forteller dem hva som er ekte og hva som ikke er... Auditive og visuelle opptak av en hendelse blir ofte behandlet som en sannferdig beretning om en begivenhet. Men hva om disse mediene kan genereres kunstig, tilpasset for å vise hendelser som aldri fant sted, for å feilrepresentere hendelser eller forvrenge sannheten?»

Ifølge en Forbes Advisor Survey er 76 prosent av forbrukerne bekymret for feilinformasjon fra kunstig intelligens, og bare 56 prosent tror de kan se forskjellen. I mellomtiden fremhever en studie i Storbritannia av Public First holdninger til AI, og identifiserer at holdningen er avhengig av den potensielle applikasjonen for AI. De fant at publikum har en tendens til å være støttende for applikasjoner som tidlig advarsel for medisinsk intervensjon eller til oppdaget svindel med velferdssystem, men støttet ikke at AI ble brukt til å bestemme eller gi råd når det gjaldt å oppdage skyldfølelse, enten i en kriminell eller militær sammenheng.

Mange av de nåværende verktøyene for kritisk tenkning oppmuntrer enkeltpersoner til å bruke laterale tenkningsteknikker, der vi aktivt søker informasjon fra flere kilder, eller å bruke teknikker som inversjonstenkning, der vi aktivt søker informasjon som motsier våre egne synspunkter. Det som derimot gjenstår å måle er hvor effektive disse verktøyene vil være i et innholdslandskap som er oppe til 90 prosent generert av AI og som kan rulles ut og reproduseres på tusenvis av nettsteder en masse.

Det som derfor vil være viktig er å utstyre oss med verktøy som ikke er avhengige av krysssjekking av informasjon, for eksempel:

• Sikre at vi forstår statistikk. Dette betyr å vite like mye om hva de ikke sier som hva de gjør.
• Identifisere bevisgrunnlaget. Hvilket grunnlag er innholdet basert på, hvordan ble forskningen generert, og er den troverdig?
• Forstå konteksten. Et nøkkelverktøy i manipulasjon er å bruke informasjon utenfor den tiltenkte konteksten. Hva sto det i den opprinnelige kilden, hvilken kontekst ble det gitt i, og hvordan har det blitt endret?
• Utlede fra tidligere informasjon. Passer det til standardfortellingen du forventer? Deepfakes blir stadig mer et problem – så hvis vi for eksempel ser favoritt-TVen vår personlighet snakker om verdensspørsmål, passer det deres vanlige profil?
• Ber om klarhet og presisjon. Mer dybde kan bidra til å avdekke ekspertisen til kilden, eller opprinnelsen til innholdet, gi deg mer nøyaktig eller troverdig informasjon, eller fremheve tilfeller der den er mindre troverdig
• Forblir skeptisk, men ikke for skeptisk. Vi må stille spørsmål ved det vi blir fortalt, men ironisk nok, som fremhevet av MIST-studien, kan det å forvente at alt er falskt gjøre det vanskeligere å oppdage de faktiske forfalskningene. Å forbli åpensinnet vil være nøkkelen.

"Kritisk tenkning er avgjørende for å bekjempe den gjennomgripende effekten av feilinformasjon i den digitale tidsalderen, spesielt for de yngre generasjonene. Feilinformasjon og tvangskontroll hemmer hverdagen vår, og muliggjør alt fra politisk og religiøs radikalisering, til overgrep i hjemmet, falske nyheter til gassbelysning. Vi kan ta tak i disse utfordringene ved å lære folk å tenke kritisk.» — Jim Atack, president for The Open Minds Foundation.