AIs Superhuman Persuasion

Bilde av Gerd Altmann fra Pixabay.

Sam Altman, administrerende direktør i OpenAI, uttalte nylig en tankevekkende uttalelse på X:

"Jeg forventer at AI er i stand til overmenneskelig overtalelse i god tid før det er overmenneskelig kl generell intelligens, som kan føre til noen veldig merkelige utfall."

Denne påstanden åpner en Pandoras boks med etiske, teknologiske og sosiologiske spørsmål som er for overbevisende til å ignorere. Når vi går videre inn i en ny kognitiv æra, der AI-systemer som store språkmodeller blir stadig mer sofistikerte, er det avgjørende å dissekere hva "overmenneskelig overtalelse" kan bety: for Altman, AI og menneskeheten.

Overtalelsens anatomi

Overtalelse er ikke bare handlingen for å overbevise; det er et nyansert samspill av retorikk, emosjonell intelligens, og kontekstuell forståelse. Menneskelige overtalere trekker på en rik billedvev av sosiale signaler, etiske rammer og delte erfaringer for å påvirke andre. Hvis AI oppnår overmenneskelige evner i dette domenet, ville det bety at disse systemene kunne utkonkurrere de mest overbevisende menneskelige talere, forhandlere og påvirkere i svingende meninger eller beslutninger. Og denne evnen er ikke en funksjon av å være større, men å være smartere og mer

Den etiske hengemyr

De etiske implikasjonene av en kunstig intelligens med overmenneskelige overbevisningsevner er svimlende. Se for deg en politisk kampanje drevet av en slik AI, som er i stand til å lage meldinger så overbevisende at de kan påvirke valgresultatene. Eller vurder potensialet for misbruk i reklame, der AI kunne skape hyper-personlige appeller som forbrukere ville finne nesten umulig å motstå. Kraftdynamikken mellom AI og menneskelig aktør vil bli fundamentalt endret, og reise spørsmål om autonomi, samtykke og manipulasjon.

Den teknologiske gåten

Fra et teknologisk synspunkt er det et paradoks å oppnå overmenneskelig overtalelse uten generell intelligens. Overtalelse er dypt forankret i forståelse av kontekst, etikk, og den menneskelige tilstanden – områder der AI fortsatt er i ferd med å begynne. Nåværende LLM-er som GPT-4 er imponerende, men opererer under betydelige begrensninger, og mangler evnen til å forstå eller oppleve følelser og sosiale nyanser. Derfor vil veien til overmenneskelig overtalelse sannsynligvis innebære betydelige fremskritt innen maskinlæring teknikker, som muligens inkluderer elementer av emosjonell intelligens og etisk resonnement.

Den samfunnsmessige påvirkningen

De samfunnsmessige konsekvensene er like komplekse. På den ene siden kan overmenneskelig overbevisende kunstig intelligens være en kraft for det gode, og hjelpe til i diplomatiske forhandlinger, konfliktløsning og til og med mentale helseintervensjoner. På den annen side er potensialet for misbruk enormt. Spredningen av slik teknologi til komplekse systemer – myndigheter, frivillige organisasjoner, selskaper – kan skape maktubalanser og etiske dilemmaer som vi er dårlig rustet til å håndtere. Det nye menneskelige skillet kan være drevet av denne kraftige teknologiske ressursen som handler med den viktigste varen: innflytelse.

Superhuman Persuasion er allerede her: The AI-Engineered Self

En av de mest spennende tidlige manifestasjonene av "overmenneskelig overtalelse" ligger i riket av digital selvrepresentasjon. Algoritmer er ikke lenger bare å forbedre eller filtrere selfiene våre; de konstruerer helt nye, hyperrealistiske versjoner av oss. Disse AI-genererte bildene slår inn i våre dypeste forfengeligheter og ambisjoner, og tilbyr ikke bare et speil, men en forførende illusjon som er nesten uimotståelig tiltalende. Dette er overtalelse som opererer på et eksistensielt nivå, og manipulerer ikke bare valgene våre i en overfladisk forstand, men selve vår forståelse av hvem vi er – eller hvem vi kan være.

Dette er ikke bare en teknologisk gimmick; det er en psykologisk tour de force. AI fungerer som en overbevisende agent som har den uhyggelige evnen til å forstå og utnytte både samfunnsnormer og individuelle ønsker. Det er som om algoritmen har lest rommet og deretter lest tankene dine, og tilbyr en versjon av deg som du kanskje ikke engang bevisst innså at du ønsket. Dette setter en presedens for de mer ekspansive, komplekse og potensielt farlige overbevisende egenskapene som AI-systemer kan utvikle i fremtiden. Det er en form for overmenneskelig overtalelse som allerede infiltrerer livene våre, og subtilt veileder våre valg, preferanser og til og med våre ambisjoner, alt under dekke av digitalt selvuttrykk.

Stol på meg...

Sam Altmans uttalelse fungerer som en klar oppfordring til en gjennomtenkt undersøkelse av banen til AI-utvikling. Utsiktene til AI å oppnå overmenneskelig overtalelse før den når generell intelligens er både fascinerende og foruroligende. Mens vi fortsetter å presse på grenser av hva AI kan gjøre, er det viktig at vi også fremmer vår kollektive forståelse av de etiske og samfunnsmessige implikasjonene. Først da kan vi håpe å utnytte kraften til AI for å forbedre menneskeheten, samtidig som vi beskytter oss mot potensielle farer.

Etter hvert som grensene mellom ekte og falske visker ut, jager amerikanerne i økende grad ideen om autentisitet. Det første trinnet kan være å vurdere selverkjennelse, sannhet og andre byggesteiner på veien til personlig vekst.