Menneskeheten seiler inn i AI-havene av usikkerhet

Jeg har gitt uttrykk for bekymringer om AI siden januar 2023, da jeg først prøvde ChatGPT, en banebrytende generativ AI. Selv om jeg er en teknologientusiast og ser AIs store potensial for å forbedre verden, er jeg også klar over dens mange risikoer. Å få tilgang til fordelene til AI åpner også dører for misbruk. Ekko av leksjoner fra Spider-Man-filmene, "Med stor kraft følger stort ansvar." Å utnytte fordelene til AI og samtidig minimere risikoen vil kreve mye visdom, dyktighet og samhold.

For å hjelpe deg med å forstå AIs risikoer, vil jeg gjerne at du underholder et tankeeksperiment et øyeblikk. Vil du bli med meg? Det er viktig.

Alle ombord på Titanic Humanity

Tenk deg at menneskeheten er ombord på et stort skip, Titanic menneskeheten, og seiler gjennom endeløse hav. Det er en smeltedigel av kulturer, religioner og ideer – i hovedsak er det oss. På Titanic menneskeheten, forskjellige grupper styrer selv, bygger virksomheter og driver med fritid. Mens det oppstår spenninger og konflikter, finner mange også glede i vennskap, familie og festligheter under reisen.

Livet videre Titanic menneskeheten har generelt blitt bedre, selv om den har hatt sin del av stormer og tilbakeslag. Skipet har forvitret skade, men vi lapper det opp og fortsetter. Selv om interne konflikter ikke har senket oss ennå, truer muligheten. Til tross for disse bekymringene har reisen vært relativt fredelig i det siste.

Likevel er noe annerledes nå. Titanic menneskeheten har kommet inn i noen veldig merkelige farvann. Det er en kald kulde når temperaturen synker. Det er tåke i luften mens lyset spiller vannet et puss. Sikten har blitt dårlig. Rapporter om isstrømmer og potensielle isfjell har dukket opp. Noen passasjerer insisterer på at å fortsette på denne kursen inviterer til katastrofe. De vil snu skipet.

Selv om mange passasjerer i økende grad er bekymret for potensielle isfjell, kan ingen vite med sikkerhet hvor mange og hvor farlige disse isfjellene er. Noen insisterer på at risikoen bare vil eskalere når skipet rykker inn i disse ukjente farvannene. Disse farvannene er så merkelige og annerledes at selv de mest dyktige seilere ikke kan stole på tidligere erfaringer for å forutse hva som venter.

Mange passasjerer er begeistret over utsiktene til å oppdage nye land og utallige rikdommer i det uutforskede vidstrakten. Kan det være skatter utenfor våre villeste drømmer? En ungdomskilde? Kanskje Titanic menneskeheten oppdager et utopisk paradis i disse uutforskede farvannene? Folket som tror at det er formuer å hente i denne nye verdenen, ønsker ikke å bremse i det hele tatt. Faktisk ønsker de å øke hastigheten for å få disse innbilte rikdommene så raskt som mulig.

Mange passasjerer er opptatt av dagliglivet og for opptatt med å holde hodet over vannet til å bekymre seg for skipets sikkerhet. De er oppslukt av sine daglige kamper. De fokuserer på å klare seg gjennom dagen og overlater til andre å ta tak i eventuelle truende farer.

Selv om det ikke virker som et alternativ å vende tilbake fra denne reisen, er det fullt mulig å redusere farten og være mer forsiktig når du går inn i disse rare farvannene. Som Titanic menneskeheten seiler inn i disse hav av usikkerhet, hva skal vi gjøre? Hva er den kloke og dyktige kursen å følge? For å bestemme seg, kan det hjelpe å huske lærdommen fra den virkelige Titanics tragiske historie...

Leksjoner fra Titanic

Titanics historie varer i vår kollektive bevissthet fordi dens skjebne var unngåelig og stort sett menneskeskapt. Den 14. april 1912 forlot den England med 2223 om bord. Fire dager senere, til tross for advarsler om isfjell, traff den en, som rev en enorm flekk langs skroget. På bare 2 timer og 40 minutter sank skipet. Mangelen på livbåter og iskaldt vann førte til at 1517 mennesker døde, hvorav de fleste var tredjeklassepassasjerer.

Mens mange faktorer bidro til at Titanic sank, er kanskje en av de viktigste årsakene at Titanic ble naivt antatt å være usinkelig. Ingeniører og investorer var så forelsket i sin egen oppfinnsomhet at de trodde Titanic rett og slett ikke kunne synke. Forsiktighet tok en baksete til stolthet, ambisjoner og overmot, noe som bidro til denne katastrofen. Regissør James Camerons episke storfilm fra 1997, Titanic, mesterlig udødeliggjort hendelsens magebrytende tragedie mens den sømløst integrerte en fiktiv kjærlighetshistorie for å forsterke den emosjonelle innvirkningen.

Dessverre, i juni 2023, utforsket en dypvanns-senkbåt kalt The Titan vraket av Titanic. Ledet av den velstående eventyreren og Titanic-entusiast Stockton Rush, sammen med fire passasjerer, endte ekspedisjonen i ironi. På samme måte som det originale mannskapet og støttespillerne til Titanic, avviste Rush viktige regulatoriske sikkerhetstiltak, har urokkelig tillit til hans ingeniørferdigheter og ubåtens design. Denne overtilliten viste seg å være deres undergang, ettersom en strukturell svikt knyttet til designen fikk Titan til å synke – tragisk gjenspeilet skjebnen til selve skipet den undersøkte.

Hva er din "Titanic Wake-Up Call"?

Vår menneskelige historie er fylt med advarende historier om hvordan menneskelig grådighet, stolthet, ambisjoner, overdreven selvtillit, ego, naivitet og hensynsløshet kan føre til katastrofe og lidelse (f.eks. Frankensteins monster, Jurassic Park, The Terminator, Ex Machina, Westworld, Wall Street). Likevel er det kanskje ingen som resonerer så dypt i vår bevissthet som forliset av Titanic fordi det virkelig skjedde. Denne unngåelige tragedien legemliggjør den advarende historien som nå er innebygd i vår psyke. Men hva har vi lært?

La oss sette oss ombord igjen Titanic menneskeheten fordi det faktisk er der vi er. Vi er på vei inn i AI-havene av usikkerhet. Mange tror ikke det er noen sjanse for å møte isfjell fremover og hevder at det ikke er nødvendig å bremse. Mange av oss er for travle til å bry oss.

Slik vi forestiller oss om bord Titanic menneskeheten, hva må vi se eller oppleve for å overbevise oss om at det ville være klokt å senke farten mens vi navigerer i disse potensielt forræderske farvannene? Hvordan ville disse "isfjellene" sett ut? AI cyberangrep det ta ned strømnett eller forårsake børskrakk? AI er brukt for bioterrorisme? For mange mennesker forelsker seg i AI chatbots? AI "resurrections" av avdøde kjære? Deep forfalskninger skaper giftige skiller innenfor vårt demokrati? Masse jobbtap til AIer?

Heldigvis vår Titanic menneskeheten er ikke dømt. Vi går imidlertid inn i disse AI-havene av usikkerhet. Det avgjørende spørsmålet er dette: På hvilket tidspunkt blir AI din "Titanic Wake-Up Call" og tvinger deg til ikke bare å erkjenne isfjellet foran, men å bli med i koret til de som slår alarm?

Selv om du ikke ser noen isfjell nå eller tror at noen er foran, bør vi alle være i stand til å identifisere hva vi må se for å overbevise oss om noe annet. Når du hører Titanic Wake-Up Call, betyr det at du har sett nok til å overbevise deg om at nedbremsing er den fornuftige og kloke handlingen. Du er villig til å lage litt støy og insistere på regulering fordi du innser at hvis vi går i full fart, er det mye mer sannsynlig at vi støter på noen av disse isfjellene.

Selv de av oss som tror det Titanic menneskeheten vil gå inn i et hav av veldig formidable AI-isfjell kan ikke si med noen sikkerhet hva som vil skje. Jeg kan ikke snakke på vegne av alle, men jeg tror at mange av oss føler at fordi vi ikke er sikre på, og heller ikke kan være sikre på, hva som ligger foran oss, ønsker vi å følge våre advarende historier. Vi vet at vi mennesker kan være våre egne verste fiender; tragedier skjer, og det er ingenting som kan garantere sikker passasje. Vi tror på logikk, rasjonalitet og forsiktighet over en slags blind tro og hybris på at menneskeheten er usinkelig.

Vi forteller om advarende historier for å unngå å gjøre de samme fatale feilene. En hensikt i livet er å lære og vokse, og en måte vi kan oppfylle det formålet på er å lære av våre advarende historier. Selv om forliset av Titanic var en absolutt tragedie, er kanskje en måte vi kan hedre de som døde så forferdelig å lære av dem. De snakker til oss akkurat nå og ber oss om å senke farten. Vil vi høre på dem?

Hvis du ikke er bekymret for AI nå, forstår de av oss som er det. Vi ber deg imidlertid om å navngi "Titanic Wake-Up Call" når det kommer til AI. Hvis det kommer, lov deg selv at du vil ta affære. For de som hører denne vekkermeldingen, vennligst støtte vårt press for AI-regulering slik at vi kan unngå å treffe disse isfjellene. Vi vil være glade for å ha deg med oss. Vi vil ta imot deg med åpne armer som en medborger. Deretter kan vi utforske disse ukjente farvannene trygt når vi bruker våre advarende historier for å lyse veien inn i denne nye verdenen.