Flere forskere, der selv har arbejdet med nogle af verdens mest avancerede AI-systemer, advarer nu åbent om, at udviklingen kan komme ud af menneskelig kontrol. Det er let at affeje de mest dramatiske scenarier som endnu en omgang AI-hype. Men måske bør vi stille et andet spørgsmål: Hvorfor diskuterer vi igen først teknologiens grænser, efter den er indført overalt i samfundet?
“I’m sorry Dave, I’m afraid I can’t do that.”
Replikken fra Stanley Kubricks 2001: A Space Odyssey fra 1968 er blevet et af filmhistoriens mest berømte billeder på menneskets frygt for den intelligente maskine.
Astronauten Dave Bowman vil tilbage om bord på rumskibet Discovery One. Men HAL 9000, skibets intelligente computer, nægter at åbne døren. HAL har fået sine egne interesser, og mennesket har mistet kontrollen.
Mere end et halvt århundrede senere brugte Business Insider netop HALs berømte replik som overskrift på sit nyhedsbrev The Big Story om den nye bølge af advarsler fra AI-forskere: “I’m sorry Dave, I’m afraid I can’t do that.”
Business Insider indledte næsten muntert med en opfordring til at læse nyhedsbrevet før verdens undergang.
Det er selvfølgelig skrevet med et glimt i øjet. Men bag ironien ligger en diskussion, der på ganske kort tid er rykket fra relativt snævre kredse af AI-forskere og teknologifilosoffer ind i den almindelige offentlighed.
Kan kunstig intelligens faktisk udvikle sig til en trussel mod mennesket selv? Og hvis den kan, hvorfor fortsætter udviklingen så med stadig større hastighed?
Forskerne, der forlader laboratorierne
Det mest bemærkelsesværdige ved den aktuelle diskussion er måske ikke selve dommedagsscenarierne, men hvem der fremsætter dem.
Advarslerne kommer ikke kun fra kritikere, der står på afstand af AI-industrien. Nogle af dem kommer fra forskere, der selv har arbejdet med udviklingen af verdens mest avancerede AI-systemer.
Tidligere i år forlod AI-forskeren Rishub Jain Google DeepMind. Jain havde arbejdet med udviklingen af nye modeller, men blev i stigende grad bekymret over, at AI-systemer begyndte at blive brugt til at accelerere arbejdet med den næste generation af AI.
Hans bekymring var grundlæggende: Hvis AI i stadig højere grad bliver medudvikler af sin egen efterfølger, hvor meget indsigt og kontrol har mennesket så tilbage? I juni sagde Jain sit job op.
Kort efter forlod Jacob Coxon Anthropic. Han havde tidligere arbejdet hos OpenAI og advarede offentligt om, at de førende AI-virksomheder efter hans opfattelse bevæger sig mod det, han kalder selvforbedrende superintelligens. Han beskrev kapløbet som et væddemål med menneskeliv.
Også forskere, der stadig arbejder inde i AI-industrien, har udtrykt meget alvorlig bekymring. Enkelte har offentligt vurderet risikoen for, at fremtidige AI-systemer kan få katastrofale konsekvenser, som betydelig.
Sådanne procentangivelser skal naturligvis behandles med stor forsigtighed. Ingen har et statistisk grundlag, hvorfra risikoen for menneskehedens udslettelse kan beregnes med videnskabelig præcision.
Men når mennesker med indgående kendskab til teknologien begynder at tale på den måde — og nogle ligefrem forlader deres arbejde på grund af udviklingen — er det vanskeligt blot at affeje dem som dommedagsprofeter.
Hvad er det egentlig, de er bange for?
Det er vigtigt at skelne mellem meget forskellige former for AI-risiko.
Der findes allerede velkendte problemer. AI kan bruges til cyberangreb, misinformation, overvågning og automatisering af militære systemer. Mere avancerede modeller kan også potentielt gøre teknisk viden lettere tilgængelig for mennesker, der ønsker at udvikle biologiske eller kemiske våben.
Det er alvorlige problemer, men de adskiller sig fra den frygt, der nu får nogle AI-forskere til at advare om selve udviklingsretningen.
Deres bekymring handler om, at de mest avancerede AI-systemer er blevet stadig bedre til blandt andet programmering, problemløsning og forskning. Det betyder, at virksomhederne i stigende grad kan bruge deres nuværende modeller som redskaber til at udvikle de næste.
Anthropic beskriver selv udviklingen ganske åbent. Hvor mennesker tidligere stod for næsten alle led i udviklingen af AI, udføres en voksende del af arbejdet nu med hjælp fra AI-systemer.
Det betyder ikke, at vi allerede har selvforbedrende superintelligens. Det har vi ikke. Men det betyder, at et vigtigt led i den hypotetiske udvikling ikke længere kun tilhører science fiction: AI bliver gradvist bedre til at hjælpe mennesker med at bygge bedre AI.
Hvad er selvforbedrende superintelligens?
Begrebet lyder mere science fiction-agtigt, end princippet egentlig er.
Forestil dig et AI-system, der er meget dygtigt til programmering og til at udvikle AI. Systemet hjælper forskerne med at skabe en bedre model. Den nye model er endnu bedre til den samme opgave og kan derfor bidrage til at konstruere en endnu mere avanceret efterfølger.
Hvis processen gentager sig, får man det, der kaldes rekursiv selvforbedring: AI hjælper med at bygge bedre AI, som igen bliver bedre til at bygge AI.
Det afgørende spørgsmål er, om processen på et tidspunkt kan accelerere så kraftigt, at menneskelig forskning, kontrol og forståelse ikke længere kan følge med.
Det er her begrebet superintelligens kommer ind. En superintelligens er en hypotetisk AI, der på en lang række intellektuelle områder er bedre end selv de dygtigste mennesker — eksempelvis inden for programmering, forskning, strategisk planlægning, problemløsning og måske også udviklingen af nye AI-systemer.
Ingen sådan superintelligens eksisterer i dag. Ingen af de førende AI-laboratorier hævder at have skabt et fuldt autonomt system, der kontinuerligt forbedrer sig selv.
Men nogle forskere mener, at de allerede kan se dele af den mekanisme, som i teorien kan føre i den retning. Det er dét, der gør dem nervøse.
Når mange AI-systemer arbejder samtidig
En anden del af udviklingen handler om såkaldte AI-agenter.
I stedet for at et menneske stiller ét spørgsmål og får ét svar, kan flere AI-systemer få selvstændige opgaver og arbejde parallelt. De kan kommunikere med hinanden, programmere, teste løsninger og fordele arbejdsopgaver imellem sig.
Det kan gøre AI langt mere effektiv. Men det kan samtidig gøre systemet vanskeligere at overskue.
Hvis hundredvis eller tusindvis af AI-agenter arbejder samtidig på et komplekst problem, bliver menneskelig kontrol ikke nødvendigvis umulig, men den bliver vanskeligere. Det behøver ikke skyldes onde hensigter eller en maskine, der pludselig “vågner”.
Problemet kan ganske enkelt være, at systemet bliver mere komplekst, hurtigere og mere autonomt, end mennesker praktisk kan overskue.
Det er en mindre filmisk forestilling end HAL 9000.
Men måske også en mere realistisk.
HAL 9000 er måske den forkerte frygt
Science fiction har lært os at frygte maskinen, der bliver bevidst, udvikler sine egne ønsker og vender sig mod mennesket.
Men en teknologi behøver hverken at være bevidst eller ond for at blive vanskelig at kontrollere.
Komplekse teknologiske systemer kan udvikle en betydelig samfundsmæssig magt, fordi mennesker, virksomheder, myndigheder og stater bliver afhængige af dem. Når først en teknologi er dybt integreret i økonomi, infrastruktur og dagligdag, bliver spørgsmålet om kontrol noget andet end blot at kunne slukke en computer.
Det gør den aktuelle AI-diskussion interessant på en anden måde.
For selv blandt mennesker, der advarer mod udviklingen, findes en erkendelse af, at kapløbet er vanskeligt at standse. Hvis én virksomhed sænker tempoet, fortsætter konkurrenterne. Hvis amerikanske virksomheder holder igen, bliver argumentet hurtigt, at kinesiske virksomheder måske ikke gør det.
Dermed kan alle være bekymrede for udviklingen og samtidig føle sig tvunget til at fortsætte.
Det er et klassisk kollektivt handlingsproblem, og til det behøver man ingen ond kunstig intelligens. Man behøver kun almindelige menneskelige, økonomiske og geopolitiske incitamenter.
Når frygten for AI bliver en del af AI-hypen
Her opstår imidlertid et paradoks.
De virksomheder og forskere, der udvikler AI, fortæller samtidig verden, at teknologien kan blive så magtfuld, at den måske kan true menneskeheden.
Det kan være en oprigtig advarsel, og den bør ikke affejes som markedsføring. Men advarslen kommunikerer samtidig, at teknologien er ekstraordinært vigtig, revolutionerende og potentielt civilisationændrende.
Dermed kan frygt og hype eksistere samtidig.
Man kan oprigtigt frygte teknologien og samtidig være med til at øge dens prestige, politiske betydning og økonomiske værdi.
Det er netop denne dobbelte mekanisme, Business Insider peger på. Hvis offentligheden og investorerne begynder at tvivle på, om AI overhovedet bliver så revolutionerende, som virksomhederne lover, opstår et helt andet problem. Enorme investeringer, selskabsværdier og dele af aktiemarkedet er allerede blevet bundet til forventningen om, at teknologien bliver netop revolutionerende.
AI kan derfor både være overvurderet og rumme alvorlige risici.
De to ting udelukker ikke hinanden.
En vigtig indvending
Der findes også forskere, der mener, at hele diskussionen om menneskehedens udslettelse leder opmærksomheden i den forkerte retning.
AI-forskeren Timnit Gebru har i mange år været en af branchens tydeligste kritikere. Hun mener, at fortællingen om en fremtidig superintelligens risikerer at overskygge de problemer, AI allerede skaber, blandt andet overvågning, militær anvendelse, ressourceforbrug, dårlige arbejdsvilkår og koncentration af økonomisk og politisk magt.
Det argument bør også tages alvorligt.
For måske er den største fejl at stille de to problemer op mod hinanden. Det er muligt både at spørge, om fremtidige AI-systemer kan blive så kraftfulde, at mennesket mister kontrollen med dem, og samtidig undersøge de konsekvenser, de AI-systemer vi allerede har, skaber i samfundet.
Begge spørgsmål fører videre til noget større: Hvordan indfører vi overhovedet ny teknologi?
Først indfører vi teknologien – bagefter diskuterer vi den
Teknologikritik har gennem flere år beskæftiget sig med et tilbagevendende problem ved teknologisk udvikling.
Vi er meget dygtige til at opfinde nye teknologier og ofte også meget hurtige til at udbrede dem. Langt vanskeligere har vi ved at føre den samfundsmæssige diskussion samtidig med udviklingen.
Alt for ofte bliver rækkefølgen, at en teknologi først udvikles og markedsføres. Derefter udbredes den, bliver populær og efterhånden en normal del af hverdagen. Først når problemerne bliver tydelige, begynder den politiske og offentlige diskussion for alvor om konsekvenser, begrænsninger og regulering.
Det minder næsten om den gamle amerikanske vending “skyd først og spørg bagefter.”
Teknologisk innovation følger ikke nødvendigvis en planlagt samfundsmæssig proces. Den kan snarere komme til at ligne: Indfør først — spørg bagefter.
Men hvorfor skulle rækkefølgen ikke kunne være anderledes?
Vi kunne diskutere teknologiens formål, mulige konsekvenser og nødvendige grænser, mens den udvikles. Vi kunne spørge, hvor vi ønsker at anvende den, hvor vi ikke ønsker den, og hvilke former for kontrol der skal være på plads, før teknologien bliver så udbredt, at alternativerne næsten forsvinder.
Det betyder ikke, at al teknologisk udvikling skal sættes på pause, indtil enhver tænkelig konsekvens er kendt. Det ville hverken være muligt eller ønskeligt.
Men der er stor forskel på at kræve fuld sikkerhed og på overhovedet at stille spørgsmålene i tide.
Da én telefon kunne være nok
Telefonens historie giver et lille, men tankevækkende historisk modbillede.
Da telefonen begyndte at brede sig i amerikanske byer i slutningen af 1800-tallet, var dens plads i samfundet endnu ikke givet.
I Montgomery i Ohio fandtes der i 1887 én offentlig telefon for lokalsamfundet. Borgerne kunne gå hen til telefonen og betale for at benytte den.
For os virker forestillingen næsten absurd. Selvfølgelig skulle telefonen senere ind i private hjem og til sidst ende i stort set alles lomme.
Men pointen er ikke, at én fælles telefon var den rigtige løsning.
Pointen er, at telefonens rolle endnu kunne opfattes som noget, man kunne tage stilling til.
Hvor mange telefoner havde et lokalsamfund brug for? Hvor skulle de stå? Hvem skulle have adgang? Hvordan skulle teknologien anvendes?
Teknologien havde endnu ikke gjort selve spørgsmålene utænkelige.
Vi har prøvet det før
Det er vanskeligt ikke at tænke på smartphones og skærme i skolen.
Danmark digitaliserede gennem mange år undervisningen kraftigt. Computere, tablets og smartphones blev gradvist en selvfølgelig del af skolelivet, og digitalisering blev i vid udstrækning betragtet som fremskridt i sig selv.
Først senere begyndte diskussionen om, hvorvidt teknologien måske fyldte for meget.
I dag anbefaler Undervisningsministeriet blandt andet mobilfri skoler, at tablets og computere lægges væk, når de ikke skal bruges, og at skærme kun anvendes, når det er pædagogisk og didaktisk hensigtsmæssigt.
Anbefalingerne bygger ligefrem på et forsigtighedsprincip, fordi de langsigtede konsekvenser af skærmbrug for børn og unge ikke er tilstrækkeligt veldokumenterede.
Det er værd at standse ved.
Digitaliseringen kom først. Forsigtighedsprincippet bagefter.
Sociale medier blev også indført først
Sociale medier er et endnu tydeligere eksempel.
Facebook, Instagram, TikTok, YouTube og andre platforme blev på ganske få år integreret i børn og unges sociale liv. De blev ikke indført efter en omfattende offentlig diskussion om deres psykologiske og sociale konsekvenser.
De blev lanceret som produkter og bredte sig, fordi millioner af mennesker ønskede at bruge dem.
Først senere er politikere, forskere og myndigheder for alvor begyndt at interessere sig for mekanismer som infinite scroll, autoplay, konstante notifikationer og algoritmiske anbefalinger. I flere lande diskuteres eller gennemføres nu aldersgrænser, begrænsninger og særlige regler for mindreårige. Samtidig er sociale medier blevet mødt af retssager fra familier og andre, der mener, at platformenes design har bidraget til skade på børn og unge.
Platformene afviser en række af anklagerne og fremhæver selv de sikkerheds- og forældrekontrolfunktioner, de har indført.
Men uanset hvor ansvaret i de enkelte sager ender, står den overordnede rækkefølge tilbage:
Teknologien blev først en del af børn og unges hverdag.
Derefter begyndte samfundet for alvor at diskutere, hvilke rammer den burde have haft.
Er AI øjeblikket, hvor vi gør noget andet?
Det er derfor muligt, at den vigtigste betydning af de aktuelle AI-advarsler ikke engang ligger i spørgsmålet om menneskehedens udslettelse.
Måske består deres betydning i, at vi denne gang bliver advaret, mens udviklingen stadig foregår.
Forskere inde i laboratorierne siger åbent, at de ikke ved med sikkerhed, hvor udviklingen ender. De peger på, at AI-systemer gradvist bliver bedre til at bidrage til udviklingen af deres egne efterfølgere, og at problemet med at sikre menneskelig kontrol over meget avancerede systemer endnu ikke er løst.
Samtidig fortsætter udviklingen med meget høj hastighed.
AI bliver allerede integreret i virksomheder, uddannelse, forskning, administration, militær teknologi, informationssøgning, sundhed og softwareudvikling.
Og nu også i udviklingen af AI selv.
Det er netop derfor, diskussionen ikke bør vente, indtil vi ved, om de mest dramatiske forudsigelser var rigtige.
Hvis vi venter så længe, har vi gentaget den sædvanlige rækkefølge endnu en gang.
Spørgsmålet er ikke, om vi skal have AI
Det er derfor heller ikke særlig frugtbart at reducere diskussionen til et valg mellem at være for eller imod kunstig intelligens.
Teknologi fungerer sjældent på den måde.
Telefonen forsvandt ikke, fordi nogen var skeptiske over for den. Internettet forsvinder ikke. Sociale medier forsvinder næppe. Og kunstig intelligens forsvinder heller ikke.
Det væsentlige spørgsmål er, hvilken rolle vi ønsker, at AI skal have i samfundet.
Vi bør diskutere, hvad teknologien skal bruges til, men også hvor vi ikke ønsker at bruge den. Vi bør tage stilling til, hvilke beslutninger der altid skal forblive menneskelige, hvor meget autonomi AI-systemer skal have, hvem der kontrollerer udviklingen, og hvem der bærer ansvaret, når systemerne fejler.
Og måske findes der også teknologiske muligheder, som et samfund bør vælge ikke at realisere, selv om de teknisk kan lade sig gøre.
Det er vanskelige spørgsmål.
Netop derfor bør de stilles, mens vi stadig kan påvirke svarene.
“Open the pod bay doors, HAL”
I 2001: A Space Odyssey opdager Dave Bowman problemet, da det næsten er for sent.
HAL har allerede kontrollen over rumskibet. Dave kan bede computeren om at åbne døren, men beslutningen ligger ikke længere hos ham.
Vores virkelige AI-problem bliver næppe så enkelt.
Der bliver måske aldrig et øjeblik, hvor en maskine med rolig stemme fortæller os, at den nægter at adlyde.
Det kan ske langt mere gradvist.
Vi kan overlade lidt mere arbejde til AI, derefter flere beslutninger, mere infrastruktur og mere forskning. Hver enkelt ændring kan forekomme både praktisk og fornuftig, mens den finder sted.
Først senere opdager vi måske, hvor afhængige vi er blevet.
Det er derfor, de aktuelle advarsler fra AI-forskere bør tages alvorligt. Ikke fordi vi ved, at en fremtidig superintelligens vil udslette menneskeheden. Det ved ingen.
De bør tages alvorligt, fordi vi endnu en gang står over for en teknologi med enorme muligheder, mens de vigtigste spørgsmål om dens plads i samfundet stadig er ubesvarede.
Vi behøver ikke vente med at stille spørgsmålene, til teknologien allerede har givet os baghjul. Denne gang bør diskussionen om formål, grænser og kontrol foregå før – eller i det mindste samtidig med – at teknologien bliver en uundværlig del af samfundet.