De mest avancerede AI-modeller bliver stadig dygtigere. Men kontrollen med dem følger ikke nødvendigvis med. Mens en restaurant kan lukkes efter et sundhedstilsyn, findes der endnu ingen tilsvarende systematisk kontrol af de AI-systemer, som millioner af mennesker anvender hver dag – bør det bekymre os?
En provokerende sammenligning
“AI-modeller er lige nu mindre reguleret end restauranter.”
Det lyder næsten som en overdrivelse, men udsagnet rummer en vigtig pointe.
En restaurant skal leve op til lange lister af regler. Køkkenet bliver kontrolleret. Fødevarer spores. Der findes sanktioner, hvis reglerne ikke overholdes.
AI-systemer udvikles derimod ofte i et tempo, hvor lovgivningen har svært ved at følge med. Nye modeller bliver lanceret med få ugers mellemrum, og selv de virksomheder, der udvikler dem, indrømmer jævnligt, at de endnu ikke fuldt ud forstår alle modellernes egenskaber.
Det betyder ikke, at AI er uden sikkerhedsforanstaltninger.
Men det betyder, at sikkerheden i høj grad afhænger af virksomhedernes egne tests.
Hvad er et AI-jailbreak?
Når man taler om AI-sikkerhed, dukker ordet jailbreak ofte op.
Et jailbreak er en metode, hvor en bruger forsøger at få en AI-model til at ignorere sine indbyggede sikkerhedsbegrænsninger.
I stedet for blot at spørge direkte:
“Hvordan bygger man et farligt våben?”
kan brugeren formulere spørgsmålet på en indirekte måde, pakke det ind i et rollespil eller dele det op i mange små trin.
Målet er ikke nødvendigvis at få AI’en til at bryde loven.
Målet er at finde de situationer, hvor sikkerhedsfiltrene ikke virker som forventet.
Vi skrev i september 2024, om hvordan det det lykkedes for en person at manipulere ChatGPT til at vise en opskrift på en hjemmelavet bombe.
Det minder om penetrationstest i cybersikkerhed, hvor eksperter forsøger at bryde ind i egne systemer for at finde svagheder, før de kriminelle gør det.
Hvad er et AI-jailbreak?
Et AI-jailbreak er en metode, hvor en bruger forsøger at omgå en AI-models sikkerhedsbegrænsninger ved hjælp af særligt udformede prompts. Sikkerhedsforskere bruger ofte jailbreaks som en del af deres arbejde med at teste og forbedre AI-systemers robusthed.
Forskere bruger AI mod AI
Flere forskningsorganisationer arbejder i dag systematisk med at teste AI-modeller.
I stedet for manuelt at skrive enkelte spørgsmål lader de software generere tusindvis af variationer af det samme prompt.
Mange bliver afvist.
Nogle få slipper igennem.
Netop de få tilfælde er interessante, fordi de viser, hvor sikkerhedsmodellen kan forbedres.
Det er en form for “stress-test”, hvor man undersøger, hvordan modellen reagerer under usædvanlige eller kreative angreb.
Jo mere avancerede modellerne bliver, desto sværere bliver denne opgave.
Problemet er ikke kun onde brugere
Debatten kommer ofte til at handle om hackere eller cyberkriminelle.
Men jailbreaks afslører et mere grundlæggende problem.
Store sprogmodeller fungerer ikke som traditionelle programmer.
Der findes ikke en liste over regler, som udviklerne kan gennemgå linje for linje.
Modellerne lærer statistiske sammenhænge ud fra enorme datamængder.
Derfor kan de nogle gange reagere uforudsigeligt, når spørgsmål bliver stillet på kreative eller indirekte måder.
Det gør sikkerhedsarbejdet markant vanskeligere end i klassisk softwareudvikling.
AI bliver snart til en uundværlig del af kritisk infrastruktur
For få år siden var AI primært et værktøj til tekstgenerering.
I dag bruges AI til:
- programmering
- søgemaskiner
- kundeservice
- medicinsk forskning
- undervisning
- finansielle analyser
- offentlige services
Jo flere samfundsfunktioner der afhænger af AI, desto større bliver konsekvensen af fejl.
Hvis en chatbot giver et dårligt svar, er skaden begrænset.
Hvis AI derimod bliver integreret i sundhedsvæsen, energiforsyning eller offentlig administration, bliver kravene til sikkerhed langt højere.
Reglerne er stadig under udvikling
EU’s AI-forordning er et af de første større forsøg på at regulere kunstig intelligens.
Forordningen indfører krav til risikovurdering, dokumentation og gennemsigtighed – især for systemer med høj risiko.
Men teknologien udvikler sig hurtigere end lovgivningen.
Nye modeller lanceres løbende med stadig større kapacitet, og sikkerhedsmetoderne ændrer sig næsten måned for måned.
Det betyder, at myndighederne konstant risikerer at regulere gårsdagens teknologi.
EU’s AI-forordning (AI Act)
EU’s AI-forordning (AI Act) er verdens første omfattende lovgivning om kunstig intelligens. Den opdeler AI-systemer efter risiko og stiller de strengeste krav til systemer, der kan få stor betydning for borgeres sikkerhed, rettigheder eller samfundets funktion. Formålet er at fremme innovation, samtidig med at brugere og samfund beskyttes.
Mere åbenhed kan være en del af løsningen
En af de vigtigste diskussioner handler ikke om, hvorvidt AI skal reguleres.
Den handler om, hvordan.
Mange forskere efterlyser mere gennemsigtighed omkring:
- hvordan modeller testes
- hvilke sikkerhedstests de består
- hvilke begrænsninger udviklerne allerede kender
- hvordan fejl rapporteres og håndteres
I dag offentliggør flere virksomheder såkaldte system cards eller sikkerhedsrapporter, men indholdet varierer betydeligt, og der findes endnu ingen fælles standard.
Teknologikritiks vurdering
Udviklingen inden for kunstig intelligens bevæger sig hurtigere end de fleste andre teknologier i nyere tid. Det gør sikkerhedstest og uafhængig evaluering vigtigere end nogensinde.
Sammenligningen med restauranter er naturligvis sat på spidsen. En AI-model kan ikke kontrolleres på samme måde som et storkøkken. Men analogien peger på et reelt spørgsmål: Hvor meget dokumentation, kontrol og uafhængigt tilsyn bør vi kræve, før teknologien bliver en integreret del af samfundets kritiske funktioner?
Jailbreaks viser ikke nødvendigvis, at AI er farlig. De viser snarere, at selv avancerede modeller fortsat kan opføre sig på måder, udviklerne ikke havde forudset. Det er netop derfor, uafhængige sikkerhedstests er nødvendige – ikke for at skabe frygt, men for at skabe tillid.