AI dukker op flere og flere steder i hverdagen. Du ser det i chatbots, billedgeneratorer, anbefalinger på sociale medier, oversættelsesværktøjer og måske også i din bank, din kommune eller på din arbejdsplads. Men når kunstig intelligens får større indflydelse på beslutninger, der kan påvirke mennesker, opstår der også et vigtigt spørgsmål: Hvem sætter grænserne?
Det er her, AI Act kommer ind i billedet. Hvis du har søgt på “hvad er ai act”, er det sandsynligvis fordi du gerne vil forstå, hvad loven egentlig går ud på, uden at skulle læse tunge juridiske dokumenter. Den korte version er, at AI Act er EU’s lovgivning om kunstig intelligens. Formålet er at gøre brugen af AI mere sikker, gennemsigtig og ansvarlig.
Det lyder måske lidt tørt, men AI Act kan få betydning for alt fra de digitale værktøjer, du bruger som privatperson, til hvordan virksomheder og myndigheder må anvende AI. I denne artikel får du en enkel forklaring på, hvad AI Act er, hvorfor EU har lavet den, hvordan reglerne er bygget op, og hvad det kan betyde i praksis for dig.
Hvad er AI Act?
AI Act er en EU-forordning, der laver regler for udvikling, salg og brug af kunstig intelligens i EU. En forordning gælder direkte i medlemslandene, hvilket betyder, at reglerne ikke bare er vejledende. De bliver en del af den fælles ramme i hele EU.
Målet med AI Act er ikke at forbyde AI som sådan. Tværtimod prøver EU at finde en balance, hvor man både giver plads til innovation og samtidig beskytter mennesker mod skadelige eller urimelige anvendelser af teknologien.
Det centrale i AI Act er, at ikke al AI bliver behandlet ens. Reglerne bygger på en risikobaseret tilgang. Det betyder, at jo større risiko et AI-system kan skabe for menneskers rettigheder, sikkerhed eller muligheder, jo strengere krav gælder der.
Det kan sammenlignes med regler i trafikken. En cykel, en personbil og en lastbil må ikke nødvendigvis det samme, fordi risikoen er forskellig. På samme måde ser AI Act på, hvor stor indflydelse et AI-system kan have på menneskers liv.
AI Act handler derfor ikke kun om “smarte robotter” eller science fiction. Den handler i høj grad om konkrete systemer, som bruges i virkeligheden, for eksempel når:
- en virksomhed sorterer jobansøgninger automatisk
- en bank vurderer kreditværdighed med AI
- et hospital bruger AI til at støtte diagnoser
- en skole eller myndighed anvender systemer til vurdering eller overvågning
- du bruger en chatbot eller en AI-generator på nettet
Nogle af disse brugssituationer vurderes som mere følsomme end andre. Derfor opdeler AI Act AI-systemer i forskellige kategorier.
Sådan opdeler AI Act kunstig intelligens efter risiko
For at forstå AI Act er det en god idé at kende de vigtigste risikoniveauer. Hele idéen bag loven er nemlig, at reglerne skal passe til risikoen. Det gør det lettere at se, hvorfor nogle AI-værktøjer møder få krav, mens andre bliver mødt af langt skrappere regler.
1. Uacceptabel risiko
Nogle former for AI anses for så problematiske, at de i udgangspunktet bliver forbudt. Det gælder systemer, som vurderes at true grundlæggende rettigheder eller være særligt skadelige.
Det kan for eksempel handle om AI, der manipulerer mennesker på en skadelig måde, eller systemer der bruges til meget omfattende social vurdering af borgere. Tanken er, at visse anvendelser simpelthen går for langt, uanset hvor smart teknologien er.
Et hverdagsnært eksempel kunne være, hvis et system forsøgte at udnytte sårbare personer på en måde, der presser dem til bestemte handlinger uden rimelig gennemsigtighed. Her siger AI Act i praksis: det her vil vi ikke acceptere.
2. Høj risiko
Den vigtigste kategori i AI Act er ofte de såkaldte højrisiko-systemer. Det er AI, som bruges i sammenhænge, hvor fejl eller skævheder kan få alvorlige konsekvenser for mennesker.
Det gælder typisk områder som:
- uddannelse og eksamensvurdering
- ansættelse og rekruttering
- adgang til offentlige ydelser
- kritisk infrastruktur
- sundhed og medicinsk udstyr
- retshåndhævelse og visse grænsekontroller
Hvis en arbejdsgiver bruger AI til at sortere kandidater fra, kan systemet i praksis være med til at afgøre, hvem der overhovedet kommer til samtale. Hvis systemet er skævt, dårligt trænet eller mangler kontrol, kan det betyde, at kvalificerede mennesker bliver fravalgt uden fair grund.
Derfor stiller AI Act særlige krav til højrisiko-systemer. De skal blandt andet leve op til krav om dokumentation, risikostyring, menneskeligt tilsyn og datakvalitet. Virksomheder og organisationer skal kunne forklare, hvordan systemet fungerer, og hvordan man begrænser risikoen.
3. Begrænset risiko
Nogle AI-systemer er ikke direkte farlige, men kan stadig vildlede eller forvirre brugeren. Her kommer krav om gennemsigtighed ind i billedet.
Et klassisk eksempel er en chatbot. Hvis du taler med et system, bør du i mange tilfælde vide, at det er en maskine og ikke et menneske. Det samme gælder bestemt AI-genereret indhold, hvor det skal være tydeligt, at teksten, billedet eller videoen er skabt eller ændret med AI.
Formålet er ikke at gøre teknologien besværlig at bruge. Formålet er, at du som bruger skal have en fair chance for at forstå, hvad du har med at gøre.
4. Minimal risiko
Mange AI-systemer falder i den mindst problematiske kategori. Det kan være værktøjer, der hjælper med stavekontrol, sortering af billeder, simple anbefalinger eller andre funktioner, som normalt ikke griber afgørende ind i menneskers rettigheder.
Her er der typisk færre eller ingen særlige krav under AI Act. Det betyder dog ikke, at alt er frit. Andre regler kan stadig spille ind, for eksempel om forbrugerbeskyttelse, datasikkerhed eller persondata.
Hvorfor har EU lavet AI Act?
Hvis AI kan være nyttigt, hvorfor er der så behov for en stor lovpakke? Svaret er, at AI både kan hjælpe og skade. Teknologien er ikke god eller dårlig i sig selv. Det afhænger af, hvordan den bliver brugt.
EU har lavet AI Act for at håndtere nogle helt konkrete bekymringer.
- Manglende gennemsigtighed: Mange AI-systemer fungerer som en slags “sort boks”, hvor brugeren ikke ved, hvorfor systemet giver et bestemt svar eller træffer en bestemt vurdering.
- Risiko for diskrimination: Hvis et system er trænet på skæve data, kan det give unfair resultater. Det kan for eksempel ramme bestemte grupper ved ansættelser eller kreditvurderinger.
- Sikkerhedsproblemer: I følsomme områder som sundhed, transport og kritisk infrastruktur kan fejl få alvorlige konsekvenser.
- Beskyttelse af grundlæggende rettigheder: AI må ikke bruges på måder, der undergraver privatliv, frihed eller lige behandling.
- Fælles regler i EU: Uden fælles regler kunne hvert land lave egne løsninger, og det ville gøre det svært for virksomheder og borgere at navigere.
Der er også en mere praktisk side af sagen. Når virksomheder ved, hvilke regler der gælder, bliver det lettere at udvikle og bruge AI på en måde, der er lovlig fra start. Det kan skabe mere tillid til teknologien.
Tillid er faktisk et nøgleord. Mange mennesker er nysgerrige på AI, men også skeptiske. Hvis du ikke ved, hvordan et system bruges, eller om det kan ramme dig urimeligt, er det svært at have tillid til det. AI Act er et forsøg på at bygge den tillid op gennem klare spilleregler.
Hvad betyder AI Act i praksis for virksomheder, myndigheder og dig?
AI Act er især rettet mod dem, der udvikler, sælger, importerer eller bruger AI-systemer professionelt. Men selv om du ikke driver virksomhed, kan reglerne stadig påvirke din hverdag.
For virksomheder og organisationer
Hvis en virksomhed bruger AI i et område med høj risiko, kan det kræve en del arbejde at leve op til reglerne. Man skal blandt andet kunne dokumentere systemets formål, teste det, overvåge det og sikre, at mennesker kan gribe ind.
Det betyder i praksis, at AI ikke bare kan rulles ud uden omtanke. En arbejdsgiver kan ikke nøjes med at købe et smart rekrutteringsværktøj og stole blindt på resultatet. Der skal være styr på ansvar, datagrundlag og kontrol.
For mindre virksomheder kan det virke tungt. Til gengæld er ideen, at reglerne skal mindske risikoen for store fejl, klager og uretfærdige beslutninger senere.
For myndigheder og offentlige institutioner
Det offentlige bruger allerede digitale systemer til mange opgaver. Hvis AI bliver en del af sagsbehandling, vurderinger eller prioritering, bliver kravene til fairness og gennemsigtighed ekstra vigtige.
Forestil dig for eksempel en kommune, der bruger AI til at hjælpe med at sortere henvendelser eller opdage mønstre i store datamængder. Det kan være nyttigt. Men hvis AI begynder at påvirke beslutninger om borgere, skal der være klare rammer for, hvordan det sker.
AI Act er derfor også relevant i en dansk offentlig kontekst, hvor tillid til myndigheder og korrekt behandling af borgere spiller en stor rolle.
For dig som almindelig bruger
Du kommer sandsynligvis til at mærke AI Act på mere diskrete måder. Du vil måske oftere blive oplyst om, når du interagerer med AI. Du kan også opleve, at virksomheder bliver mere tydelige om, hvordan deres systemer bruges.
På sigt kan AI Act være med til at give dig bedre beskyttelse i situationer, hvor AI får betydning for vigtige dele af livet. Det gælder især, hvis du søger job, låner penge, bruger sundhedsydelser eller møder AI i kontakt med offentlige myndigheder.
Det betyder ikke, at AI Act gør alle AI-systemer perfekte. Men tanken er, at du som borger ikke skal stå helt ubeskyttet, hvis en algoritme kommer til at påvirke dine muligheder.
Handler AI Act også om ChatGPT og generativ AI?
Ja, AI Act er også relevant for generativ AI, altså systemer der kan skabe tekst, billeder, lyd eller kode. Det er blandt andet derfor, debatten om loven er blevet mere kendt de seneste år.
Værktøjer som chatbots og billedgeneratorer er blevet populære på meget kort tid. De kan være praktiske, kreative og tidsbesparende, men de kan også finde på ting, efterligne menneskelig kommunikation og skabe indhold, som kan være svært at gennemskue.
Her er gennemsigtighed igen et vigtigt punkt. Hvis AI bruges til at skabe eller manipulere indhold, kan der være krav om, at det bliver markeret tydeligt i bestemte sammenhænge. Det gælder især, hvis der er risiko for, at mennesker bliver ført bag lyset.
For generativ AI er der også fokus på ansvar hos dem, der stiller modeller og systemer til rådighed. Det handler for eksempel om at have information om systemets funktion, begrænsninger og brug.