Hvad betyder det, at en AI-praksis er forbudt?#
Artikel 5 i EU's AI-forordning (AI Act) forbyder otte former for AI-brug, og forbuddene har gældt siden 2. februar 2025. Forbuddet rammer både den, der sælger systemet, og den virksomhed, der bruger det, og overtrædelser kan koste op til 35 mio. euro eller 7 % af den globale omsætning. For de fleste danske virksomheder er den mest realistiske faldgrube AI, der aflæser medarbejderes eller ansøgeres følelser.
Et eksempel: Et HR-system analyserer kandidaters webcam under videosamtaler og giver dem en "engagement-score" til rekrutteringen. Det lyder som et smart værktøj. Efter Kommissionens retningslinjer er det forbudt følelsesgenkendelse, fordi forbuddet også dækker rekrutteringsforløb.
Der er ikke tale om et krav om at søge tilladelse eller en anbefaling, man kan vælge fra. Det er et direkte forbud, og bøderammen er forordningens højeste, over GDPR's loft på 20 mio. euro eller 4 %. Sanktionsreglerne har kunnet bruges siden 2. august 2025.
Det relevante spørgsmål for en almindelig dansk virksomhed er derfor ikke, om I udvikler AI. Det er, om I bruger AI på en måde, der falder ind under forbuddene, uden at vide det. HR-værktøjer, kundeservice-bots og performance-overvågning er de steder, hvor grænsen oftest kan rammes ved et uheld.
Hvilke AI-praksisser er forbudt efter artikel 5?#
Artikel 5, stk. 1, litra a-h, lister otte kategorier af AI-systemer, der ikke må bringes i omsætning, tages i brug eller anvendes i EU:
| Kategori | Hvad det er | Konkret eksempel |
|---|---|---|
| 1. Subliminal eller manipulerende påvirkning (a) | AI der bruger teknikker under bevidsthedstærsklen eller bevidst vildleder, så personen træffer en beslutning, de ellers ikke ville have truffet, og som kan skade dem | Lyd- eller billedsignaler under bevidsthedstærsklen i en app, der får brugeren til at købe |
| 2. Udnyttelse af sårbarhed (b) | AI der udnytter alder, handicap eller en særlig social eller økonomisk situation | Reklame-AI der målrettes gældsatte med kviklån |
| 3. Social scoring (c) | Vurdering af personer ud fra social adfærd eller personlighed, som fører til skadelig behandling i en anden sammenhæng eller ude af proportion | At bruge en kundes adfærd i én tjeneste til at nægte adgang til en helt anden |
| 4. Forudsigelse af kriminalitet ud fra profilering (d) | AI der vurderer risikoen for, at en person begår kriminalitet, udelukkende ud fra profilering eller personlighedstræk | "Pre-crime"-scoring uden konkrete, objektive fakta |
| 5. Ansigtsdatabaser via vilkårlig scraping (e) | Opbygning af ansigtsgenkendelsesdatabaser ved at skrabe billeder fra internettet eller overvågningskameraer | Indsamling af profilbilleder fra sociale medier til et søgeværktøj |
| 6. Følelsesgenkendelse på arbejdspladsen og i uddannelse (f) | AI der udleder følelser hos medarbejdere eller elever ud fra biometriske data | Webcam-AI der "måler engagement" hos kundeserviceagenter eller elever |
| 7. Biometrisk kategorisering efter følsomme træk (g) | AI der ud fra biometri udleder race, politisk holdning, fagforeningsmedlemskab, religion eller seksuel orientering | Ansigtsanalyse der forsøger at bestemme kandidaters etnicitet |
| 8. Biometrisk fjernidentifikation i realtid i offentlige rum (h) | Politiets brug af live ansigtsgenkendelse på offentlige steder, med snævre undtagelser | Permanent live-overvågning af fodgængere på et torv |
Punkt 1, 2, 3 og 6 er dem, der oftest kan ramme almindelige virksomheder. Resten er primært relevante for myndigheder, sikkerhedsleverandører og specialiserede AI-udbydere. Dele af punkt 4 og 8 handler om retshåndhævelse og er omfattet af det danske retsforbehold, hvilket Digitaliseringsstyrelsen gennemgår i sine vejledninger om forbudt AI.
Listen bliver længere. Med ændringsforordningen (EU) 2026/1744, den såkaldte Digital Omnibus on AI, kommer der fra 2. december 2026 et nyt forbud mod AI-systemer, der genererer seksuelt misbrugsmateriale af børn eller intime billeder af identificerbare personer uden deres samtykke, de såkaldte "nudify"-apps.
Forbuddene gælder, uanset om I har udviklet AI'en selv eller blot bruger en leverandørs system. At I "bare købte det ind", fritager jer ikke.
Hvor går grænsen mellem markedsføring og forbudt manipulation?#
Almindelig markedsføring er ikke forbudt. Manipulation bliver først ulovlig efter artikel 5, når AI'en bruger teknikker, som personen ikke kan gennemskue, og det væsentligt forvrider deres beslutning på en måde, der kan give betydelig skade. Al markedsføring er påvirkning, så grænsen ligger tre steder:
- Subliminale teknikker. Signaler under bevidsthedstærsklen, som brugeren ikke kan opfange og forholde sig kritisk til.
- Bevidst manipulerende eller vildledende teknikker, der er designet til at omgå brugerens beslutningsevne og sandsynligvis forvolder skade.
- Udnyttelse af sårbarhed, hvor AI'en målretter sig mod alder, handicap eller en social eller økonomisk situation for at påvirke adfærd skadeligt.
En anbefalingsalgoritme, der foreslår produkter ud fra din købshistorik, er ikke manipulation. Et nyhedsbrev med personaliseret indhold er det heller ikke, og en chatbot, der prøver at lukke et salg, er det heller ikke.
Det bliver problematisk, når:
- AI'en lærer den enkelte brugers psykologiske svagheder og udnytter dem målrettet
- "dark patterns" med kunstig knaphed, falsk hastværk eller skjult information reelt fjerner valget
- systemet er designet til at få sårbare grupper, fx gældsatte eller ældre med begyndende kognitiv svækkelse, til at træffe beslutninger imod deres egen interesse
En tommelfingerregel: Hvis det ville være ubehageligt at vise en kunde præcis, hvordan AI'en arbejder for at få dem til at købe, er I sandsynligvis tæt på grænsen.
Er følelsesgenkendelse på arbejdspladsen forbudt?#
Ja. AI, der udleder medarbejderes følelser ud fra biometriske data som ansigt, stemme eller kropssignaler, er forbudt efter artikel 5, stk. 1, litra f. Det gælder også under rekruttering, og det er det punkt, der overrasker flest danske arbejdsgivere.
Forbuddet dækker bredt:
- webcam-AI der "måler stress" eller "engagement" hos medarbejdere under møder
- stemmeanalyse i kundecentre, der scorer agenters humør eller energiniveau
- ansigtsanalyse der vurderer, om en medarbejder "ser opmærksom ud" under træning
- sensorbaseret AI der udleder træthed eller frustration fra biometri
Bemærk forskellen: At registrere, at en agent har talt i 47 minutter, er ikke følelsesgenkendelse. At udlede, at agenten "lyder stresset" ud fra stemmen, er.
Der er to smalle undtagelser, nemlig medicinske og sikkerhedsmæssige grunde. Det kan fx være træthedsdetektion hos lastbilchauffører eller en alarm, hvis en operatør af tungt udstyr er ved at falde i søvn. Generelle "wellness-platforme", "produktivitetsmonitorering" og "engagement-tracking" hører ikke under undtagelserne.
Eksempel: stress-måling af medarbejdere i et kundecenter
En tænkt, men realistisk, dansk virksomhed: En mellemstor B2C-virksomhed indfører en AI-platform, der lytter med på kundeserviceopkald og giver agenten en stress-score i realtid ud fra stemmen. Hensigten er god. Man vil opdage udbrændthed tidligt og tilbyde pauser.
Problemet er, at systemet udleder følelser fra biometriske data hos medarbejdere på arbejdspladsen. Det rammer litra f direkte, og den gode hensigt ændrer ikke på det. Værktøjet skal tages ud af drift, ellers risikerer virksomheden en bøde i den højeste kategori.
Løsningen er sjældent at smide al AI ud. Den er at omdesigne, så systemet måler objektive forhold som samtalevarighed, pausemønstre og frivillig selvrapportering i stedet for at udlede følelser fra stemmen.
Social scoring: gælder forbuddet også private virksomheder?#
Ja. Forbuddet mod social scoring i artikel 5, stk. 1, litra c, gælder både offentlige og private aktører. Det rammer AI-systemer, der:
- vurderer eller klassificerer personer over tid ud fra social adfærd eller personlighedstræk
- fører til skadelig eller ufordelagtig behandling i en sammenhæng, der ikke har noget med de oprindelige data at gøre
- eller fører til behandling, der er uforholdsmæssig i forhold til adfærden
Her kan virksomheder ramme grænsen:
- en loyalitetsplatform, der scorer kunder bredt på "personlighed" og bruger scoren til at bestemme serviceniveau, kredit eller opsigelse
- en medarbejderplatform, der samler adfærd på tværs af systemer (mailtone, kalenderdisciplin, mødedeltagelse) til en samlet score, som bruges ved lønforhandling eller afskedigelse
- et system, der bruger en kundes adfærd i én tjeneste, fx en forsinket betaling, til at nægte adgang til en helt anden ydelse
Almindelig kreditvurdering er ikke social scoring i artikel 5's forstand, fordi den vurderer en konkret økonomisk risiko ud fra relevante data. Almindelig HR-evaluering af faglig præstation er det heller ikke. Det bliver problematisk, når scoringen er bred, varig og bruges på tværs af sammenhænge.
Et grænsetilfælde er rekrutterings-AI, der scorer kandidater på "personlighed" eller "kulturelt fit" ud fra jobansøgninger. Det er næppe forbudt social scoring, men det er højrisiko efter bilag III og kræver bl.a. menneskeligt tilsyn, logning og information til ansøgerne. Sker vurderingen ud fra ansigtsudtryk eller stemme i en videosamtale, er I til gengæld inde i forbuddet mod følelsesgenkendelse. Læs mere i vores overblik over AI Act for SMV'er.
Sådan tjekker I jeres AI-systemer mod forbuddene#
De fleste danske virksomheder har ikke noget i den forbudte kategori, men nogle har, uden at vide det. De typiske faldgruber er:
- HR-værktøjer, der gør mere, end de burde, fx følelsesanalyse af videointerviews
- kundecenter- eller medarbejderovervågning, der udleder følelser fra biometri
- brede scoringssystemer, der bruges på tværs af sammenhænge
- reklame-AI, der målretter sårbare grupper
Værktøjer som Microsoft Copilot eller ChatGPT er ikke forbudte i sig selv, men måden, I bruger dem på, kan ramme grænserne. Fodrer I fx Copilot med medarbejderdata for at få den til at "vurdere stemningen i teamet", er det jeres brug og ikke værktøjet, der er problemet. Læs mere om sikker brug af Copilot.
Glem heller ikke shadow AI. Tager medarbejdere på eget initiativ et værktøj i brug, der falder under forbuddene, er det stadig jer som virksomhed, der bruger det. Se vores artikel om shadow AI.
Tjekliste: jeres AI-brug holdt op mod artikel 5
- Vi har en liste over alle AI-systemer i brug i virksomheden, både godkendte og uautoriserede
- Ingen af systemerne udleder følelser fra biometri hos medarbejdere, ansøgere eller elever
- Vi bruger ikke AI til at score eller rangere personer på tværs af urelaterede sammenhænge
- Vores marketing-AI udnytter ikke sårbarhed (alder, gæld, kognitiv svækkelse)
- Ingen subliminale eller bevidst vildledende teknikker er bygget ind i vores brugerflader
- Vi har dokumenteret vores vurdering af hvert system mod artikel 5
- Leverandørkontrakterne indeholder en garanti for, at systemet ikke falder under artikel 5
- Medarbejderne ved, hvilke AI-værktøjer de må bruge, og hvilke der er forbudt
Kan I ikke sætte flueben ved alle punkter, så få dem afklaret. Digitaliseringsstyrelsens vejledninger og Kommissionens retningslinjer om forbudt AI (se kilderne nederst) er et godt sted at starte, og ved tvivl om et konkret system bør I spørge en jurist med AI Act-erfaring.
ShieldUps EU AI Act-spor er i beta og har et modul om forbudte praksisser med konkrete cases og quiz, så hele organisationen ved, hvor grænserne går, og ikke kun den, der har ansvaret for compliance.
Ofte stillede spørgsmål om forbudt AI#
Gælder artikel 5 også for AI fra en udenlandsk leverandør?
Ja. Forbuddene gælder al AI, der bringes i omsætning, tages i brug eller anvendes i EU, uanset hvor leverandøren sidder. Bruger et amerikansk SaaS-værktøj forbudt følelsesgenkendelse, må det ikke bruges på medarbejderne på jeres danske kontor. Ansvaret ligger både hos leverandøren og hos jer som "idriftsætter" (deployer).
Er almindelig CV-screening med AI forbudt?
Nej. AI til CV-screening og kandidatvurdering er højrisiko efter bilag III, ikke forbudt. I må bruge det, men som idriftsætter skal I bl.a. følge leverandørens brugsanvisning, sikre menneskeligt tilsyn, gemme logs og informere ansøgerne. De krav gælder efter Digital Omnibus-ændringen fra 2. december 2027. Det bliver først forbudt, hvis værktøjet udleder følelser fra videointerviews eller klassificerer kandidater på følsomme træk som etnicitet eller seksualitet.
Hvad gør vi, hvis vi opdager, at vi bruger noget forbudt?
Stop brugen med det samme. Dokumentér, hvad systemet gjorde, hvor længe, og hvilke personer der blev berørt. Involvér jeres DPO, hvis I har en, og få juridisk rådgivning. Behandlede systemet personoplysninger, skal I også vurdere, om der er tale om et brud på GDPR, der skal håndteres efter reglerne om anmeldelse inden for 72 timer.
Hvem fører tilsyn med forbudt AI i Danmark?
Siden 2. august 2025 har lov nr. 467 af 2025 fordelt tilsynet. Digitaliseringsstyrelsen er markedsovervågningsmyndighed for de fleste forbud i artikel 5 (litra a-c og e-f) og er det centrale kontaktpunkt. Datatilsynet fører tilsyn med udvalgte bestemmelser, og Domstolsstyrelsen med domstolenes administrative brug af AI. Datatilsynet er samtidig tilsynsmyndighed for GDPR, som næsten altid er i spil ved forbudte praksisser.
Kilder#
- Europa-Parlamentet og Rådet (2024). Forordning (EU) 2024/1689 (AI Act): art. 5 (forbudte AI-praksisser), art. 99 (sanktioner, op til 35 mio. euro eller 7 % af global omsætning), art. 113 (ikrafttræden i etaper). Link
- Europa-Kommissionen (2025). Guidelines on prohibited artificial intelligence practices, offentliggjort 4. februar 2025, med eksempler på bl.a. følelsesgenkendelse i rekruttering og kundecentre. Link
- Digitaliseringsstyrelsen (2025). Forbudte former for AI-praksis, vejledninger fra oktober 2025. Link
- Datatilsynet (2025). Datatilsynet udpeget som tilsynsmyndighed for udvalgte bestemmelser i AI-forordningen. Link
- Folketinget (2025). Lov nr. 467 af 2025 om supplerende bestemmelser til forordningen om kunstig intelligens. Link
- Europa-Parlamentet og Rådet (2026). Forordning (EU) 2026/1744 (Digital Omnibus on AI), i kraft 27. juli 2026: nyt forbud mod AI-genererede intime billeder uden samtykke fra 2. december 2026 og udskudte højrisikofrister. Link