Drie recente incidenten van online retailers laten zien wat er misgaat als AI-gegenereerde content de deur uitgaat zonder controle of markering. Vanaf 2 augustus 2026 verplicht de EU AI Act organisaties om daar transparant over te zijn. De incidenten bij Omoda, Zara en Filippa K laten zien waarom die regels er komen, en wat er op het spel staat als je er niets mee doet.
Drie incidenten, drie soorten risico’s
Op de website van modeketen Omoda verscheen recent een productfoto waarop de benen van het model anatomisch niet kloppen. De romp sluit niet aan op de onderbenen. Het beeld is duidelijk AI-gegenereerd en werd breed gedeeld op sociale media. Klanten reageerden massaal, van hilariteit tot ongeloof. Een markering dat het om AI-gegenereerde content ging ontbrak.
Dit incident toont een patroon dat ontstaat zodra AI-output op schaal in productieworkflows wordt opgenomen zonder een menselijke review stap. De fout zat niet in het besluit om AI in te zetten, maar in het ontbreken van controle vóór publicatie. De vraag is dan welk proces bepaalt wat er wel en niet live gaat.
Op de Nederlandse webshop van Zara verscheen een product dat werd aangeprijsd als ‘kanker kleine spiegel. Het ging om een spiegeltje met het sterrenbeeld kreeft erop, in het Engels heet dat Cancer’. De geautomatiseerde vertaling maakte daar ‘kanker kleine spiegel’ van. Het incident ging binnen uren viral, aangewakkerd door TikTokker Max Klunder die de fout spotte en deelde.
Of deze specifieke vertaalfout door een generatief taalmodel is gemaakt, is niet met zekerheid te zeggen. Het kan ook een woordenboek-gebaseerde vertaaltool zijn geweest. Wat dit incident wel duidelijk maakt, is het bredere probleem: content die op grote schaal automatisch wordt gegenereerd of vertaald, vraagt om een evenredig grote reviewcapaciteit. Die was hier niet aanwezig.
Generatieve taalmodellen zoals ChatGPT en Claude maken je kwetsbaar voor dit type fouten. Taalmodellen begrijpen taal niet, ze zijn getraind op het herkennen van patronen. Engelstalig materiaal is dominant in de trainingsdata. Modellen werken daardoor nog steeds het beste in het Engels. In het Nederlands geven ze regelmatig antwoorden die wringen of, in dit geval, erg ongelukkig uitpakken.
Het Zweedse modemerk Filippa K liet AI-gegenereerde campagnebeelden maken. Kort na publicatie volgden beschuldigingen van plagiaat: meerdere beelden vertoonden sterke gelijkenissen met bestaand werk van fotografen voor andere modemerken (Zweedstalige website). Filippa K trok de gehele campagne terug.
Dit incident raakt twee problemen tegelijk. Er was geen transparantie over het feit dat de beelden door AI waren gemaakt. En de output lag visueel zo dicht bij bestaand fotografisch werk dat ook het auteursrecht in het spel kwam. Dat zijn twee aparte juridische dimensies, maar ze ontstonden uit dezelfde oorzaak: AI-output die zonder voldoende controle en zonder markering naar buiten ging.
Zichtbaarder dan een AVG-overtreding
Voordat de juridische verplichtingen aan bod komen, is het nuttig om te begrijpen waarom dit type incident zo snel zo groot wordt.
AVG-overtredingen spelen zich grotendeels achter de schermen af. Ze zitten in verwerkingsregisters, in contracten met verwerkers en in beveiligingsprotocollen die niemand van buiten ziet. De buitenwereld merkt pas dat er iets niet in de haak is bij een datalek of een formele klacht bij een toezichthouder.
Door AI gegenereerde content is per definitie wel zichtbaar. Een niet-gemarkeerde AI-afbeelding op je webshop, een AI-vertaalde productomschrijving met een grove fout, een synthetische campagnefoto die plagiaat suggereert: dat is openbaar, direct zichtbaar en binnen minuten deelbaar. Dit zorgt ervoor dat een handhaver het makkelijker opspoort of een derde makkelijker een melding maakt.
De regels uit Europa
De EU AI Act regelt verantwoord gebruik van AI in Europa. Artikel 50 van de AI Act stelt transparantieverplichtingen voor vier specifieke situaties.
- Gebruikers moeten weten wanneer ze met een AI-chatbot communiceren.
- Voor wie door AI gemaakte beelden of video’s publiceert, geldt een verplichting om dat zichtbaar kenbaar te maken aan het publiek.
- Diezelfde zichtbare kenbaarmaking geldt voor AI-gegenereerde tekst over zaken van algemeen belang, zoals nieuws of publieke informatievoorziening.
- Aanbieders van generatieve AI-tools, zoals Adobe en OpenAi, moeten hun output technisch markeren zodat detectietools kunnen herkennen dat de content kunstmatig is gegenereerd.
Die vierde verplichting raakt ook gebruiksverantwoordelijken (degene die een AI systeem gebruikt) indirect. Grote platforms zoals OpenAI en Adobe verwerken automatisch een onzichtbare markering in gegenereerde beelden. Maar zodra een bestand intern wordt bewerkt of via een ander systeem verwerkt, kan die markering verloren gaan. De zichtbare markering richting de consument is en blijft de verantwoordelijkheid van de gebruiksverantwoordelijke.
De Omoda-productfoto en de Filippa K-campagnebeelden vallen direct onder deze verplichtingen. Als de Zara-vertaling door een generatief taalmodel was gemaakt, eveneens.
In de praktijk betekent dit dat vrijwel elke organisatie die generatieve AI inzet voor content onder deze verplichting valt. De marketingafdeling die Midjourney gebruikt voor productbeelden, het e-commerce team dat een AI-vertaaltool inzet voor productfeeds, de communicatieafdeling die AI-tools gebruikt voor campagneteksten: in al die gevallen is de transparantieverplichting van toepassing.
De transparantieverplichtingen van Artikel 50 gaan in op 2 augustus 2026, zo blijkt uit de consultatiedocumenten van de Europese Commissie. Vanaf die datum gelden de transparantieverplichtingen voor alle AI-systemen binnen de scope. Voor generatieve AI-systemen die al vóór 2 augustus 2026 op de markt waren, geldt een overgangsperiode tot 2 december 2026 voor de machineleesbare markeringseis. Dit akkoord is op het moment van schrijven nog onder beraad bij de EU-medewetgevers.
Boetes, operationele schade en reputatieverlies
Voor overtredingen van Artikel 50 kunnen toezichthouders boetes opleggen van maximaal 15 miljoen euro of 3% van de wereldwijde jaaromzet, afhankelijk van welk bedrag hoger uitvalt. De handhaving wordt belegd bij nationale markttoezichthouders. In Nederland is dat de Autoriteit Persoonsgegevens samen met andere toezichthouders (afhankelijk van de sector en het type AI-systeem).
De operationele vraag is minstens zo urgent. Wie binnen jouw organisatie controleert AI-output vóór publicatie? Wie bepaalt of een afbeelding, tekst of vertaling gemarkeerd moet worden? Hoe wordt die markering technisch verwerkt? Voor veel bedrijven geldt dat zij dit nu onder tijdsdruk moeten regelen. Een teruggetrokken campagne, een hersteloperatie op een productfeed of een juridisch traject kost meer tijd, geld en organisatiekracht dan een review proces dat vooraf op orde is.
De drie incidenten laten zien dat de reputatieschade zich sneller kan voltrekken dan welk juridisch traject ook. Klanten zien het, delen het en trekken conclusies. Consumentenvertrouwen herstelt langzaam. En in het geval van Filippa K liep het auteursrecht risico gelijk op met het reputatierisico, zonder dat beide volledig te scheiden zijn.
Voldoen aan de EU AI Act
Breng in kaart waar AI-tools worden gebruikt en welke dit zijn. Zonder een actuele AI-inventaris kun je de transparantieverplichting niet operationaliseren. Welke afdelingen zetten welke tools in, voor welke content, en op welke schaal? Dit overzicht is ook de basis voor bredere EU AI Act-compliance, inclusief de risicoklassificatie van AI-systemen.
Stel een intern beleid op voor AI-gegenereerde content. Een werkbaar AI-contentbeleid beantwoordt drie vragen: wie mag welke tools inzetten voor welke doeleinden, welke review stap is vereist vóór publicatie, en hoe wordt de markering verwerkt? Zowel technisch in machine-leesbaar formaat als zichtbaar voor de eindgebruiker waar dat verplicht is.
Zorg dat medewerkers begrijpen wat ze publiceren. Beleid zonder kennis werkt niet. Een marketeer die een AI-tool gebruikt voor productfotografie moet weten wanneer markering verplicht is. Contentmarketeers die een AI-vertaling publiceren moeten begrijpen wat die tool doet en met welke output ze rekening moeten houden. Taalmodellen zoals ChatGPT en Claude begrijpen taal niet, maar passen statistiek toe. Ze berekenen welke woorden waarschijnlijk bij elkaar horen, omdat ze in de trainingsdata ook bij elkaar stonden. Wie dat begrijpt, begrijpt ook waarom controle vóór publicatie geen overbodige luxe is. Al sinds februari 2025 is AI-geletterdheid binnen de organisatie bovendien een zelfstandige verplichting onder Artikel 4 van de EU AI Act.
Veelgestelde vragen
Gelden de transparantieverplichtingen onder de EU AI Act ook voor kleine webshops en het MKB?
Ja. Artikel 50 maakt geen uitzondering op basis van organisatiegrootte. Zodra je generatieve AI inzet voor content die je publiceert, val je onder de verplichting. De boetes zijn proportioneel aan de omzet, maar de eisen zijn voor iedereen dezelfde.
Moet ik altijd vermelden dat een afbeelding of tekst door AI is gemaakt?
Niet altijd. Voor AI-gegenereerde beelden, audio en video geldt een machine-leesbare markeringsplicht. Voor door AI gemaakte beelden of video’s en voor AI-gegenereerde tekst over onderwerpen van algemeen belang geldt bovendien een zichtbare markering richting het publiek. Gebruik je AI alleen als hulpmiddel, bijvoorbeeld voor spellingcontrole of een eerste opzet die je daarna zelf redigeert, dan geldt de verplichting niet.
Wat als ik een AI-tool gebruik van een externe leverancier?
Dan ben jij de gebruiksverantwoordelijke. De aanbieder van de tool heeft eigen verplichtingen, maar dat ontslaat jouw organisatie niet van haar verantwoordelijkheid bij publicatie. In de praktijk betekent dit dat je in contracten met leveranciers borgt dat hun output voldoet aan de machine-leesbare markeringseis.
Is AI-gegenereerde content automatisch een auteursrechtprobleem?
Niet automatisch. Het Filippa K-incident laat wel zien dat AI-output die sterk lijkt op bestaand fotografisch werk aanleiding kan geven tot auteursrechtelijke geschillen. Artikel 50 regelt de transparantieverplichting. Auteursrecht is een aparte juridische dimensie die los daarvan beheerst moet worden.
Wetten en regelgeving voor AI gebruik gelden ook voor jouw organisatie.
Doe de EU AI Act quickscan van Complaiworks om te zien hoe je ervoor staat en ontvang een praktisch rapport.
