AI‑gegenereerd bulk‑e‑mailscript lekt 95.364 klantadressen van Bee Cheng Hiang

In april 2026 gebruikte een medewerker van de Singaporese vlees‑snackproducent Bee Cheng Hiang een generatief AI‑instrument om een Python‑script te schrijven dat een marketingcampagne via SendGrid zou versturen. De prompt aan de AI vroeg om een massmail‑oplossing die adressen uit een interne lijst zou halen, maar specificeerde niet dat de ontvangers verborgen moesten blijven.

De AI‑gegenereerde code plaatste elke batch e‑mailadressen in het standaard “Aan”‑veld in plaats van blind carbon copy (BCC) te gebruiken. Daardoor kon iedere ontvanger in een batch de volledige lijst van andere ontvangers zien.

Omvang van de inbreuk

Toen het script werd ingezet, werd het marketingbericht naar 95.364 verschillende klantadressen verzonden. De gelekte gegevens bestonden uitsluitend uit e‑mailadressen; wachtwoorden, betaalgegevens of de inhoud van de berichten bleven onaangetast.

De medewerker had tijdens het testen de activiteitslogboeken bekeken, maar geen test‑e‑mail geopend om de daadwerkelijke ontvangerslijst te verifiëren. Hierdoor bleef de zichtbaarheidsfout onopgemerkt totdat de bulk‑distributie al in gang was.

Regelgevende reactie

De Personal Data Protection Commission (PDPC) van Singapore classificeerde het incident als de eerste AI‑gerelateerde datalek die bij de autoriteit werd gemeld. De toezichthouder benadrukte dat de inbreuk werd veroorzaakt door menselijke fout bij de ontwikkeling en uitrol van het script, niet door een defect van de AI‑tool zelf.

De PDPC merkte op dat de gelekte data niet door een AI‑systeem waren verwerkt of gegenereerd, wat bevestigt dat de breuk voortkwam uit het gebruik van AI‑ondersteunde code en niet uit een intrinsiek risico van de technologie.

Herstelacties van Bee Cheng Hiang

• Onmiddellijk de bulk‑e‑maildistributie stopgezet
• Het script aangepast om BCC voor alle ontvangersbatches af te dwingen
• Alle getroffen klanten geïnformeerd via een speciale e‑mail en een openbare verklaring
• Een dual‑verificatiebeleid ingevoerd dat vereist dat ten minste twee medewerkers elke bulkcommunicatie goedkeuren voordat deze wordt verzonden

De PDPC vond geen bewijs dat de gelekte adressen later voor phishing‑ of spam‑campagnes waren gebruikt. In plaats van een financiële boete op te leggen, accepteerde de commissie een vrijwillige toezegging van Bee Cheng Hiang om haar gegevensbeschermingspraktijken te versterken.

In haar besluit adviseerde de toezichthouder organisaties om een gegevensbeschermings‑impactanalyse uit te voeren bij het inzetten van AI‑ondersteunde tools, duidelijke beleidsregels voor AI‑gebruik op te stellen en tests uit te voeren die de daadwerkelijke uitvoer – niet alleen logboeken – controleren voordat code live gaat.

De gebeurtenis toont aan dat het gebruik van generatieve AI voor het schrijven van productieve code een extra laag van complexiteit toevoegt aan de bestaande risico‑analyse van gegevensverwerking. Hoewel de AI‑tool zelf geen fout maakte, heeft de onvolledige specificatie in de prompt een functionele tekortkoming gecreëerd die pas zichtbaar werd bij de daadwerkelijke uitvoering van het script. Dit onderstreept dat elke AI‑gegenereerde oplossing moet worden onderworpen aan dezelfde strenge eisen als handmatig geschreven code, met name wanneer persoonsgegevens in het spel zijn. Een grondige beoordeling van de functionele output, inclusief een controle van e‑mail‑headers, is essentieel om onvoorziene blootstellingen te voorkomen.

De beperkingen van de initiële testprocedure werden duidelijk toen de medewerker alleen de logbestanden bekeek en geen realistische test‑e‑mail verstuurde. Deze aanpak negeerde een fundamenteel verificatiemoment: het daadwerkelijke gedrag van de verzonden berichten. Zonder een test‑run waarin een gecontroleerde set ontvangers de e‑mail‑inhoud en -adressen konden inspecteren, bleef de fout onopgemerkt. Het ontbreken van een verplichte BCC‑instelling in de testomgeving illustreert hoe een klein configuratie‑detail kan leiden tot een grootschalige privacy‑schending.

De reactie van de toezichthouder benadrukt dat de verantwoordelijkheid voor een datalek primair bij de organisatie ligt, zelfs wanneer AI‑ondersteuning wordt ingezet. De classificatie als een AI‑gerelateerd incident betekent dat regelgevende instanties de nadruk leggen op de menselijke besluitvorming en de governance rondom AI‑gebruik, in plaats van op de technische eigenschappen van de AI‑tool zelf. Hierdoor ontstaat een precedent waarin organisaties niet alleen moeten aantonen dat hun AI‑modellen veilig zijn, maar ook dat hun interne processen en controles robuust genoeg zijn om fouten in door AI gegenereerde code te detecteren en te corrigeren.

De genomen herstelacties van Bee Cheng Hiang, zoals het stopzetten van de bulk‑mailcampagne en het aanpassen van het script om BCC af te dwingen, vormen een directe mitigatie van de geïdentificeerde kwetsbaarheid. Het invoeren van een dual‑verificatiebeleid en de verplichting tot peer‑review voegen een extra controlemechanisme toe dat de kans verkleint dat soortgelijke fouten in de toekomst onopgemerkt blijven. Deze maatregelen illustreren hoe een incident kan worden omgezet in een leerpunt, waarbij zowel technische als organisatorische verbeteringen worden geïmplementeerd.

De aanbevelingen van de PDPC om een gegevensbeschermings‑impactanalyse (DPIA) uit te voeren bij het inzetten van AI‑ondersteunde tools, onderstrepen het belang van een proactieve benadering van privacy‑risico’s. Een DPIA dwingt organisaties om potentiële impact op persoonsgegevens te evalueren voordat een AI‑systeem in productie gaat, en om mitigatiestrategieën te definiëren. Het opnemen van duidelijke beleidsregels voor AI‑gebruik, inclusief verplichte testscenario’s die de uiteindelijke output verifiëren, zorgt voor een systematische aanpak die zowel technische als operationele risico’s adresseert.

Voor Nederlandse organisaties biedt dit incident een concrete illustratie van de noodzaak om AI‑gegenereerde code te behandelen als elke andere productieve software, met volledige test‑ en reviewcycli. Het implementeren van geautomatiseerde controles op e‑mail‑headers, het instellen van een verplicht BCC‑beleid en het vereisen van twee‑persoon goedkeuring voor bulkcommunicaties verminderen de kans op onbedoelde openbaarmaking van persoonsgegevens. Bovendien versterkt een cultuur van continue monitoring en periodieke audits de weerbaarheid tegen zowel menselijke fouten als onverwachte AI‑gedragingen, wat leidt tot een meer robuuste bescherming van klantgegevens.

Voor Nederlandse organisaties onderstreept dit incident het belang van concrete verificatiestappen wanneer AI operationele code genereert. Alleen log‑reviews zijn onvoldoende; functionele fouten kunnen alleen zichtbaar worden in de echte output. Peer‑review, geautomatiseerde testen van e‑mail‑headers en een verplicht BCC‑beleid helpen soortgelijke blootstelling van persoonsgegevens te voorkomen.