Hersignalen stellen AI in staat verkeerd begrepen doelen en acties te detecteren

Een interdisciplinair team van onderzoekers van het Korea Advanced Institute of Science and Technology (KAIST) en Microsoft Research Asia heeft een baanbrekende benadering geïntroduceerd die ze Neural Value Alignment noemen. Deze methode geeft een kunstmatig intelligentiesysteem de mogelijkheid om twee verschillende soorten foutsignalen te herkennen die door de hersenen van een mens worden opgewekt terwijl die naar de AI kijkt, zonder dat er sprake is van verbale feedback, knoppen of expliciete correctie.

Het hart van het systeem bestaat uit elektro-encefalografie (EEG), een niet‑invasieve meetmethode die de elektrische activiteit van de hersenschors registreert via een cap met elektroden. De deelnemers aan de experimenten hoefden alleen maar de AI te observeren terwijl deze taken uitvoerde; hun hersensignalen werden vervolgens in realtime vastgelegd en geanalyseerd.

Doelfouten onderscheiden van actiefouten

De onderzoekers hebben twee neurale handtekeningen geïdentificeerd. Een reward prediction error ontstaat wanneer de AI een verkeerd einddoel nastreeft, wat aangeeft dat het resultaat dat de gebruiker voor ogen heeft verschilt van wat het systeem probeert te bereiken. Een state prediction error daarentegen verschijnt wanneer het doel correct is geïnterpreteerd, maar de gekozen actiereeks onverwacht of ongewenst is.

Deep‑learning‑modellen die op de verzamelde EEG‑data zijn getraind, decoderen deze patronen met een snelheid die geschikt is voor realtime toepassingen. Zodra het type fout is vastgesteld, wordt deze informatie teruggevoerd naar een gesimuleerde AI‑controller, die het doelzoekproces opnieuw start of het actieplan aanpast zonder menselijke tussenkomst.

Prestaties in gesimuleerde omgevingen

In een reeks gecontroleerde simulaties bleek de Neural Value Alignment‑methode zich sneller aan te passen dan de traditionele basismethoden. Het voordeel was het grootst wanneer het doel van de gebruiker plotseling veranderde of wanneer delen van de neurale feedback opzettelijk werden weggelaten, een situatie die het verlies van signalen in de echte wereld nabootst.

De experimenten benadrukten ook hoe de methode omgaat met ambiguïteit tussen doel en actie. Dezelfde waarneembare beweging kan meerdere doelen dienen, en één doel kan op vele verschillende manieren worden gerealiseerd. Door de foutsignalen van de hersenen te lezen, kan de AI deze scenario’s ontcijferen zonder dat expliciete labels nodig zijn.

Mogelijke toepassingen

• Huishoud‑ en industriële robots die taken on‑the‑fly aanpassen
• Autonome voertuigen die de intentie van de passagier herinterpreteren
• Revalidatie‑ en medische robots die reageren op ongemak van de patiënt
• Educatieve software die interactiestrategieën personaliseert

Deze scenario's blijven voorlopig speculatief. De auteurs van het artikel in IEEE Transactions on Cybernetics, online gepubliceerd in augustus 2026 onder DOI 10.1109/TCYB.2026.3722605, presenteren ze als toekomstige onderzoekslijnen in plaats van als bewezen implementaties.

Beperkingen en open vragen

Ondanks veelbelovende resultaten in simulaties blijven er aanzienlijke praktische obstakels. EEG‑signalen zijn van nature ruisachtig en vereisen gespecialiseerde caps en versterkers, wat vragen oproept over het draagcomfort in alledaagse situaties. Bovendien wordt de privacy van hersengegevens in dit onderzoek niet behandeld, en de betrouwbaarheid buiten laboratoriumomstandigheden blijft onzeker.

De onderzoekers geven toe dat de huidige bevindingen gebaseerd zijn op streng gecontroleerde experimenten en dat de robuustheid in de echte wereld sterk afhankelijk zal zijn van vooruitgang in draagbare EEG‑hardware, geavanceerde signaalverwerkingsalgoritmen en ethische kaders voor het omgaan met neurale informatie.

Voor organisaties die AI‑assistenten inzetten, zou de technologie uiteindelijk de noodzaak van expliciete correctie‑interfaces kunnen verminderen. In plaats van op een ‘opnieuw‑doen’-knop te drukken of een commando te herformuleren, kan een vluchtige hersenreactie de gebruiker begeleiden om het systeem weer op koers te brengen, waardoor workflows versneld worden en de wrijving in mens‑machine‑samenwerking afneemt.

Echter, elke implementatie zal moeten afwegen tussen het voordeel van naadloze correctie en de kosten van het uitrusten van medewerkers met EEG‑apparatuur, evenals het waarborgen van hun neurale privacy. Tot die uitdagingen zijn opgelost, blijft Neural Value Alignment een intrigerend onderzoeksprototype en geen kant‑klaar product.

In Seoul, waar KAIST en Microsoft Research Asia hun laboratoria delen, wordt al gewerkt aan de volgende generatie draagbare EEG‑caps die minder intrusief zijn en langere draagduur mogelijk maken. Deze lokale ontwikkelingen geven hoop dat de technologie binnen enkele jaren de eerste praktische tests buiten het lab kan doorstaan.