De maker van stemhulp Keus.nl heeft deze offline gehaald. De afgelopen tijd was er veel te doen over de stemhulp voor de gemeenteraadsverkiezingen die op kunstmatige intelligentie draaide. De website zou 'hallucineren' (een eigen werkelijkheid verzinnen), en zo onjuiste informatie over partijen verspreiden. Lokale en landelijke politici en experts trokken aan de bel.

Naast het verkeerd presenteren van de standpunten van partijen, 'dacht' de stemhulp dat in gemeenten partijen uit compleet andere delen van het land meedoen aan de lokale verkiezingen op 18 maart. Bijvoorbeeld in Tilburg, waar partijen uit Elburg werden aangeraden. In Waalwijk werd een partij vermeld, die niet aan de verkiezingen meedoet.

In een verklaring op de website schrijft de maker van de stemhulp, die alleen bekend is als 'Mark, 55', dat het op eerste gezicht makkelijk mogelijk leek om met AI een stemhulp te bouwen. "Maar dankzij het 'hallucineren' bleven er onvoorspelbare gaten in de data komen." Ook dreigden partijen en media volgens Mark met juridische stappen.

'Een bende'
ChristenUnie-Kamerlid Mirjam Bikker noemde het 'een bende' en stelde vragen aan de minister. Daarin vraagt ze onder meer of de minister AI-stemhulpen kan laten aanpassen of kan laten stoppen. Ook vraagt ze hoe vaak de stemhulpen die onjuiste informatie geven de afgelopen periode zijn gebruikt. Verder wil ze van de minister weten wie er precies verantwoordelijk voor is en hoe voorkomen wordt dat dit soort stemhulpen kunnen doorgaan.

'Niet blindelings op algoritmes vertrouwen'
"Dit experiment heeft in ieder geval laten zien dat je met weinig middelen een grote impact kunt hebben met AI, maar ook dat je snel tegen ethische en juridische grenzen aanloopt", reflecteert Mark. "Je kunt er niet op bouwen, de techniek staat nog in de kinderschoenen en de vraag is of dat nog zal veranderen."

"Het toeslagenschandaal liet al eerder zien dat je niet blindelings op algoritmes moet vertrouwen, menselijke controle blijft nodig. In Nederland is er nog geen wetgeving, de EU AI Act laat veel ruimte over voor de lidstaten. Werk aan de winkel!", sluit hij af.