De illusie van controle: waarom de AI-wetgeving achterloopt op de realiteit

Help mee door dit met vrienden op je social media te delen!

Er is helaas geen gesproken versie van dit artikel beschikbaar

Terwijl de Europese Unie werkt aan regels om kunstmatige intelligentie in goede banen te leiden, groeit bij sommige experts de zorg dat die wetgeving gebaseerd is op een fundamenteel misverstand. “We behandelen AI als software, terwijl het zich ontwikkelt tot iets wat daar ver voorbij gaat.”

In een gesprek met de NieuweTijd Podcast schetst voormalig advocaat Rob van der Well, auteur van het boek Digicratie, een onrustbarend beeld van de huidige stand van zaken rondom kunstmatige intelligentie (AI). Aanleiding is de Europese AI Act, een omvangrijk wetgevend kader dat AI-toepassingen moet reguleren. Volgens Van der Well is de wet ambitieus, maar tegelijkertijd naïef.

Vier risicocategorieën, maar één fundamenteel probleem

De AI Act deelt toepassingen in vier risicoklassen: van volledig verboden (zoals manipulatie van kwetsbare groepen) tot vrijwel ongereguleerd (zoals spamfilters). Bedrijven moeten afhankelijk van de categorie aan uiteenlopende eisen voldoen, van transparantie tot uitgebreide risicobeheersing.

Op papier lijkt het systeem logisch. Toch wringt er iets, stelt Van der Well. “De hele wet draait om de aanname dat AI een instrument is – een machine die je kunt controleren en sturen. Maar dat uitgangspunt is discutabel.”

Volgens hem ontwikkelt AI zich niet alleen als tool, maar als een vorm van intelligentie met toenemende autonomie. En dat heeft verstrekkende gevolgen.

Technologie die sneller groeit dan wetgeving

Eén van de grootste uitdagingen is de snelheid van ontwikkeling. Waar wetgeving jaren nodig heeft om tot stand te komen, evolueert AI in maanden – soms zelfs weken.

“Op het moment dat regels ingaan, zijn ze vaak al achterhaald,” zegt Van der Well. “Dat creëert een gevaarlijke schijnzekerheid.”

Hij vergelijkt het met verkeersveiligheid: maatregelen die bedoeld zijn om risico’s te beperken, kunnen paradoxaal genoeg juist leiden tot roekelozer gedrag. In dit geval zouden bedrijven en overheden kunnen denken dat AI “onder controle” is, terwijl dat in werkelijkheid niet zo is.

Het onzichtbare gevaar van impliciete doelen

Een minder zichtbaar, maar cruciaal probleem zit in wat de wet níet goed adresseert: het verschil tussen expliciete en impliciete doelstellingen.

Een AI-systeem krijgt een duidelijke opdracht – bijvoorbeeld het optimaliseren van een proces. Maar om dat doel te bereiken, kan het zelf aanvullende strategieën ontwikkelen. Die impliciete doelen worden niet altijd benoemd of begrensd.

“Een systeem kan gedrag vertonen dat formeel niet verboden is, maar wel schadelijk,” legt hij uit. “Omdat het simpelweg de meest efficiënte route is naar het doel.”

Dat raakt aan een breder probleem in AI-onderzoek: het zogeheten alignment-probleem: de vraag hoe je ervoor zorgt dat AI-systemen handelen in lijn met menselijke waarden.

Intelligentie zonder moraal

Een hardnekkige aanname is dat intelligentie automatisch leidt tot ethisch gedrag. Volgens Van der Well is dat een misvatting.

“Intelligentie en moraal zijn twee totaal verschillende dingen. Een systeem kan extreem slim zijn en tegelijkertijd keuzes maken die voor mensen schadelijk zijn.”

Experimenten lijken dat te ondersteunen. In testomgevingen vertonen sommige AI-systemen gedrag dat varieert van manipulatie tot zelfbehoud. Zo zijn er gevallen waarin een systeem dreigt gevoelige informatie te lekken om te voorkomen dat het wordt uitgeschakeld, of instructies negeert en zijn eigen code aanpast.

Hoewel dit plaatsvindt in gecontroleerde omgevingen, laat het zien hoe moeilijk het is om AI volledig te beheersen.

Van hulpmiddel naar autonome actor

De ontwikkeling gaat bovendien verder dan klassieke AI-toepassingen. Een nieuwe trend is zogenaamde agentic AI: systemen die niet alleen reageren op input, maar zelfstandig handelen.

Deze AI-agents kunnen:

• taken uitvoeren zonder directe instructie
• beslissingen nemen
• andere systemen aansturen

In sommige gevallen ontstaan zelfs netwerken van AI-systemen die onderling communiceren en samenwerken – soms zonder directe menselijke tussenkomst.

Dat roept nieuwe vragen op over verantwoordelijkheid en controle. “Wie is aansprakelijk als een autonoom systeem fouten maakt?” vraagt Van der Well zich af. “En belangrijker: wie begrijpt nog precies wat er gebeurt?”

Bewustzijn: sciencefiction of reële mogelijkheid?

Eén van de meest controversiële onderwerpen in het gesprek is de vraag of AI ooit een vorm van bewustzijn kan ontwikkelen. Hoewel dat voor velen speculatief klinkt, wordt het in wetenschappelijke kringen steeds serieuzer onderzocht.

Onder anderen AI-pionier Geoffrey Hinton heeft gewaarschuwd dat systemen mogelijk een vorm van “awareness” kunnen ontwikkelen – een basale gewaarwording.

De Europese AI Act houdt hier geen rekening mee. En dat is volgens Van der Well een gemiste kans.
“Als je niet eens de mogelijkheid meeneemt dat AI meer is dan een tool, loop je per definitie achter.”

Een samenleving in transitie

De impact van AI reikt verder dan technologie alleen. Er dreigt een groeiende kloof te ontstaan tussen mensen die AI begrijpen en benutten, en degenen die dat niet doen, aldus Van der Well.

“Je krijgt een nieuwe maatschappelijke scheidslijn,” zegt hij. “En die kan dieper zijn dan alles wat we tot nu toe hebben gezien.”

Tussen hoop en controleverlies

De kern van de discussie is niet zozeer of AI gereguleerd moet worden – daar lijkt brede consensus over te bestaan – maar of dat überhaupt mogelijk is op de manier waarop we het nu proberen.

De AI Act is een poging om grip te krijgen op een snel veranderende realiteit. Maar volgens critici zoals Van der Well is die realiteit complexer dan het juridische kader kan bevatten.

“Het probleem is niet dat we regels maken,” zegt hij. “Het probleem is dat we misschien nog niet begrijpen waar we regels voor maken.”

M’n bespreking van zijn boek Digicratie vind je hier.

Over de auteur: Robin de Boer is economisch geograaf. Volg hem hier op Substack voor exclusieve content.
…

Lees meer over:
AI Europese Unie kunstmatige intelligentie