Europees Parlement keurt wetgeving over AI goed

Het Europees Parlement heeft haar tekst over de AI Act voor de triloogfase met een ruime meerderheid goedgekeurd. Deze verordening, ook wel bekend als de AI Act, reguleert de ontwikkeling, het gebruik en de verkoop van kunstmatige systemen. Wat betekent deze nieuwe regelgeving?

De AI Act

De Europese Commissie legt in dit voorstel wetgeving neer voor een gecoördineerde Europese aanpak van de menselijke en ethische implicaties van AI. Ook worden er twee doestellingen mee behaald, namelijk het bevorderen van de invoering van AI en de risico’s van bepaalde toepassingen van dergelijke technologie aanpakken.

De Commissie hanteert een op risico gebaseerde aanpak waarbij een onderscheid wordt gemaakt tussen AI-toepassingen die een onaanvaardbaar risico, een hoog risico, en een laag of minimaal risico met zich meebrengen.

Onaanvaardbaar risico

Deze toepassingen worden verboden. Het zijn AI-systemen die sommige mensen te ver vinden gaan, zoals gezichtsherkenningstechnologie in de openbare ruimte en sociale scores door autoriteiten. Ook vallen systemen die een aanzienlijk potentieel hebben om mensen, zonder dat ze daarvan bewust zijn, te manipuleren of misbruik te maken van kwetsbare groepen. Ook systemen die het gedrag van mensen op zo’n manier verstoren dat ze hen of anderen psychisch of fysiek letsel kunnen toebrengen vallen onder deze categorie.

Hoog risico

Hieronder komen specifieke regels voor AI-systemen die een hoog risico voor de gezondheid en veiligheid, of de fundamentele rechten van natuurlijke personen bevatten. Enkele voorbeelden zijn:

• AI voor rechtspleging en democratische processen;
• AI voor biometrische identificatie en categorisatie van natuurlijke personen;
• toegang tot en verlening van essentiële publieke en private diensten.

Aanbieders van deze AI-systemen moeten aan strenge eisen voldoen, waaronder een systeem voor kwaliteitsbeheer, technische documentatie en ze moeten een conformiteitsbeoordeling uit laten voeren.

Laag risico en minimaal risico

Denk hierbij aan chatbots en spamfilters. Hier zijn enkel fundamentele vereisten voor transparantie aan verbonden.

AI en e-commerce

Omdat de verordening nog niet definitief is, kunnen we nog niet precies zeggen wat dit voor jou als webshop gaat betekenen. Maar onder de verschillende risiconiveaus vallen ook verplichtingen voor de gebruiker. Wanneer jij als webshop gebruikmaakt van een AI-techniek, dan ben jij de gebruiker.

Voor hoog risico AI-systemen moet je aan meer eisen voldoen dan aan laag risico-systemen. Zo ben je bij hoog risico verantwoordelijk voor het menselijk toezicht. Bij ernstige defecten of slecht functionerende AI-toepassingen moet je dit terugkoppelen aan de ontwikkelaar.

Voor generatieve AI-systemen, zoals ChatGPT en Midjourney, gaan transparantie-eisen gelden. Je moet duidelijk weergeven dat de content door een AI is gecreëerd.

Vervolg

Het Parlement heeft 13 juni akkoord gegeven op het voorstel. Zij zijn, samen met de Commissie en de Raad, dezelfde avond de trioloogfase begonnen. In deze fase zal het definitieve voorstel worden aangenomen en kan de AI Act in werking treden. Daarna zullen de regels (pas) 24 maanden later van toepassing zijn. Waarschijnlijk zal het tot 2026 duren voordat de daadwerkelijke regels ingaan.

Altijd op de hoogte door de
Public Affairs & Legal Update

Met onze tweewekelijkse Public Affairs & Legal Update blijf je op de hoogte van alles rondom onze standpunten, de ontwikkeling in de politiek en mis je de nieuwste wet- en regelgeving niet.

Ik meld me aan