De Europese Unie heeft een grote stap voorwaarts gezet in het reguleren van kunstmatige intelligentie (AI). Met de recente goedkeuring van de AI-wetgeving door het Europees Parlement, zet Europa zich op als een mondiale leider op het gebied van AI-regulering. Deze wet is ontworpen om zowel innovatie te bevorderen als de veiligheid van burgers te waarborgen tegen risicovolle AI-toepassingen. De regelgeving stelt duidelijke verplichtingen voor AI-systemen op basis van hun potentiële risico’s en impact.
Wat betekent deze nieuwe AI-wetgeving precies? Het verbiedt bepaalde toepassingen van AI die de rechten van burgers bedreigen, waaronder systemen voor biometrische categorisering en emotieherkenning op de werkvloer en scholen.
Bescherming van Fundamentele Rechten
Verboden Toepassingen van AI
De nieuwe AI-regelgeving verbiedt toepassingen die de rechten van de burgers in gevaar kunnen brengen. Dit omvat onder andere biometrische herkenningssystemen op basis van gevoelige kenmerken en het systematisch verzamelen en analyseren van gegevens zonder doelgerichte toestemming. Meer hierover lees je hier. Ook AI die sociaal gedrag manipuleert of misbruik maakt van kwetsbaarheden van mensen, wordt verboden.
Een ander belangrijk aspect is de strikte beperkingen op het gebruik van biometrische identificatiesystemen door wetshandhavers. Deze mogen enkel onder nauwkeurig omschreven situaties worden ingezet, zoals bij het zoeken naar een vermiste persoon of het voorkomen van een terroristische aanslag, mits er aan strikte voorwaarden voldaan wordt.
Transparantie en Verantwoordelijkheid
Een ander speerpunt van de nieuwe wet is de transparantie van AI-systemen. AI-systemen die voor algemene doeleinden worden ingezet, moeten voldoen aan specifieke transparantie-eisen. Dit houdt in dat zij gedetailleerde samenvattingen moeten publiceren van de inhoud die voor training wordt gebruikt. Bovendien moeten krachtige AI-modellen die systeemrisico’s kunnen vormen, aan aanvullende eisen voldoen, zoals het evalueren van modellen en het rapporteren van incidenten. Lees hier meer over de transpareantie-eisen.
Verplichtingen voor Hoogrisicosystemen
Het Beheersen van Risico’s
Hoogrisicosystemen dienen zorgvuldig risico’s te beoordelen en te verminderen. Dit omvat kritieke infrastructuur, onderwijs, gezondheidszorg en justitie. Het is essentieel dat deze systemen regelmatig worden gecontroleerd op transparantie en nauwkeurigheid en dat er menselijke supervisie wordt gegarandeerd. Burgers krijgen het recht om klachten in te dienen over AI-systemen en uitleg te krijgen over beslissingen die hun rechten beïnvloeden. Lees hier meer over de verplichtingen voor hoogrisicosystemen.
Ondersteuning voor Innovatie en KMO’s
De wetgeving stimuleert innovatie door middel van “regulatory sandboxes” waarin KMO’s en start-ups innovatieve AI kunnen ontwikkelen en testen voordat deze op de markt wordt gebracht. Deze benadering biedt bedrijven de mogelijkheid om onder begeleiding nieuwe technologieën te introduceren, terwijl ze voldoen aan de regelgeving.
De nieuwe regels stellen ook de richtlijnen voor misleidende AI-inhoud, zoals “deepfakes” die duidelijk gelabeld moeten worden om manipulatie te voorkomen. Meer details over de deepfake regelgeving vind je hier.
Implementatie en Toekomstige Stappen
Juridische Controle en Goedkeuring
De AI-wetgeving is nog onderhevig aan een laatste juridisch-linguïstische controle en zal naar verwachting voor het einde van de zittingsperiode officieel worden aangenomen. Na publicatie zal de wet 20 dagen later in werking treden, met volledige toepasbaarheid binnen 24 maanden. De details van de implementatie zijn cruciaal voor een soepele overgang en naleving.
Het Pad naar Implementatie
Er moeten nationale “regulatory sandboxes” worden opgezet die toegankelijk zijn voor KMO’s en start-ups. Dit stelt bedrijven in staat om innovatieve ideeën in een gecontroleerde omgeving te ontwikkelen. Europa heeft hiermee een kader gecreëerd dat innovatie bevordert terwijl het tegelijkertijd fundamentele waarden beschermt.
Het AI-kantoor zal worden opgericht om bedrijven te ondersteunen bij het naleven van de nieuwe regels voordat deze van kracht worden. Hiermee zet Europa een cruciale stap in het vormgeven van een technologisch beleid dat gebaseerd is op Europese waarden.
Het waarborgen van Europese waarden en menselijke supervisie staat centraal bij de ontwikkeling en toepassing van AI-technologieën, zoals benadrukt in de AI-verordening.
