Nieuws & Tips Europa keurt de nieuwe regels over AI goed: wat betekent dit voor ons?
De nieuweregelgeving over Artificial Intelligence betekent voor ons als gebruikers en consumenten dat we meer transparantie en veiligheid kunnen verwachten van AI-systemen die in Europa worden gebruikt. Bescherming dus tegen mogelijke misbruiken van AI die onze rechten en privacy zouden kunnen schaden. De implementatie van deze regels zal in stappen verlopen. De wetgeving wordt niet in een keer van kracht. De volledige toepassing van de wet gepland staat voor de komende jaren. Daar is voor gekozen zodat instanties en bedrijven die door de regels worden beïnvloed, genoeg tijd zullen krijgen om de nodige aanpassingen te maken.
Categorisatie van AI volgens risiconiveau
AI-systemen worden ingedeeld in vier categorieën op basis van het risico dat ze vormen, variërend van minimaal tot onaanvaardbaar risico. Bijvoorbeeld, AI in spamfilters en videospelletjes wordt als minimaal risico beschouwd en is vrij toegestaan, terwijl AI in zelfrijdende auto's en robotchirurgie als hoog risico wordt gezien en onderworpen wordt aan strenge controle.
Verboden toepassingen
Bepaalde AI-toepassingen worden als onaanvaardbaar risico beschouwd en zijn daarom verboden. Dit zijn systemen die burgers kunnen scoren op basis van hun gedrag (social scoring), realtime gezichts- en emotieherkenning in openbare plaatsen zonder toestemming van de burgers zelf, en AI die wordt gebruikt voor massasurveillance of ongerechtvaardigde profilering.
Transparantie en controle
AI-systemen, vooral die in risicovolle categorieën, moeten transparant en controleerbaar zijn. Ontwikkelaars en gebruikers moeten duidelijk maken wanneer een systeem AI gebruikt, hoe het werkt, en met welke data het getraind is. Voor AI gegenereerde content, zoals beelden of teksten, is het vereist dat deze een vorm van herkenning of "watermerk" heeft zodat gebruikers weten dat het door AI gecreëerd is.
Boetes voor overtredingen
Bedrijven die de regels niet naleven, kunnen te maken krijgen met aanzienlijke boetes, die kunnen oplopen tot €35 miljoen of 7% van de wereldwijde omzet, afhankelijk van de ernst van de overtreding.
Uitzonderingen en testomgevingen voor start-ups
Er zijn bepaalde uitzonderingen mogelijk onder strikte voorwaarden, zoals het gebruik van realtime gezichtsherkenning door politiediensten met toestemming van een rechter. Ook zijn er speciale regelingen voor Europese AI-start-ups, inclusief testomgevingen waar ze hun producten kunnen testen zonder direct risico op zware boetes.
