Europa stelt voorwaarden voor Artificial Intelligence

Allereerst zal de AI-verordening dezelfde definitie van artificiële intelligentie hanteren als de OESO in haar Recommendation on Artificial Intelligence. De verordening zet in op het risicobeheer van AI, op basis van het credo “des te hoger het risico, des te strenger de regels”. De verordening maakt onderscheid tussen vier risiconiveaus:

• onaanvaardbaar risico
• hoog risico
• beperkt risico
• minimaal risico

De verordening is niet van toepassing buiten de EU rechtsgebieden, noch van invloed op de bevoegdheden van lidstaten over nationale veiligheid, defensie, of het leger. Ook zijn AI-systemen gevrijwaard wanneer ze enkel voor onderzoek en innovatie worden ingezet.

Verboden AI-toepassingen

Het akkoord van 9 december breidt het aantal verboden AI toepassingen uit. Deze lijst bestaat uit verboden tot invoer of gebruik van:

• Biometrische categoriseringssystemen met gevoelige factoren (politieke, religieuze, filosofische overtuigingen, seksuele oriëntatie, ras)
• Ongerichte verzameling van gezichtsopnames vanaf het internet of bewakingscamerabeelden om gezichtsherkenningsdatabases uit samen te stellen
• Emotieherkenning in werk- en onderwijsomgevingen
• Sociaalkredietsystemen op basis van sociaal gedrag of persoonlijke eigenschappen;
• AI-systemen ter manipulatie van menselijk gedrag
• AI ingezet ter uitbuiting van menselijke kwetsbaarheid (leeftijd, beperking, sociale of economische situatie)

De verordening laat één uitzondering toe. Handhavingsautoriteiten mogen biometrische identificatiesystemen zeer restrictief inzetten in de openbare ruimte, namelijk voor een specifieke lijst aan strafbare feiten. Bovendien moeten zij hiervoor voorafgaande goedkeuring verkrijgen van de rechterlijke macht.

Nieuwe Europese organen voor AI

Met het nieuwe akkoord worden drie nieuwe organen opgericht. Als eerst zal er een AI-kantoor binnen de Europese Commissie worden opgericht. Dit kantoor zal dienen ter ondersteuning van de implementatie in lidstaten tezamen met de nationale marktautoriteiten en standaarden en testpraktijken helpen ontwikkelen voor de meest geavanceerde AI-modellen.

Het tweede orgaan is een panel van onafhankelijke experts die het AI-kantoor van advies moeten voorzien over evaluatiemethodes voor de mogelijkheden van foundation modellen, over de aanwijzing en opkomst van foundation modellen met een groot effect, en door veiligheidsrisico’s verbonden aan deze modellen te monitoren.

Ten derde versterkt een AI-raad bestaande uit lidstaatsvertegenwoordigers de rol van Lidstaten in de implementatie van de verordening. Deze raad dient als coördinatieplatform en adviseur voor de Commissie.

Bent u benieuwd of uw organisatie AI toepast in de bedrijfsvoering en wat de risico's hiervan kunnen zijn? Neem dan contact met ons op en wij helpen u graag door middel van onze Cyber RI&E!

Cyber RI&E