Groeiende Bezorgdheid over AI Risico's: Oproep voor Meer Toezicht en Transparantie

FFrits 19 december 2023 07:01

De Autoriteit Persoonsgegevens waarschuwt voor een sterke toename in de risico's verbonden aan kunstmatige intelligentie (AI). Er is een dringende oproep voor beter toezicht, meer transparantie en een beter begrip van AI en algoritmen binnen de samenleving.

Stijgende risico's door generatieve AI

De Autoriteit Persoonsgegevens uit zijn bezorgdheid over de toenemende risico's die verbonden zijn aan het gebruik van kunstmatige intelligentie (AI). Met name de opkomst van generatieve AI, technologie die tekst, afbeeldingen of foto's genereert op basis van een opdracht, is een onderwerp van zorg. Dit kan leiden tot oneerlijke uitkomsten, discriminatie of zelfs fysieke risico's voor individuen.

Explosieve toename van AI-incidenten

Het rapport van de Autoriteit Persoonsgegevens haalt een sterke toename aan van het aantal geregistreerde AI-incidenten. Volgens wereldwijde gegevens van de Organisatie voor Economische Samenwerking en Ontwikkeling is dit aantal vertienvoudigd. Dit wordt echter beschouwd als slechts het topje van de ijsberg, omdat er geen specifieke Nederlandse gegevens beschikbaar zijn.

In een poging de opkomst en de impact van AI en algoritmen beter te beheersen, pleit de Autoriteit Persoonsgegevens voor het opstellen van een Deltaplan voor 2030. Dit plan zou bedoeld zijn om mensen die met AI werken, zoals politieagenten, docenten en artsen, beter te ondersteunen. Het doel is dat zij de werking, de sterke en de zwakke punten van AI en algoritmen beter begrijpen.

Begrip en transparantie in AI-besluitvorming

Een belangrijk aspect van het Deltaplan is dat burgers moeten kunnen begrijpen hoe een beslissing van een AI-systeem tot stand komt. Dit zou bijdragen aan een grotere transparantie en controle over AI-systemen. Daarnaast wordt de komst van de Europese AI Act door de toezichthouder gezien als een belangrijke mijlpaal op weg naar beter toezicht en regulering van AI.

Desondanks wordt erkend dat het toezicht op AI in Nederland nog in de kinderschoenen staat. Het coördinerende AI-team binnen de Autoriteit Persoonsgegevens bestaat momenteel uit slechts zeven personen. Er wordt echter benadrukt dat dit pionierswerk is en dat het team een van de eerste in Europa is. Volgend jaar is het plan om dit team te verdubbelen.

Meer artikelen

Lees ook

Hier zijn een aantal interessante artikelen op andere sites uit ons netwerk.