AI: Meer automatisering dan apocalyps, zegt taalkundige Emily Bender

FFrits 26 augustus 2023 07:37

Emily Bender, taalkundige en hoogleraar aan de Universiteit van Washington, weerlegt de doemscenario's over kunstmatige intelligentie. Ze benadrukt dat AI meer een vorm van automatisering en synthetisering is dan een existentiële bedreiging voor de mensheid. Ze is kritisch over de AI-hype en noemt de verontrustende berichten over AI meer marketing dan realiteit.

AI: Automatisering, geen apocalyps

Emily Bender is een taalkundige en hoogleraar aan de Universiteit van Washington in Seattle. Ze is sceptisch over de doemscenario's van AI, waarbij machines bewustzijn ontwikkelen en de mensheid met uitsterven bedreigen. In plaats daarvan ziet ze AI als een uitgebreide en complexe vorm van automatisering. Ze is ook kritisch over de AI-hype die wordt aangewakkerd door grote bedrijven die AI ontwikkelen, en stelt dat dit vooral dient als marketingstrategie.

ChatGPT: Risico's van informatievervuiling

Bender is van mening dat AI-systemen zoals ChatGPT, een chatbot die menselijke taal nabootst, weliswaar geen doodsbedreiging vormen, maar wel aanzienlijke schade kunnen aanrichten. Deze systemen kunnen informatie-ecosystemen vervuilen door onjuiste of verkeerd geïnterpreteerde informatie te verspreiden. Dit kan ernstige gevolgen hebben wanneer mensen handelen op basis van deze verkeerde informatie.

Een belangrijk instrument dat Bender gebruikt om haar ideeën over AI te verspreiden, is het gebruik van dierlijke metaforen. Zo introduceerde ze het concept van de 'stochastische papegaai', een denkbeeldige vogel die woorden achter elkaar zet op basis van waarschijnlijkheid, zonder echt te begrijpen wat het zegt. Deze metafoor illustreert treffend hoe chatbots zoals ChatGPT werken: ze genereren menselijk lijkende tekst, maar missen het vermogen om de betekenis van de woorden die ze gebruiken te begrijpen.

De noodzaak van AI-regulering

Naast haar kritiek op de huidige staat van AI, benadrukt Bender ook het belang van wettelijke regulering om de rechten van burgers te beschermen. Ze is van mening dat regulering niet van bedrijven zelf moet komen, maar van de overheid. Ze verwerpt het argument dat technologische ontwikkelingen te snel gaan voor regulering, en stelt dat overheden de plicht hebben om de rechten van hun burgers te beschermen, ondanks de voortdurend veranderende technologische landschap.

Een ander belangrijk punt dat Bender benadrukt, is het misleidende taalgebruik in gesprekken en artikelen over AI. Ze stelt dat termen als 'begrijpen' en 'antwoorden' menselijk bewustzijn en begrip impliceren, wat misleidend is bij het beschrijven van AI-systemen. In plaats daarvan benadrukt ze dat AI-systemen simpelweg tekst genereren op basis van ingebouwde algoritmen, zonder enig echt begrip of bewustzijn.

Meer artikelen

Lees ook

Hier zijn een aantal interessante artikelen op andere sites uit ons netwerk.