Consumentenorganisaties in de EU en de VS roepen op om consumentenrechten centraal te stellen bij de ontwikkeling en implementatie van AI (artificiële intelligentie) en generatieve AI. De organisaties vragen toezichthouders en beleidsmakers in hun land om actie te ondernemen. In Nederland is het de Consumentenbond die de oproep richt aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatsecretaris Van Huffelen (Digitalisering).
Aanleiding voor de oproep is een publicatie van de Noorse consumentenorganisatie Forbrukkeradet (NCC) op 20 juni 2023. Het rapport: ‘Ghost in the machine - Addressing the consumer harms of generative AI’, beschrijft de belangrijkste risico’s van generatieve AI voor consumenten, bijvoorbeeld voor hun veiligheid en privacy. Maar het zet ook uiteen hoe generatieve AI misleiding, manipulatie, discriminatie, fraude en desinformatie kan vergroten.
De consumentenorganisaties die de oproep doen, maken zich zorgen over de rechten en veiligheid van consumenten bij generatieve AI in zijn huidige vorm. Omdat de Europese AI-Act nog niet van kracht is, moeten de toezichthouders de bestaande EU-wetgeving op het gebied van gegevensbescherming, veiligheid en consumentenbescherming gebruiken om te handhaven.
AI kan veel risico’s opleveren voor consumenten. Zo confronteerde Snapchat kinderen recentelijk met My AI. Deze chatbot geeft adviezen die niet zijn afgestemd op de leeftijd van de vragensteller, wat gevaarlijke situaties kan opleveren. Dit voorbeeld en andere voorbeelden van de risico’s van AI staan beschreven in het rapport van de NCC en op Wat is kunstmatige intelligentie (AI)?.
Wat is generatieve AI?
Generatieve AI zijn toepassingen die getraind worden met grote hoeveelheden gegevens en daarmee nieuwe inhoud kunnen genereren, zoals tekst, beeld, spraak en/of geluid. Bekende generatieve AI-diensten zijn ChatGPT, DALL-E, Midjourney en Stable Diffusion. Bedrijven als Microsoft, Google en Snapchat hebben de technologie al verwerkt in hun diensten, zoals zoekmachines, tekstverwerking en chat.
