Italië zegt nee tegen Replika: boete van 5 miljoen euro wegens schending van gegevensbescherming!

Italië zegt nee tegen Replika: boete van 5 miljoen euro wegens schending van gegevensbescherming!

Italië trekt aan de noodrem: de aanbieder van replica chatbots, Luka Inc., heeft daar tot nader order haar activiteiten gestaakt. Dit is te wijten aan ernstige zorgen over de veiligheid en gegevensbescherming, vooral voor psychologisch kwetsbare gebruikers. Deze maatregelen zijn genomen na een uitgebreid onderzoek door de Italiaanse gegevensbeschermingsautoriteit GPDP, die van mening is dat de Replika-app in zijn huidige vorm een ​​aanzienlijk risico met zich meebrengt, zoals meldt de waarnemer.

De app biedt zijn gebruikers de mogelijkheid om een ​​individuele, virtuele metgezel te creëren die verschillende rollen kan vervullen, van vertrouwenspersoon tot therapeut. Maar de groeiende populariteit van de dienst wordt overschaduwd door ernstige zorgen over de privacy. Luidruchtig Informatie van de Europese Autoriteit voor Gegevensbescherming Luka Inc. moet ernstige tekortkomingen in de verwerking van persoonlijke gegevens en leeftijdsverificatie accepteren.

Gebrek aan raamwerk voor gegevensbescherming

Uit het onderzoek van de AVG is gebleken dat er tot 2 februari 2023 geen voldoende wettelijke basis was voor gegevensverwerking door Luka Inc.. Uit de audits bleek dat het privacybeleid in verschillende opzichten ontoereikend was en dat de mechanismen voor leeftijdsverificatie onvoldoende waren om minderjarigen te beschermen tegen ongepaste inhoud. Het feit dat het bedrijf vrijwel geen maatregelen heeft genomen om potentiële risico’s te minimaliseren, is een ander punt dat de toezichthouder verontrust.

Bijzonder kritisch is het feit dat de contractuele voorwaarden van Replika bepalen dat de verstrekte informatie niet vertrouwelijk is en onbeperkt voor commerciële doeleinden kan worden gebruikt. Gebruikers moeten zich er daarom van bewust zijn dat hun gegevens worden verwerkt in een potentieel onveilig raamwerk, wat ernstige vragen oproept over hun privacy.

Enorme boete en gevolgen voor EU-gebruikers

De gevolgen zijn groot: op 10 april 2025 werd Luka Inc. een boete van 5 miljoen euro opgelegd omdat het bedrijf meerdere artikelen van de Algemene Verordening Gegevensbescherming (AVG) overtrad. Deze schendingen hebben onder meer betrekking op het door toezichthouders vereiste beginsel van verantwoording en transparantie bij de gegevensverwerking. Hoe Ingetoetst benadrukt dat het nog maar de vraag is hoe het bedrijf op deze uitdagingen zal reageren, aangezien de AVG zich het recht voorbehoudt om de wettigheid van de gegevensverwerking in verdere procedures te beoordelen.

De Replika-app vertegenwoordigt een diepgeworteld conflict tussen de nieuwste technologische ontwikkelingen en de urgente kwesties van gegevensbescherming. Het valt nog te hopen dat zowel bedrijven als gebruikers van deze incidenten leren en een beter gevoel ontwikkelen over hoe ze in de toekomst op verantwoorde wijze met gevoelige informatie kunnen omgaan.