Italien sagt Nein zu Replika: 5 Millionen Euro Bußgeld für Datenschutzverstöße!
Italien hat Luka Inc., Betreiber des Chatbots Replika, mit einer Geldstrafe von 5 Millionen Euro wegen Datenschutzverletzungen belegt.
Italien sagt Nein zu Replika: 5 Millionen Euro Bußgeld für Datenschutzverstöße!
Italien zieht die Notbremse: Der Anbieter von Replika-Chatbots, Luka Inc., hat sein Geschäft dort bis auf Weiteres eingestellt. Grund dafür sind ernste Bedenken hinsichtlich der Sicherheit und des Datenschutzes, insbesondere für psychisch verletzliche Nutzer. Diese Maßnahmen wurden nach einer umfassenden Untersuchung durch die italienische Datenschutzbehörde GPDP eingeleitet, die der Meinung ist, dass die Replika-App in ihrer derzeitigen Form ein erhebliches Risiko darstellt, wie der Beobachter berichtet.
Die App bietet ihren Nutzern die Möglichkeit, einen individuellen, virtuellen Begleiter zu erstellen, der verschiedene Rollen übernehmen kann, von einem Vertrauten bis hin zu einem Therapeuten. Doch die wachsende Beliebtheit des Dienstes wird von ernsthaften datenschutzrechtlichen Bedenken überschattet. Laut Informationen der Europäischen Datenschutzbehörde muss Luka Inc. schwere Mängel in der Verarbeitung personenbezogener Daten und in der Altersverifikation hinnehmen.
Fehlender datenschutzrechtlicher Rahmen
Die Ermittlungen der GPDP haben aufgezeigt, dass bis zum 2. Februar 2023 keine ausreichenden rechtlichen Grundlagen für die Datenverarbeitung durch Luka Inc. gegeben waren. Die Prüfungen ergaben, dass die Datenschutzerklärung in mehreren Punkten unzureichend war, und die Altersverifikationsmechanismen nicht ausreichten, um Minderjährige vor unangemessenen Inhalten zu schützen. Dass das Unternehmen praktisch keine Maßnahmen ergriffen hat, um potenzielle Risiken zu minimieren, ist ein weiterer Punkt, der die Aufsichtsbehörde alarmierte.
Besonders kritisch ist der Umstand, dass die Vertragsbedingungen von Replika festlegen, dass die bereitgestellten Informationen nicht vertraulich sind und uneingeschränkt zu kommerziellen Zwecken genutzt werden können. Nutzende müssen sich also bewusst sein, dass ihre Daten in einem möglicherweise unsicheren Rahmen verarbeitet werden, was ernsthafte Fragen zu ihrer Privatsphäre aufwirft.
Hohe Geldstrafe und Folgen für EU-Nutzer
Die Konsequenzen sind beträchtlich: Am 10. April 2025 wurde eine Geldstrafe von 5 Millionen Euro gegen Luka Inc. verhängt, weil das Unternehmen gegen mehrere Artikel der Datenschutz-Grundverordnung (DSGVO) verstoßen hat. Diese Verstöße betreffen unter anderem das Prinzip der Verantwortlichkeit und Transparenz in der Datenverarbeitung, die von den Regulierungsbehörden gefordert werden. Wie Keyed hervorhebt, bleibt abzuwarten, wie das Unternehmen auf diese Herausforderungen reagieren wird, denn die GPDP behält sich vor, die Rechtmäßigkeit der Datenverarbeitung in weiteren Verfahren zu überprüfen.
So steht die App Replika für einen tief verwurzelten Konflikt zwischen den neuesten technologischen Entwicklungen und den drängenden Fragen des Datenschutzes. Es bleibt zu hoffen, dass sowohl Unternehmen als auch Nutzer aus diesen Vorfällen lernen und künftig ein besseres Gespür für den verantwortungsvollen Umgang mit sensiblen Informationen entwickeln.