Italia sier nei til Replika: 5 millioner euro i bot for brudd på databeskyttelsen!

Italia sier nei til Replika: 5 millioner euro i bot for brudd på databeskyttelsen!

Italia trekker i nødbremsen: Leverandøren av replika chatbots, Luka Inc., har stanset driften der inntil videre. Dette skyldes alvorlige bekymringer om sikkerhet og databeskyttelse, spesielt for psykologisk sårbare brukere. Disse tiltakene ble igangsatt etter en omfattende undersøkelse av det italienske datatilsynet GPDP, som vurderer at Replika-appen i sin nåværende form utgjør en betydelig risiko, som f.eks. rapporterer observatøren.

Appen gir brukerne muligheten til å skape en individuell, virtuell følgesvenn som kan ta på seg ulike roller, fra en fortrolig til en terapeut. Men tjenestens økende popularitet overskygges av alvorlige personvernhensyn. Høyt Informasjon fra European Data Protection Authority Luka Inc. må akseptere alvorlige mangler i behandlingen av personopplysninger og aldersbekreftelse.

Mangel på databeskyttelsesrammeverk

GPDPs undersøkelser har vist at det ikke var tilstrekkelig juridisk grunnlag for databehandling av Luka Inc. før 2. februar 2023. Tilsynene fant at personvernreglene var utilstrekkelige på flere måter og aldersverifiseringsmekanismene var utilstrekkelige for å beskytte mindreårige mot upassende innhold. Det faktum at selskapet praktisk talt ikke har tatt noen tiltak for å minimere potensielle risikoer er et annet punkt som skremte regulatoren.

Spesielt kritisk er det faktum at Replikas kontraktsmessige vilkår og betingelser fastsetter at informasjonen som gis ikke er konfidensiell og kan brukes uten begrensninger til kommersielle formål. Brukere må derfor være klar over at deres data blir behandlet i et potensielt usikkert rammeverk, noe som reiser alvorlige spørsmål om deres personvern.

Enorm bot og konsekvenser for EU-brukere

Konsekvensene er betydelige: 10. april 2025 ble Luka Inc. ilagt en bot på 5 millioner euro fordi selskapet brøt flere artikler i General Data Protection Regulation (GDPR). Disse bruddene gjelder blant annet prinsippet om ansvarlighet og åpenhet i databehandling som kreves av regulatorer. Hvordan Tastet fremhever, gjenstår det å se hvordan selskapet vil svare på disse utfordringene, ettersom GPDP forbeholder seg retten til å vurdere lovligheten av databehandling i videre saksbehandling.

Replika-appen representerer en dypt forankret konflikt mellom den siste teknologiske utviklingen og de presserende spørsmålene om databeskyttelse. Det gjenstår å håpe at både bedrifter og brukere lærer av disse hendelsene og utvikler en bedre følelse av hvordan man håndterer sensitiv informasjon ansvarlig i fremtiden.