ChatGPT verboden in Italië vanwege schending privacy

De populaire chatbot ChatGPT is voorlopig verboden in Italië. Volgens de Italiaanse privacytoezichthouder schendt ChatGPT-maker OpenAI de privacywet. Het bedrijf moet binnen 20 dagen maatregelen nemen. In Nederland is zo'n verbod voorlopig niet aan de orde.

De Italiaanse privacywaakhond GPDP heeft bekendgemaakt dat ChatGPT voorlopig geen gegevens van Italiaanse gebruikers mag verwerken. De Amerikaanse ChatGPT-maker OpenAI heeft op meerdere punten de privacyregelgeving overtreden, stelt de toezichthouder.

ChatGPT lekte gegevens afkomstig uit gesprekken die gebruikers met de chatbot hadden. Ook lagen betaalgegevens van de abonnees op straat.

ChatGPT kan met kunstmatige intelligentie (AI) antwoorden op vragen van gebruikers geven en op commando teksten in allerlei genres genereren. De chatbot verscheen eind november en werd snel populair: in januari waren er naar schatting al 100 miljoen gebruikers.

Onduidelijk wat met data gebeurt
OpenAI legt volgens de GPDP ook niet goed aan gebruikers uit welke gegevens er worden verzameld en wat daar precies mee gebeurt. Bovendien heeft de chatbot geen systemen om de leeftijd van minderjarigen te controleren.

Volgens de Italiaanse toezichthouder is er ook geen juridische basis voor het massaal verzamelen en opslaan van data om de systemen met kunstmatige intelligentie (AI) te trainen.

Grote boete dreigt
OpenAI moet binnen 20 dagen laten weten welke maatregelen het heeft genomen om zich aan de wet te houden. Het bedrijf riskeert anders een boete die kan oplopen tot 20 miljoen euro of 4 procent van de jaaromzet.

Nederlandse toezichthouder
Volgens een woordvoerder van de Nederlandse Autoriteit Persoonsgegevens (AP) is een verbod van ChatGPT zoals in Italië hier nog niet aan de orde. Hij wil niet zeggen of er in ons land ook klachten over ChatGPT zijn binnengekomen. "We doen daar geen uitspraken over. In EU-verband volgen we het Italiaanse standpunt rond ChatGPT op de voet, ook om te zien hoe dit zich tot de Nederlandse context verhoudt."

De AP wijst erop dat mensen 'altijd voorzichtig moeten zijn', dus ook bij het gebruik van chatbots. "Bijvoorbeeld als apps of diensten gratis lijken, maar dat je die eigenlijk ‘betaalt’ door in de voorwaarden akkoord te gaan met het delen van allerlei persoonlijke gegevens. Soms zelf gegevens buiten de app om, zoals je internetgedrag, je locatiegegevens of je contacten."

'Bevooroordeeld en misleidend'
In de VS heeft een organisatie die pleit voor verantwoordelijk gebruik van AI donderdag een klacht over OpenAI bij toezichthouder FTC ingediend, met daarbij de oproep om het bedrijf tijdelijk te verbieden om nieuwe versies van zijn AI-systemen uit te brengen. De organisatie Center for AI and Digital Policy (CAIDP) stelt in de klacht dat ChatGPT 'bevooroordeeld en bedrieglijk' is.

De chatbot vormt volgens de CAIDP een bedreiging voor zowel de privacy als de openbare veiligheid. Daarom zou de toezichthouder aanstaande nieuwe versies van de AI-systemen van OpenAI vooraf moeten onderzoeken voordat ze op de markt komen.

Microsoft en Google
Na het succes van ChatGPT maakten andere techbedrijven haast met hun AI-toepassingen. Zo presenteerden zowel Microsoft als Google onlangs eigen chatbots met AI. Microsoft gebruikt daarbij de technologie van OpenAI, waarin het eerder miljarden heeft geïnvesteerd.

Microsoft gaat ook reclames in de vorm van betaalde links toevoegen aan de antwoorden van zijn AI-chatbot in de zoekmachine Bing.

Vrees voor gevolgen AI
De opmars van AI heeft geleid tot tal van zorgen, bijvoorbeeld over een toename van cybercrime, de verspreiding van nepnieuws en schendingen van het auteursrecht. Woensdag riepen ruim duizend AI-experts op om de ontwikkeling van AI tijdelijk te pauzeren uit vrees voor de gevolgen op de lange termijn.