Le robot conversationnel basé sur le modèle de langage GPT-4 et développé par la start-up américaine OpenAI est en effet accusé de plusieurs choses. Selon l'autorité italienne, OpenAI et son outil conversationnel, ChatGPT, ne sont pas conformes au RGPD (Règlement Général sur la Protection des Données).

L'Italie devient alors le premier pays au monde à bloquer ChatGPT pour des raisons de sécurité des données, deux mois après avoir banni pour des raisons similaires l'application Replika, qui propose de bavarder avec un avatar sur-mesure. 

Pourquoi ChatGPT est banni en Italie ?

Pour commencer, cette décision prise par l'autorité italienne fait suite à une perte de données importante subie par OpenAI le 20 mars dernier. Pour rappel, des conversations d'utilisateurs, des adresses mail, ainsi que des informations de paiement des abonnés à ChatGPT Plus, l'offre payante de la plateforme, ont été rendues publiques à cause d'un bug.

L'Autorité reproche aussi à ChatGPT :

L'absence d'une note d'information aux utilisateurs dont les données sont récoltées par OpenAI, mais surtout l'absence d'une base juridique justifiant le recueil et la conservation en masse des données personnelles, dans le but d'"entraîner" les algorithmes faisant fonctionner la plateforme.

En outre, elle souligne que l’entreprise n’exige aucune vérification de l’âge de ses utilisateurs. Selon les conditions publiées par OpenAI, le service est destiné à des personnes âgées de plus de 13 ans. Cependant, l’entreprise ne demande aucun renseignement à ses utilisateurs concernant leur date de naissance. L'autorité souligne alors que l'absence de tout filtre pour vérifier l'âge des utilisateurs met les mineurs en danger.

L'outil conversationnel d'OpenAI expose les mineurs à des réponses absolument non conformes à leur niveau de développement .

Un délai de 20 jours !

L'institution italienne annonce que l'OpenAI devra « communiquer d’ici 20 jours les mesures » pour remédier à cette situation, « sous peine d’une sanction allant jusqu’à 20 millions d’euros ou jusqu’à 4 % du chiffre d’affaires mondial annuel ». Reste à voir si la France, qui se doit également d’imposer le RGPD, prendra ou non la même décision.

Notons que malgré le blocage du ChatGPT en Italie, les citoyens du pays peuvent toujours accéder à ses services en se servant d'un VPN.