L'organisation de défense des droits numériques Noyb a déposé plainte auprès de l'APD autrichienne contre OpenAI pour non-conformité de ChatGpt avec le RGPD.

Les griefs sont, en synthèse, les suivants :

-  Données Inexactes (art. 5 du RGPD) : Bien que l'entreprise dispose de nombreuses données d'entraînement, il n'existe actuellement aucun moyen de garantir que ChatGPT montre aux utilisateurs des informations factuellement correctes. Au contraire, les outils d'IA générative sont connus pour "halluciner" régulièrement, ce qui signifie qu'ils inventent des réponses. Ce qui n’est pas admissible lorsque cela concerne des données personnelles. L’article 5 du RGPD exige en effet que les données personnelles soient exactes et que toutes les mesures soient prises pour que les données inexactes soient effacées ou rectifiées sans tarder.

-  Violation des droits d’accès et de rectification (art. 15 et 16 RGPD):
ChatGPT a été interrogé sur la date d’anniversaire du plaignant (une personnalité publique). ChatGPT a fourni à plusieurs reprises des informations erronées au lieu d'indiquer qu'il ne disposait pas des données nécessaires. Saisi d’une demande de rectification ou d’effacement des données, OpenAI a refusé cette demande arguant qu'il n'était pas possible de corriger les données. Bien que le RGPD donne aux utilisateurs le droit de demander aux entreprises une copie de toutes les données personnelles traitées à leur sujet, OpenAI n'a également divulgué aucune information sur les données traitées, leurs sources ou leurs destinataires.

Outre les problèmes liés aux hallucinations, OpenIA était donc incapable de corriger des informations erronées ou d’identifier leurs sources, violant ainsi les droits des individus à l’accès et à la rectification prévus par le RGPD.