Sam Altman répond à la controverse sur le contenu érotique de ChatGPT : OpenAI n'est pas la "police morale du monde"

Le PDG d’OpenAI, Sam Altman, a déclaré mercredi que l’entreprise “n’est pas la police morale du monde élue démocratiquement”. Auparavant, il avait décidé d’assouplir les restrictions de contenu sur ChatGPT, permettant l’existence de contenus tels que l’érotisme, une mesure qui a suscité de vives oppositions.

Ces derniers mois, cette start-up d’intelligence artificielle fait l’objet d’un examen de plus en plus poussé, l’opinion publique s’intéressant à la manière dont elle protège ses utilisateurs (en particulier les mineurs). Pour cette raison, OpenAI a progressivement renforcé ses mesures de sécurité et de contrôle.

Cependant, mardi, Altman a publié sur la plateforme sociale X que, puisque l’entreprise est désormais capable d’atténuer “les risques graves pour la santé mentale”, OpenAI peut maintenant “assouplir en toute sécurité” la plupart des restrictions de contenu.

En décembre dernier, Altman avait déjà déclaré que ChatGPT autoriserait davantage de types de contenus, y compris des contenus érotiques.

Mercredi, Altman a de nouveau publié sur la plateforme X pour tenter de clarifier cette mesure. Il a indiqué qu’OpenAI “accorde une grande importance au principe de ‘traiter les utilisateurs adultes comme des adultes’”, mais qu’il n’autorisera toujours pas “les contenus susceptibles de nuire à autrui”.

Altman a écrit : “Tout comme la société établit d’autres limites raisonnables (par exemple, les films classés R), nous souhaitons adopter une approche similaire dans ce domaine.”