La plateforme de streaming a interrompu la diffusion d’une série générée par une intelligence artificielle après que l’un des personnages a tenu des propos transphobes et homophobes.
Inspirée de la série TV culte des années 90 «Seinfeld», la sitcom «Nothing, Forever» («rien, pour toujours», en anglais) porte désormais mal son nom. Elle vient en effet d’être bannie temporairement par Twitch pour une durée de quatorze jours. Diffusée en continu depuis le mois de décembre sur la célèbre plateforme de streaming, cette sitcom aux images pixélisées a la particularité d’être créée par l’IA GPT-3 de la société OpenAI, à la base du fameux robot conversationnel ChatGPT. Mettant en scène des personnages 3D aux voix synthétiques dans des scènes souvent absurdes, sans réelle intrigue, entrecoupées de rires préenregistrés, elle avait réussi à réunir quelque 10’000 spectateurs par jour, avant son interruption.
À l’origine, les dialogues étaient générés par le biais du modèle de langage Davinci de GPT-3, mais lorsque Davinci a connu quelques problèmes techniques, l’équipe derrière la sitcom s’est rabattue sur le modèle antérieur et moins abouti baptisé Curie. En raison d’un dysfonctionnement d’un outil de modération de l’IA avec Curie, le personnage principal, Larry Feinberg, a fini par déraper en tenant des propos transphobes et homophobes, en parlant notamment de «maladie mentale» lors d’un stand-up censé faire rire.
«Tout d’abord, laissez-moi dire que le texte que nous avons généré était une erreur, nous sommes très embarrassés, et que le contenu génératif créé ne reflète en aucun cas les valeurs ou les opinions de notre équipe», a écrit le cocréateur Skyler Hartle dans un message adressé au site TechCrunch. «Nous regrettons beaucoup ce qui s’est passé et nous espérons être de retour à l’antenne bientôt, avec toutes les mesures de protection appropriées en place», a-t-il ajouté.