Netflix encore épinglé pour utilisation de l'IA dans un documentaire

Dirty Pop : L'impresario est un escroc, arrivé il y a peu sur la plateforme, est sous le feu des projecteurs. Mais pas pour les bonnes raisons.

Rebelote pour la plateforme. En avril dernier, le géant du streaming avait déjà été pris en plein délit d’utilisation éhontée d’intelligence artificielle dans un true-crime consacré à l’affaire Jennifer Pan (Les Vérités de Jennifer). Cette fois c’est le documentaire Dirty Pop : L'impresario est un escroc (Dirty Pop : The Boy Band Scam en VO), qui s’attire les foudres d’un public éclairé, pourtant au rendez-vous car le documentaire s’est classé à la première place du classement US de la plateforme en quelques jours.

Sorti le 24 juillet dernier sur Netflix, il revient sur la vie de Lou Pearlman, créateur de nombreux boys-band dans les années 1990 (les Backstreet Boys et *NSYNC en tête), et escroc de première selon certains de ses plus proches collaborateurs. En 2008, il est condamné à vingt-cinq ans de prison pour avoir été l'initiateur d’une pyramide de Ponzi par le biais de laquelle il incitait des particuliers, des établissements bancaires et même des proches à investir dans des sociétés-écran.

Mini-série de trois épisodes, Dirty Pop revient en détails sur les hauts et les bas de la carrière de Lou Pearlman, que l’on peut voir et entendre nous raconter son histoire. Oui mais voilà : le premier intéressé est mort et enterré depuis août 2016. Autrement dit, sa voix et une partie de son apparence ont été reconstituées par une intelligence artificielle.

L’usage de l’IA est indiqué dès le début de ce triptyque. Des images "ont été modifiées numériquement pour générer sa voix et synchroniser ses lèvres", indique la séquence d’introduction. Le problème, c’est que ces images fabriquées se perdent quand même au milieu d’images d’archives réelles, passant elles-mêmes pour des documents à valeurs historique, documentaire et même journalistique.

Et puis surtout, critique majeure retrouvée sur les réseaux sociaux : elles mettent rapidement mal-à-l'aise.

Pourtant, l’IA est un aspect du documentaire que ses producteurs ont développé avec enthousiasme, prônant l’avancée technologique avant tout. A l’occasion du TUDUM de Netflix, Michael Johnson a ainsi expliqué :

"Avant tout, nous voulions utiliser cette nouvelle technologie de la manière la plus éthique possible, en tant qu'outil de narration supplémentaire, et non comme un outil de remplacement de quelque nature que ce soit. Nous avons obtenu les droits sur la vie de Lou ; nous n'avons utilisé que des mots écrits par Lou lui-même ; nous avons engagé un acteur pour prononcer ces mots ; nous avons utilisé des images réelles de Lou afin de capturer ses véritables manières et son langage corporel ; et nous avons engagé des experts en IA du MIT Media Lab, de Pinscreen et de Resemble AI pour mettre en œuvre notre vision."

Pour les showrunners, ces images étaient “essentielles pour comprendre Lou comme un être humain autant que comme un escroc".

Si on peut comprendre leurs intentions de départ, l’utilisation de l’intelligence artificielle dans un contenu qui porte l'appellation de “documentaire” reste un faux-pas éthique pour beaucoup. L’enfer est pavé de mauvaises intentions, et ça, ce sont les internautes qui le disent : “J'aime bien le documentaire Dirty Pop mais l'IA de Lou Pearlman me fait flipper, vous auriez pu engager un doubleur et un animateur et faire quelque chose de BEAUCOUP moins déstabilisant”, ou encore : “A celui qui a décidé de faire de de Lou Pearlman en IA le narrateur du documentaire Dirty Pop sur Netflix, j'espère que vous marcherez sur un Lego. C'est la honte”, peut-on lire sur X.