Citoyens prenez le pouvoir

Dès l’émergence de ChatGPT, il est apparu qu’une IA conversationnelle pouvait inventer du contenu, ce qui est un peu ce que l’on attend d’elle, mais aussi des références. Un avocat qui avait demandé à ChatGPT de lui produire sa plaidoirie s’est retrouvé avec des références à des articles de loi tout à fait crédibles mais absolument farfelues. Il s'est fait explosé au tribunal est a gagné en notoriété grâce à ce bad buzz.

On retrouve le même problème pour les sources d’un propos, qui sont attribuées à n’importe qui. C’est l’expérience qu’à vécu Émilie M Bender, qui s’est vu attribuer des propos qu’elle n’a jamais tenus par une IA générative. Un nouveau média, Biharprabha, dont le contenu est généré non pas par des journalistes mais par une IA générative, a mis en ligne un article prêtant des propos faux à Émilie M Bender. Celle-ci se retrouve donc cité comme auteur de propos qui entache sa crédibilité de scientifique, totalement à son insu. Ce n’est que par ce qu’elle fait une veille des articles la citant qu’elle l’a découvert.