Quand l'IA devient écrivain : le cauchemar des auteurs a pris vie
Anecdotiques et déconcertants, au point d’attirer l’attention des médias, les ouvrages produits par des Intelligences artificielles ont gagné en popularité. Commercialisés comme d’authentiques œuvres, ils ont contaminé tout d’abord les services d’autopublication d’Amazon… avant de finir dans les bases de données de Google Books.
Le 22/07/2024 à 15:28 par Clément Solym
6 Réactions | 795 Partages
Publié le :
22/07/2024 à 15:28
6
Commentaires
795
Partages
Chine, décembre 2013. Un professeur de journalisme reçoit le deuxième prix lors d’un concours d’écriture, orienté Science-Fiction. Sauf que Shen Yang avait bénéficié du concours d’un coauteur : un modèle de langage. L’enseignant, qui officie à l’Université Tsinghua de Pékin, avait ainsi produit un récit de 6000 caractères racontant l’histoire de Li Xiao, une ancienne « ingénieure neuronale » qui a accidentellement perdu toute sa mémoire, et qui tente de la retrouver en explorant tranquillement ce fameux et effrayant « pays des souvenirs ».
Bien qu’avertis, les jurés ont décidé d’octroyer 3 de leurs 6 votes à ce texte, qui ne devait rien à l’homme directement, mais tout à la machine, largement guidée dans la rédaction de ce récit. Et pour la première fois, semblait-il, une IA se voyait décerner un prix littéraire.
La déferlante de LIAttérature
Depuis l’arrivée de ChatGPT dans les mains des internautes, le recours à l’IA pour la production d’ouvrages passablement mauvais s’est démocratisé. En février 2023, le service Kindle Direct Publishing, servant à l’autopublication chez Amazon, comptabilisait même 200 parutions avec a minima une IA en coautrice, voire autrice seule.
Des plaintes et complaintes émanant d’êtres humains et véritables auteurs ont alors fusé : Amazon n’ayant mis en place aucune mesure restreignant le flux d’une production potentiellement pharaonique, la firme était pointée du doigt.
C’est qu’entre le premier ouvrage entièrement traduit par une IA, qui en octobre 2018 provoquait des sourires en coin et la profusion de bouquins fraîchement pondus par des machines et mis en vente illico, on a cessé de sourire. Surtout qu’entre-temps, de petits margoulins usurpaient ouvertement l’identité d’auteurs en vendant de pseudo-œuvres. « La personne derrière ces livres cherche bien sûr à profiter d’auteurs qui ont confiance en mes travaux et seraient amenés à croire que je les ai écrits », résumait la romancière Jane Friedman.
À LIRE - Sur Amazon, des IA usurpent l'identité des auteurs
Et de s’interroger : « Avec la vague de contenus générés par l’intelligence artificielle publiés sur Amazon, parfois attribués d’une manière trompeuse ou frauduleuse à des auteurs, comment imaginer que les auteurs passent du temps, chaque semaine, à faire la chasse à ce genre de livres pour le reste de leurs vies ? »
De quoi obliger progressivement la firme que Jeff Bezos avait fondée à jouer la transparence. Elle obligeait dès lors à « nous informer de la présence de contenus générés par l’IA (textes, images ou traductions) lorsque vous publiez un nouveau livre ou que vous modifiez et republiez un livre existant », indiquait KDP dans ses conditions d’utilisation.
« Nous investissons beaucoup de temps et des ressources considérables pour garantir le respect de nos règles, et nous supprimons les livres qui y contreviennent. Bien que nous autorisions le contenu généré par intelligence artificielle, nous nous réservons le droit de rejeter ou de supprimer du contenu généré par intelligence artificielle lorsque nous déterminons qu’il crée une expérience client décevante. »
– Porte-parole d'Amazon, devant la recrudescence de livres écrits par des IA
En parallèle, les professionnels du livre, partout dans le monde, dégainaient des textes et revendications pour que la Commission européenne intervienne. « Les modèles d’intelligence artificielle générative se sont développés dans un environnement opaque et inéquitable, dans lequel des millions de livres protégés par le droit d’auteur ont été utilisés sans l’autorisation des auteurs ou éditeurs », assuraient la Fédération européenne et internationale des libraires (EIBF), la Fédération des éditeurs européens (FEE) et le Conseil des écrivains européens, lors de la Foire de Francfort, en octobre 2023.
Et d'ajouter : « Cette pratique a un impact négatif sur les ayants droit, mais aussi sur la démocratie, en facilitant la production massive de contenus trompeurs, biaisés et même dangereux pour l’avenir de la démocratie européenne. »
Suffisant ? Certainement pas, mais à poser les problèmes, on finit par les faire entendre. D’autant que dans le cas de figure des écrivains, dont le travail était repris « sans autorisation, sans rémunération et sans transparence », on retrouvait les problématiques d’autres secteurs artistiques. De fait, l’industrie de l’édition américaine avait vu le célèbre GRR Martin et d’autres auteurs de best-sellers porter plainte contre OpenAI, la société derrière ChatGPT. « Il est impératif de mettre un coup d’arrêt à ce vol à grande échelle », renchérissait alors Mary Rasenberger, PDG de l’Authors Guild.
Vers une corruption de données
Le phénomène soulève des préoccupations concernant la véracité des informations, comme l’ont montré des ouvrages contenant des erreurs factuelles. Mais a également inspiré des solutions surfant sur la tendance : ainsi, la startup Librinova, en partenariat avec Label Création Humaine, dévoilait en janvier un service apposant un label sur les livres certifiant qu’ils sont écrits par des humains. Ce label, conçu en mai 2023, utilise un protocole strict pour distinguer les œuvres humaines des productions IA.
À LIRE - Amazon se félicite de ses 40.000 livres audio générés par IA
Sauf qu’entre temps, les machines se sont mises à l’œuvre : en avril dernier, 404Media farfouillait dans Google Books et détectait l’inévitable. La librairie d’Alphabet procédait à l’indexation de livres médiocres, produits par des IA et désormais susceptibles de figurer dans les résultats de recherche. Donc de noyer les ouvrages réels, fruit du travail d’humains.
Certains livres traitent de ChatGPT, de l’apprentissage automatique, de l’IA et d’autres sujets connexes et incluent l’expression, car ils discutent de ChatGPT et de ses résultats. Ces livres semblent avoir été écrits par des humains. Cependant, la plupart de ceux présentés dans les huit premières pages de résultats obtenus lors de la recherche semblent être générés par l’IA et ne concernent pas l’IA.
Chercheurs et universitaires induits en erreur ?
La recherche, effectuée à partir de l’expression “as of my last knowledge update”, n’est pas farfelue : il s’agit d’une phrase régulièrement employée par les chatbots comme ChatGPT. Et le média constatait donc voilà quelques mois que les résultats de recherche faisaient figurer des ouvrages contenant cette phrase dans leurs textes de présentation.
ENQUÊTE - Les auteurs français qui ont alimenté les IA malgré eux
Cette phrase est d’ailleurs associée aux réponses générées par ChatGPT et affichait des dizaines de vrais-faux bouquins, avec un risque immédiat : celui de la corruption de l’outil Ngram. Cette application linguistique développée par Google observe les tendances, les récurrences et les usages de mots ou groupes de mots dans des sources imprimées — et numérisées.
Selon Google, interrogé à l’époque, cette indexation n’aurait au contraire pas d’incidence, attendu que les parutions récentes n’y sont pas intégrées. Toutefois, et malgré ses multiples imperfections, Ngram servirait à nombre de linguistes et d’universitaires pour leurs travaux de recherche.
Gare, donc, à la prochaine mise à jour dont bénéficiera cette application : si les travaux modernes présents sur Google Books n’apparaissent pas encore, rien n’indique que ce sera toujours le cas à l’avenir.
Crédits photo : ActuaLitté, CC BY SA 2.0
Par Clément Solym
Contact : cs@actualitte.com
Plus d'articles sur le même thème
Autres articles de la rubrique Numérique
6 Commentaires
Fernando Quevédo
22/07/2024 à 20:11
Les machines jouent bien aux échecs, pourquoi elles n'écriraient pas des livres ? les écrivains médiocres qui encombrent les rayons, polluent les rentrées littéraires n'ont qu'à bien se tenir et surtout aligner des bouquins potables, pas des ersatz Gidiens ou proto Céliniens. Mais comme le Roman est mort tout cela est anecdotique. Finnegans Wake est un livre Machine écrit par un Humain. Libérons les machines, le reste suivra.
Cyborg
24/07/2024 à 09:32
Merci pour ce commentaire, je suis entièrement d'accord avec vous. Je suis attéré par cet esprit néo luditte qui souffle actuellement un peu partout.
I pixel di Oplontis
23/07/2024 à 09:52
Pourquoi une de pièces en mosaïques a été utilisée comme image de votre article!l? Il a rien à foutre ni avec les livres, ni avec Amazon!
J’exige la suppression de cette photo
IPDO
Frank sqirelli
23/07/2024 à 13:40
J'exige la suppression de toutes les banques d'images du monde entier :)))
#Jeveuxjesuisleclientjepaye
Ariel Modrich
24/07/2024 à 15:24
"Quand l'IA devient écrivain"
L'inverse c'est pas gagné du tout
du tout
À moins d'avoir le génie de Yann Moix of course :)
adnstep
29/07/2024 à 22:27
Ah, si Gérard de Villiers avait connu l'IA ! Songez au nombre d'aventures trépidantes supplémentaires dont nous aurions pu bénéficier.