Littérature et intelligence artificielle, fin du débat ?
La littérature doit-elle craindre la grande méchante intelligence artificielle ? Exercice de prise de recul avec deux auteurs experts en IA.
Bienvenue dans cette 33ème édition de Aux livres, etc. 📚
On y aborde toutes les deux semaines une thématique liée à la littérature et à la lecture.
Ici, on se penche davantage sur l’acte de lire que sur celui d’écrire, en se situant du côté des lecteurs et lectrices.
Retrouve la genèse du projet par ici pour en savoir plus.
Cette année, impossible d’échapper au thème de l’intelligence artificielle.
Dans toutes les bouches, sur tous les écrans, dans nos cauchemars comme dans nos rêves les plus fous, cette fameuse IA s’incruste partout…
Jusque dans les livres.
Et si on faisait le point pour en finir avec les fantasmes et y voir plus clair sur la question ?
J’ai envie de creuser le sujet depuis près d’un an et je ne trouvais pas le bon angle.
Je n’avais pas envie de l’aborder par le biais des droits d’auteur, du pillage de l’IA qui apprend sur la base d’œuvres existantes , ni du business qui se met en place autour de livres (si on peut les appeler comme ça) générés par l’IA sur Amazon.
Je ne voulais surtout pas traiter ce sujet en le diabolisant et en insistant sur tous ses écueils.
J’ai préféré laisser la place à deux experts de l’IA, auteurs qui plus est, et donc en première ligne pour y voir clair sur les enjeux au croisement entre littérature et IA.
La parole est à Laura Sibony, autrice de Fantasia, conférencière et enseignante à Sciences Po et HEC, et à Bruno Markov, auteur du Dernier étage du monde, mais aussi conférencier, consultant en prospective systémique et stratégie d’innovation.
Les critiques de leurs livres sont à retrouver à la fin de cette lettre.
+ L’annonce d’une rencontre.
Rue des Saint-Pères, par un jeudi après-midi pluvieux de printemps 2024.
J’accueille Laura et Bruno pour leur première rencontre, après plusieurs rendez-vous ratés.
J’avais un peu d’appréhension à orchestrer cet échange sur un sujet que je maitrise bien moins qu’eux, mais je n’ai pas eu besoin d’intervenir tant la conversation (dont je ne vous livre qu’une partie ici) était dense. J’apparais littéralement trois fois dans cette discussion.
J’ai pourtant ouvert les hostilités, sûre de moi…
Julia : je pense qu’on est tous d’accord pour dire que l’IA n’a pas la créativité ou la sensibilité suffisante pour devenir un jour un auteur…
Bruno : ce n’est pas certain. J’ai participé à une table ronde sur le sujet de l’IA au festival Aux Livres dans la boucle à Besançon, avec Clara Arnaud, autrice adepte du nature writing et Miquel de Palol, un écrivain catalan qui construit des œuvres hyper architecturales, à la Borges, avec des histoires à tiroirs et des logiques cachées.
J’étais en compagnie de deux auteurs que l’IA imite très difficilement, et ce seraient en tout cas parmi les derniers à pouvoir l’être. Il y a à ce jour trop peu de données et d’historique pour reproduire une architecture particulièrement originale et le nature writing touche à une sensibilité qui échappe à l’IA. Mais de là à dire qu’elle n’en sera jamais capable, je ne peux pas l’affirmer de manière définitive.
Laura : quand on aborde le sujet de l’IA, on se demande toujours si elle va mettre en danger sa profession. Les maçons s’inquiètent de se voir remplacés, tout comme les comptables, les médecins… les auteurs n’y échappent pas. Si l’on pose la question sous l’angle « l’IA va-t-elle remplacer la tâche qu’est l’écriture créative ? », c’est quand même beaucoup plus facile d’y répondre. Ça dépend de ce qu’est l’écriture créative…
Si c’est un procédé automatique (comme la rédaction de lettres de motivation), alors oui, sans problème, et ça ne serait probablement pas une grande perte. L’intelligence artificielle nous force à faire une distinction entre les textes et l’écriture, entre l’écriture et la littérature. Entre un travail qui va chercher à créer, pas seulement à générer, pas seulement à s’appuyer sur ce qui a déjà été produit, mais à faire émerger quelque chose de neuf. Pour moi, la littérature, c’est cet effort pour apporter ce qui n’a jamais été fait et qui a du sens, ce qui est original et qui a de la valeur.
Cette question nous pousse à distinguer une littérature (et une écriture) de consommation, qui a son intérêt, qui fait passer un bon moment, qui fait rêver… et la littérature comme art qui serait autre chose, une recherche, quelque chose qui échappe aux données, qui n’est pas mesurable. L’intelligence artificielle, là, ne pourra pas apporter grand-chose.
Bruno : ça pose la question du discernement. Est-ce qu’on est capable aujourd’hui de dire qu’une œuvre a été écrite par un processus vraiment de pure créativité ? Est-on capable de savoir si un auteur a été traversé par l’inspiration ou s’il a appliqué des recettes ?
Les séries sont un très bon exemple de fictions écrites en suivant un tutoriel, en se basant sur différentes méthodes comme le voyage du héros, l’anatomie du scénario, etc. Est-ce que des histoires qui sont racontées en appliquant ces méthodes sont moins créatives que d’autres ? Je trouve la question hyper complexe.
Il sera sans doute toujours possible de distinguer une œuvre écrite par l’IA d’une œuvre écrite par un humain, au même titre qu’aujourd’hui il est possible de reconnaître une œuvre écrite par quelqu’un qui applique des recettes, d’un artiste qui a été touché par la grâce. Une question intéressante et préoccupante est de savoir combien de lecteurs pourront faire la différence ? Et je crains que ce soit assez peu.
Laura : Sauf qu’on n’écrit pas pour les lecteurs, quand il s’agit de littérature.
Dans la réalité, les tâches ne sont pas aussi claires et il y a dans tout ce que l’on fait une partie automatisable. Et c’est pour ça qu’on parle plus d’hybridation en matière littéraire (ndlr : travail conjoint de l’humain et la machine). J’utilise souvent ChatGPT pour générer des idées de titres pour des nouvelles par exemple. Je ne crois pas qu’il me soit déjà arrivé de reprendre le titre directement, mais c’est une bonne source d’inspiration avec une diversité de possibles, basés sur des données historiques.
De là à créer une œuvre avec cet outil ?
Je vais prendre un petit détour. Il y a un exemple dont je parle dans Fantasia, qui est le Cheese Master, un produit fantastique créé par Google qui utilise de l’apprentissage machine pour distinguer différents types de fromage. Il est capable de différencier un coulommiers d’un camembert. C’est dingue qu’on puisse faire ça en 2024 avec un nez électronique et un pouce à tâter le fromage. Sauf que c’est un canular, c’est le poisson d’avril de Google en 2017. Techniquement, ce serait à peu près possible. Mais de toute façon, à quoi ça sert ? On n’en voudrait pas. Parce que distinguer des fromages, l’humain sait le faire, le fait bien et aime le faire. Je pense que la question se pose de la même manière pour la littérature. « A quoi bon l’écriture augmentée ? » Parce que de toute façon, il y a des humains qui savent et aiment le faire.
Bruno : je suis complètement d’accord sur le fait que c’est la question qu’il s’agirait de se poser. Quelle valeur l’IA apporte-t-elle ? C’est toute la question. Combien d'innovations sur lesquelles on travaille sont réellement souhaitables ? Est-ce que c’est vraiment une question qui nous obsède en ce moment de s’interroger sur le besoin auquel répond une innovation avant de la développer ? J’ai bien peur que non. Même ChatGPT, je me demande parfois quel est le besoin.
Laura : Exactement. Je dirais qu’il y a deux IA : l’IA spectacle et quel formidable spectacle à l’échelle mondiale ! Avec 200 millions d’utilisateurs de chatGPT en un mois, on n’a jamais assisté à un spectacle d’une telle ampleur (sauf peut-être la révolution russe). Et c’est fou ! On oublie la question quand on est devant le spectacle, mais qu’est-ce qui en restera sur le long terme et qu’est ce qu’on va réellement adopter ?
Et il y a toutes les autres IA. C’est celles que j’ai voulu raconter dans Fantasia. Je veux montrer ces IA qu’on utilise au quotidien, qui ne sont pas glamour, celles qui nous évitent d’être noyés sous les spams, celles qui optimisent la batterie du portable, celles qui quelque part nous aident aussi à écrire. On ne peut pas y échapper parce qu’il y a tellement de données produites et stockées, qu’on a besoin de moyens de discriminer et de trier l’information. On a besoin de cette intelligence au sens britannique, où le mot ne qualifie pas seulement l’intellect mais la capacité à classer et prioriser l’information comme l’Intelligence Service.
Bruno : c’est tout à fait le thème de mon bouquin, l’économie de l’attention et la manière dont on crée une espèce de filtre déformant pour chaque personne, pour que l’information lui soit présentée d’une manière qui lui corresponde. C’est aussi le danger, d’enfermer chacun dans sa bulle de filtre.
Notre question sur l’IA et l’écriture concerne ici plus spécifiquement les IA génératives et leurs promesses quant aux processus créatifs. Globalement la promesse serait de pouvoir s’abstraire de la technique, c’est-à-dire de réduire le cheminement et l’effort entre l’idée et sa mise en œuvre. Il faudrait aller le plus vite possible de l’intuition à son déploiement, ou fonctionner par itérations successives : « j’ai une idée, l’IA me donne un résultat, je le peaufine ».
Ça nous amène à des sujets essentiels de la création. Les promesses de l’IA reposent sur ce paradigme-là « si c’est du temps de perdu, c’est de l’effort cognitif foutu en l’air ». Ça me pose problème parce que je crois que l’essentiel du processus créatif se trouve dans ce questionnement, ce conflit entre l’idéal et la technique, ce travail fastidieux de recherche de la meilleure manière de raconter une histoire.
Quand je suis face à une page blanche, ou quand je relis pour la quinzième fois un chapitre parce que je trouve qu’il ne sonne pas bien, je ne trouve pas que ce soit du temps perdu. J’ai besoin de me faire la main en essayant différentes solutions moi-même plutôt que d’accéder directement à un rendu qui serait, qui plus est, un condensé de ce qui a été fait par le passé. C’est, à mon sens, un vrai problème que de considérer ce temps de création comme du temps perdu.
Laura : Je ne suis pas persuadée qu’il faille en passer par la page blanche et 50 relectures pour créer. Il y a deux écoles en matière d’écriture, ceux qui sont pour le travail, pour une forme de souffrance, et ceux qui laissent couler la première impulsion.
Bruno : je suis aussi plutôt de l’école de la première impulsion. Mais je sais qu’elle me vient parce que je me suis pris la tête sur les pages précédentes et que j’ai appris des tentatives ratées. Et si ce processus d’apprentissage est délégué à la machine, c’est elle qui apprend à écrire, moi je n’aurais plus la fulgurance.
Laura : c’est une vraie interrogation. Je crois que j’ai davantage appris des moments où j’ai aimé un texte, où je me suis amusée en lisant ou en écrivant que je n’ai appris des moments où j’ai galéré. Mais, ça reste une vraie interrogation. Comment est-ce qu’on apprend à écrire ? Comment est-ce qu’on améliore l’écriture ? Qu’est-ce qui fait un bon texte ? Ça, ça va au-delà des questions d’IA.
Julia : il me semble que ce sont aussi des questions qui touchent à l’édition. Détecter un bon texte, être capable de le tirer vers le haut, d’exprimer un retour critique. De votre point de vue, est-ce un métier qui pourrait in fine être délégué à l’IA ? Comme ce qu’essaye de faire Alexandre Jardin avec Youscribe par exemple.
Laura : ça dépend de ce qu’on attend d’un éditeur. Moi je considère qu’il est là pour me faire des compliments et pour ça chatGPT est très bon, il n’y a pas plus flatteur que lui. Pour tout ce qui va au-delà de la plate flatterie, donc tout le travail d'accompagnement du texte, de positionnement, les relations avec toute l'équipe éditoriale... je ne vois pas de menace directe de l'IA.
J’ai fait travailler, sur cette question de l’édition, un groupe d’étudiants internationaux à HEC qui se destinent à manager des projets IA. Je leur ai donné une étude de cas autour de la transformation d’une maison d’édition. Je les ai répartis en groupes pour plancher sur la détection de manuscrit, les traductions, le design, le marketing et la localisation. C’est-à-dire qu’aujourd’hui on pourrait par exemple faire un Harry Potter LGBTQ+ ou adapté aux références japonaises, si on en a envie. À 100 % tous les étudiants ont voté pour le développement de la localisation.
En tant qu’autrice, ça me pose problème, c’est une atteinte directe à la liberté de l’écrivain car on ne considère plus le texte comme une proposition d’un auteur mais comme un produit qui doit plaire au marché.
Bruno : ça rejoint le sujet des sensitivity readers qui répondent aussi quelque peu à cette logique-là.
Laura : pour moi c’est une vision de la littérature que je ne partage pas du tout, celle de la littérature comme produit de consommation qui doit plaire à son public. Le livre doit rester un prototype, il n’a pas intérêt à être mis à l’échelle. Il n’y a pas de roman parfait.
Bruno : ce qui est mis en doute dans cet exemple de la localisation, c’est aussi l’universalisme et le rôle qu’assurent les livres de créer des ponts entre les subjectivités, entre les communautés. Il y a de plus en plus de chaines de télé pour que chacun ait la sienne, le modèle du web 2 entretient exactement ce phénomène de bulle, et les séries n’y échappent plus avec les plateformes. Finalement le livre est presque la seule chose qui a été protégée de cette polarisation.
Aujourd’hui, la recherche n’est même plus de faire le livre parfait (et ce serait absurde) mais plutôt de faire le livre parfait pour chacun. Le schéma marketing derrière cette hybridation du créateur d’histoire et son assistance par des procédés statistiques, c’est lui permettre d’écrire 8 milliards d’histoires pour toucher 8 milliards de personnes en plein cœur, ce qui n’est pas possible si l’on raconte une même histoire pour tout le monde.
Cette ultra-personnalisation est personnellement ce qui me fait le plus peur, et c’est le scénario qui me semble le plus probable.
On a une vraie urgence à se réinventer et à sortir des sentiers battus. Hors l’IA c’est précisément des sentiers battus et une manière de tourner en boucle en permanence, qui plus est piloté par des algorithmes, des entreprises qui ont un agenda et sont mues par le profit.
Laura : c’est pour ça que j’ai voulu faire un livre sur l’IA. Je ne raconte pas d’opinion, je raconte des histoires, c’est une autre manière de faire un pas de côté et d’être en désaccord. Et c’est ce que j’aime dans le livre. Pour reprendre une image de Pagnol, à la différence du spectacle vivant, où les gens font l’effort d’aller dans un lieu pour écouter l’auteur, avec le livre, ils invitent l’auteur chez eux, se l’approprient, l’emmènent dans leur lit. C’est un autre rapport à l’histoire, on peut la lire ou pas, l’arrêter au milieu, réfléchir, se poser sur un mot. Même au théâtre on n’a pas ce loisir. La lecture c’est un exercice de liberté.
Bruno : et c’est une obligation de reconnexion à un autre temps, c’est impossible d’être dans la fausse immédiateté que nous imposent les écrans.
L’échange se conclut sur ces belles paroles, prônant la littérature et la liberté.
À la lumière de cette discussion, je me dis que les auteurs ont de beaux jours devant eux pour permettre de faire vivre la création, la réflexion, l’intelligence humaine et le récit de nos expériences collectives.
Tant que nous maintenons notre vigilance, notre exigence en matière de littérature et de récits, la menace (littéraire) ne sera que superficielle. La balle est dans notre camp pour ne pas faire des Lettres le prochain terrain de jeu des créateurs de contenu (voir l’épisode précédent sur le sujet).
Merci à Laura Sibony et Bruno Markov pour leur temps et leurs partages passionnants.
Et un merci tout particulier à l’IA derrière Sonix.ai qui m’a aidée à retranscrire cet échange ! 🙃
Des ressources pour continuer à creuser ce sujet 🔨
La documentariste de référence sur le monde du livre, Jeannot se livre, a encore une fois réalisé une vidéo très didactique et complète qui invite à prendre conscience des problèmes posés par l’IA (traduction et illustration en première ligne) et à démystifier cet outil, sous l’angle de la collaboration humain - machine.
On retrouve cette idée de collaboration (aussi abordée par Laura ci-dessus pour les titres de ses nouvelles) dans ce compte rendu de table ronde du CNL.
Et si l’IA permettait une littérature augmentée ?
Une manière d’attirer, séduire et reconquérir de nouveaux publics avec des expériences autour du livre ; pourquoi pas, tant que c’est fait en accord avec les auteurs (ou leurs ayants droit).
Un roman, que je n’ai pas encore ouvert mais qui m’interpelle sur le sujet.
La Meilleure écrivaine du monde de Jonathan Werber, dans lequel l’IA est implanté dans un humain pour faire l’expérience de la vie et pouvoir écrire une histoire sensible- si tu l’as lu, dis-moi stp ce que tu en as pensé. 🤓
Evidemment, on se quitte avec la critique des romans des auteurs du jour.
FantasIA, contes et légendes de l’intelligence artificielle, Laura Sibony
Laura s’est lancée avec ce livre dans une entreprise ardue : nous faire entrevoir les nombreux aspects de l’IA pour mieux en saisir la complexité.
Si l’IA recouvre des applications multiples, il fallait bien un récit avec autant de facettes pour la cerner et s’approcher d’une vision plus fidèle à ses réalités.
Loin des discours alarmistes sur une potentielle armée de robots tueurs prêts à nous remplacer, loin des fantasmes et des mythes qui entretiennent la peur, l’autrice redéfinit l’intelligence (en en faisant preuve) et les artifices que produit cette avancée technologique qui ne se résume pas (et vous l’aurez compris au fil de cette interview) à une interface de discussion qui fait des blagues quand on le lui demande.
Forte de son expérience chez Google Arts & Culture où elle a participé à de nombreux projets sur le sujet, elle nous plonge à la fois dans les coulisses de l’IA concrète, algorithmique, et dans des histoires qui élèvent et permettent de prendre de la hauteur sur le sens de cette technologie, de la vérité et de notre histoire.
Ce recueil de textes est instruit, accessible, éclairant mais aussi bourré d’humour. Il ne fait ni l’apologie de l’IA, ni son procès et c’est ce sens de la nuance que j’ai particulièrement apprécié.
C’est un livre qu’on referme en étant plus intelligent.
Une citation parfaite pour conclure cette édition, à propos d’une histoire « sur l’IA et l’écologie » que ChatGPT lui a racontée (page 168).
« Cette courte histoire ne porte pas plus à conséquence qu’un pet dans l’eau : ce n’est qu’une série d’abstractions et de raccourcis, sans image, sans illustration, et au fond sans histoire. On la termine en se demandant ce qu’on a lu. C’est le contraire de la littérature : beaucoup de mots, pour peu de sens. Il n’y a là rien à retenir, rien à garder, les mots s’enchaînent et coulent, fluides et sans pesanteur, tout juste bons à étouffer les cris des tortues de Malaisie ou des singes araignées, menacés de disparition prochaine. Ce n’est pas mauvais, c’est insipide. C’est à la littérature ce que le tofu est à la gastronomie : fade, terne et cotonneux. »
Je vous laisse vous procurer FantasIA pour découvrir cette histoire et surtout les textes de Laura si instructifs sur le sujet.
Lecteur·ices parisien·nes, Laura Sibony sera l’invitée de la librairie L’Instant ce mardi 18 juin. L’occasion de venir la rencontrer en personne pour échanger sur son livre, ces enjeux et participer à cet événement animé par… bibi 🙂
Le dernier étage du monde, Bruno Markov
Bruno Markov signe ici son premier roman et dévoile une plume captivante et entraînante. Difficile de relâcher ce livre une fois ouvert (vous êtes prévenus).
Bruno nous entraine dans les pas d’un jeune homme ambitieux, en prise avec son époque. Victor, le protagoniste, veut se venger d’une société, d’un système qui a poussé son père au suicide. Voyez le comme un héros tragique armé d’algorithmes, de lignes de code et d’intelligence artificielle.
Dans ce récit, c’est à l’intelligence humaine que Bruno Markov fait honneur. Il raconte l’obsession de la réussite, sur fond de revanche sociale, mais aussi la prise de pouvoir rendue possible par les nouvelles technologies. Il dépeint avec brio et beaucoup de lucidité notre société contemporaine, ses obsessions et ses contradictions. Il met en scène des personnages hurlants de vérité, moches et ambigus, et pourtant très attachants. Il dévoile avec finesse les rouages des grandes entreprises et de la technologie en vulgarisant, et en rendant très romanesques, des concepts clés de notre époque. Sans jamais donner de leçon. Sans jamais ennuyer. Il laisse voir l’humain à travers la machine car après tout ce sont toujours eux, les hommes (et quelques femmes), qui tirent les ficelles.
Ce roman ce sont les Illusions perdues qui rencontrent Elon Musk, Balzac face à ChatGPT, de la grande littérature à l’heure où les yeux sont rivés sur les écrans.
Un incontournable.
Je vous laisse avec une citation partagée par l’auteur, qui sonne amèrement trop juste depuis le début de la semaine.
Bonnes lectures et à dans deux semaines ! 👋
A suivre, la littérature marocaine, un avant goût de la rentrée littéraire et le bilan de mes lectures de printemps.
Bien sûr qu'il y a une lueur d'espoir à la fois pour les auteurs et les lecteurs. Malgré les progrès fulgurants de l'IA, la capacité à ressentir, à vivre et à communiquer des émotions reste le plus grand atout de "l'espèce humaine". Et qui mieux qu'une "personne" pour transmettre l'expérience humaine dans toute sa complexité.
Clairement un lien avec la question du "modèle économique" et de la manière dont on valorise le temps passé à faire et créer, le résultat de tout ça, le ressenti généré... Je lis justement un manuel très intéressant à ce sujet. "Manuel de la grande transition". A destination des professionnel.les de l'éducation sur comment intégrer la réflexion et les actions de la transition écologique dans toutes les matières. Étrangement captivant et très pertinent à mes yeux !