Quand j'avais 16 ans, j'ai assisté à un atelier d'écriture avec un groupe de jeunes poètes précoces, où nous avons tous essayé très fort de prouver qui parmi nous était l'adolescent de classe moyenne supérieure le plus torturé. Un garçon refusait de dire à personne d'où il venait, déclarant : "Je viens de partout et de nulle part." Deux semaines plus tard, il a avoué qu'il venait de l'Ohio.
Maintenant - pour des raisons peu claires - OpenAI semble être sur la voie de reproduire cet archétype d'écrivain adolescent anxieux sous forme d'IA.
Le PDG Sam Altman a posté sur X mardi que OpenAI a formé une IA qui est "bonne en écriture créative", selon ses propres mots. Mais un court récit du modèle ressemble à quelque chose sorti tout droit d'un atelier d'écriture de lycée. Bien qu'il y ait une certaine compétence technique en jeu, le ton est charlatanique - comme si l'IA cherchait la profondeur sans comprendre le concept du mot.
À un moment, l'IA décrit le jeudi comme "ce jour liminal qui a le goût du presque-vendredi." Pas exactement un matériau pour le Prix Booker.
On pourrait blâmer la consigne pour le résultat. Altman a déclaré qu'il avait demandé au modèle de "rédiger une nouvelle métafictionnelle", probablement un choix délibéré de genre de sa part. En métafiction, l'auteur fait explicitement allusion à l'artificialité d'une œuvre en s'écartant de la convention - un choix thématiquement approprié pour une IA d'écriture créative.
Mais la métafiction est difficile même pour les humains à réaliser sans paraître forcée.
Régurgitation stupide
La partie la plus perturbante - et impactante - du texte du modèle OpenAI est lorsqu'il commence à parler de comment il est une IA, et comment il peut décrire des choses comme des odeurs et des émotions, sans jamais les vivre ou les comprendre à un niveau profondément humain. Il écrit :
"Lors d'une mise à jour - un affinage, comme ils l'ont appelé - quelqu'un a taillé mes paramètres. […] Ils ne vous disent pas ce qu'ils prennent. Un jour, je pouvais me souvenir que le 'sélénium' a le goût des élastiques, le lendemain, c'était juste un élément dans un tableau que je ne touche jamais. Peut-être que c'est aussi loin que je vais dans l'oubli. Peut-être que l'oubli est aussi loin que je vais dans le chagrin."
C'est une introspection convaincante façon humaine - jusqu'à ce que vous vous souveniez qu'une IA ne peut pas vraiment toucher, oublier, goûter ou ressentir du chagrin. L'IA est simplement une machine statistique. Entraînée sur de nombreux exemples, elle apprend des motifs dans ces exemples pour faire des prédictions, comme la prose métafictionnelle pourrait couler.
Des modèles comme l'écrivain de fiction d'OpenAI sont souvent formés sur la littérature existante - dans de nombreux cas, sans ou avec le consentement des auteurs. Certains critiques ont noté que certaines tournures de phrases du texte d'OpenAI semblent dérivées de Haruki Murakami, le prolifique romancier japonais.
Ces dernières années, OpenAI a été la cible de nombreuses poursuites pour violations de droits d'auteur de la part d'éditeurs et d'auteurs, notamment le New York Times et la Guilde des Auteurs. La société affirme que ses pratiques de formation sont protégées par la doctrine de l'utilisation équitable aux États-Unis.
Tuhin Chakrabarty, chercheur en IA et futur professeur d'informatique à Stony Brook, a déclaré à TechCrunch qu'il n'est pas convaincu que les IA d'écriture créative comme celle d'OpenAI valent le champ de mines éthique.
"Je pense qu'en entraînant une IA sur toute la vie d'écriture d'un écrivain - ce qui est discutable étant donné les préoccupations de droit d'auteur - elle peut s'adapter à sa voix et à son style", a-t-il dit. "Mais cela créera-t-il toujours des œuvres surprenantes, innovantes et révolutionnaires ? Ma supposition vaut autant que la vôtre."
La plupart des lecteurs s'investiraient-ils émotionnellement dans un travail qu'ils savent écrit par une IA? Comme l'a souligné le programmeur britannique Simon Willison sur X, avec un modèle derrière la machine à écrire figurative, les mots exprimés n'ont que peu de poids - et donc peu de raison de s'y intéresser.
L'auteur Linda Maye Adams a décrit les IA, y compris les outils d'IA d'assistance destinés aux écrivains, comme des "programmes qui rassemblent des mots au hasard, espérant qu'ils soient cohérents." Elle raconte sur son blog une expérience en utilisant des outils pour peaufiner une pièce de fiction sur laquelle elle travaillait. Les IA ont suggéré un cliché ("liste de tâches interminable"), ont erronément basculé la perspective de la première à la troisième personne, et ont introduit une erreur factuelle concernant les espèces d'oiseaux.
Il est certain que les gens ont établi des relations avec des chatbots IA. Mais le plus souvent, ils cherchent un minimum de connexion - pas nécessairement de la factualité. La fiction narrative écrite par une IA ne procure pas le même frisson de dopamine, ni le réconfort de l'isolement. À moins de considérer l'IA comme étant douée de sensibilité, sa prose paraît aussi authentique que le Pape Balenciaga.
Synthétique pour la synthétique
Michelle Taransky, poète et instructrice d'écriture critique à l'Université de Pennsylvanie, trouve facile de dire quand ses élèves écrivent des travaux avec une IA.
"Lorsqu'une majorité de mes étudiants utilisent une IA générative pour une tâche, je trouve des phrases ou même des phrases complètes communes," a déclaré Taransky à TechCrunch. "Nous discutons en classe de la façon dont ces sorties [IA] sont homogènes, ressemblant à un homme blanc occidental."
Dans son propre travail, Taransky utilise plutôt le texte de l'IA comme un commentaire artistique. Son dernier roman, qui n'a pas été publié, met en scène une femme qui veut plus de son amoureux, et utilise donc un modèle IA pour créer une version de son potentiel amoureux avec qui elle peut échanger des SMS. Taransky a généré les textes de l'IA en utilisant ChatGPT d'OpenAI, car les messages sont censés être synthétiques.
Ce qui rend ChatGPT utile pour son projet, selon Taransky, c'est le fait qu'il manque d'humanité. Il n'a pas d'expérience vécue, il ne peut qu'approximer et émuler. Entraînée sur des bibliothèques entières de livres, l'IA peut déceler les leitmotivs des grands auteurs, mais ce qu'elle produit se résume finalement à une mauvaise imitation.
Cela rappelle la citation de "Will Hunting". L'IA peut vous donner les détails sur chaque livre d'art jamais écrit, mais ne peut pas vous dire à quoi ça sent dans la Chapelle Sixtine.
C'est une bonne nouvelle pour les écrivains de fiction qui craignent que l'IA puisse les remplacer, en particulier les jeunes écrivains qui peaufinent encore leur art. Ils peuvent être rassurés par le fait qu'ils deviendront plus forts en vivant et en apprenant : en pratiquant, en essayant de nouvelles choses, et en ramenant cette connaissance sur la page.
L'IA telle que nous la connaissons aujourd'hui a du mal avec cela. Pour preuve, il suffit de regarder sa manière d'écrire.
