Une IA générative est un programme qui produit du texte, des images ou du code à partir d'une demande écrite en langage courant. Pour l'utiliser au travail, il n'est pas nécessaire de savoir comment elle marche. Il est nécessaire de savoir ce qu'elle fait bien, ce qu'elle fait mal, et ce qu'elle ne fera jamais.
Une définition qui tient en trois phrases
Le programme a lu une quantité considérable de textes. À partir de là, il a appris à prédire, mot après mot, la suite la plus probable d'un texte donné. Quand vous lui écrivez une demande, il produit la suite la plus probable de cette demande. C'est tout. C'est beaucoup, et c'est aussi la source de toutes ses limites : il ne sait pas ce qui est vrai, il sait ce qui est probable.
Ce qu'elle fait bien
Tout ce qui est transformation de texte : résumer un document long, reformuler pour un autre public, traduire, structurer des notes en compte rendu, proposer un plan, corriger, comparer deux versions. Tout ce qui est démarrage : une première version d'un mail difficile, d'un argumentaire, d'une trame de réunion. Et tout ce qui est questionnement : lui demander ce qui manque à un raisonnement, quelles objections on va rencontrer, ce qu'un lecteur pressé retiendra.
Ce qu'elle ne fait pas
Elle ne sait rien de votre entreprise, sauf ce que vous lui donnez. Elle ne va pas chercher une information à jour, sauf si l'outil est connecté à une recherche, et alors il faut le vérifier. Elle ne prend pas de décision : elle produit un texte qui ressemble à une décision, ce qui est différent. Et elle ne se rend pas compte qu'elle se trompe. Elle est aussi sûre d'elle quand elle a raison que quand elle invente.
Où elle se trompe, et comment
Elle invente des références, des chiffres, des citations, des noms, avec une aisance parfaite. C'est ce qu'on appelle une hallucination, et ce n'est pas un défaut de jeunesse qui va disparaître : c'est la conséquence directe de sa façon de fonctionner. Elle reproduit aussi les biais de ce qu'elle a lu. Et elle a tendance à aller dans le sens de la demande : si vous lui demandez de confirmer une idée, elle la confirme. C'est pour cela que la vérification n'est pas une option.
Comprendre, en six pages
Vos questions
Ce qu'on nous demande sur ce sujet, et ce qu'on répond.
Qu'est-ce qu'une IA générative ?
Un programme qui produit du texte, des images ou du code à partir d'une demande écrite en langage courant. Il a appris à prédire la suite la plus probable d'un texte. Il ne sait pas ce qui est vrai : il sait ce qui est probable.
Que fait bien une IA générative au travail ?
Transformer du texte : résumer, reformuler, traduire, structurer, corriger, comparer. Démarrer : une première version d'un mail, d'un argumentaire, d'une trame. Questionner : ce qui manque, quelles objections, ce qu'un lecteur retiendra.
Pourquoi une IA générative invente-t-elle des choses ?
Parce qu'elle produit la suite la plus probable, pas la suite vraie. Une référence plausible est produite avec la même assurance qu'une référence réelle. Ce n'est pas un défaut passager, c'est sa façon de fonctionner, et cela impose de vérifier.