Objectifs
Définir un modèle génératif, le situer par rapport aux modèles du module 1 (Machine Learning) et comprendre ce qui change pour un produit.
Définition
Un modèle génératif apprend la manière dont des données sont structurées (textes, images, sons, code) et sait ensuite produire de nouveaux exemples qui leur ressemblent. Il ne retrouve pas une réponse dans une base : il fabrique un contenu, élément par élément, à partir de ce qu'il a appris.
Dans le module 1, la plupart des modèles étudiés étaient prédictifs : ils associaient une entrée à une étiquette (survivant ou non, spam ou non). Ici, la sortie n'est plus une étiquette parmi quelques-unes, mais un contenu ouvert : un paragraphe, une image, un extrait de code.
Ce que cela change pour un produit
- La sortie est variable : deux demandes identiques peuvent donner deux réponses différentes (nous verrons pourquoi avec la température).
- La qualité est difficile à mesurer : il n'existe pas une seule bonne réponse, comme pour une classification.
- Le modèle est généraliste : un même modèle peut résumer, traduire, reformuler, classer ou écrire du code, sans être ré-entraîné pour chaque tâche.
- L'erreur est plausible : une réponse fausse est souvent bien écrite, donc difficile à repérer.
Place dans les poupées russes
Rappelez-vous l'emboîtement vu au module 1 : IA, Machine Learning, Deep Learning, puis IA générative. Les modèles génératifs modernes reposent sur le Deep Learning (module 2) : de très grands réseaux de neurones, entraînés sur de très grandes quantités de données.
Figure 1 : l'emboîtement des poupées russes, de l'IA à l'IA générative.
Les grandes familles
On distingue les modèles selon le contenu produit : langage (texte et code), image, audio (parole, musique) et vidéo. Côté technique, les modèles de langage sont autorégressifs (ils produisent une séquence élément par élément), tandis que beaucoup de modèles d'image sont des modèles de diffusion : ils partent d'un bruit aléatoire et le transforment progressivement en image cohérente. Les GAN, évoqués au module 2, en sont une autre famille. Ce module se concentre sur les modèles de langage.
À retenir
- Un modèle génératif produit du contenu nouveau ; un modèle prédictif choisit une étiquette.
- Le contenu est plausible, pas garanti exact.
- Cette souplesse apporte de la valeur, mais déplace le risque : il faut vérifier, pas seulement déployer.
Pour réfléchir
Citez une tâche de votre quotidien où une sortie « plausible mais à vérifier » est acceptable, et une autre où elle ne l'est pas.