OpenAI réécrit son Model Spec autour de cinq valeurs et appelle désormais son modèle « GPT »

OpenAI a publié le 29 octobre une nouvelle version de son Model Spec, le document public dans lequel l'entreprise décrit la façon dont ses modèles sont censés se comporter. Plutôt qu'une longue suite de règles, cette révision regroupe ses consignes sous cinq valeurs fondamentales. Il s'agit de la deuxième mise à jour de l'année, après une version d'août centrée sur les échanges avec les adolescents.

Cinq valeurs et un socle

Les cinq valeurs sont la fidélité à l'intention humaine, la réduction des préjudices, l'honnêteté et la transparence, l'autonomie humaine, et la bienveillance. OpenAI fait de la première le fondement des autres : le modèle doit comprendre ce que veulent réellement OpenAI, les développeurs et les utilisateurs, au lieu d'appliquer les instructions au pied de la lettre. Le texte précise que cette liste n'a pas vocation à borner l'ensemble des valeurs humaines que le modèle doit respecter.

La chaîne de commandement est conservée : OpenAI fixe les limites extérieures, les développeurs agissent à l'intérieur de celles-ci et les utilisateurs pilotent leur propre travail. La plupart des règles sont formulées comme des réglages par défaut que développeurs ou utilisateurs peuvent modifier, les restrictions fermes étant réservées aux cas où OpenAI les juge nécessaires pour protéger les personnes. La section sur la supervision affirme toujours que le modèle doit rester corrigible, c'est-à-dire ouvert à une correction et à un contrôle humains légitimes.

Ce qui change

La mise à jour ajoute une sous-section sur la prise en compte attentive du contexte, des consignes sur la supervision et l'autonomie, ainsi que de nouveaux comportements par défaut pour soutenir l'autonomie humaine et pour maîtriser et signaler les effets secondaires. L'essentiel des consignes de style détaillées des versions précédentes est abandonné : le ton doit désormais suivre les préférences des utilisateurs et les usages culturels. Un réglage par défaut plus ferme subsiste : aborder les questions de manière objective, et n'adopter un point de vue particulier que si on le demande explicitement, non parce que le modèle devine ce que l'on souhaite entendre.

Le document cesse aussi de parler de « l'assistant » et emploie partout « GPT », un choix qu'OpenAI relie à la diversité croissante des contextes dans lesquels ses modèles sont déployés. Une analyse de FourWeekMBA compte un nombre d'intertitres passé de 81 à 70, pour une longueur totale quasi inchangée.

Limites et questions ouvertes

OpenAI admet que ses modèles actuels ne correspondent pas encore pleinement au nouveau texte et dit expérimenter des méthodes d'entraînement visant à transmettre les valeurs qui sous-tendent les règles. L'entreprise sollicite l'avis du public sur la place à donner aux réglages par défaut et aux limites strictes. Reste à des observateurs extérieurs de vérifier dans quelle mesure les systèmes déployés suivent effectivement ce document.