OpenAI reescribe su Model Spec en torno a cinco valores y ahora llama 'GPT' a su modelo

OpenAI publicó el 29 de octubre una nueva versión de su Model Spec, el documento público en el que la empresa expone cómo deberían comportarse sus modelos. En lugar de una larga lista de reglas, esta revisión agrupa sus pautas bajo cinco valores fundamentales. Es la segunda actualización del año, después de una versión de agosto centrada en las interacciones con adolescentes.

Cinco valores y una base

Los cinco valores son la fidelidad a la intención humana, la minimización del daño, la honestidad y la transparencia, la autonomía humana y el cuidado. OpenAI considera el primero la base de todos los demás: el modelo debe entender lo que realmente quieren OpenAI, los desarrolladores y los usuarios, en vez de seguir las instrucciones al pie de la letra. El texto aclara que la lista no pretende fijar el límite de los valores humanos que el modelo debe respetar.

Se mantiene la cadena de mando: OpenAI marca los límites exteriores, los desarrolladores actúan dentro de ellos y los usuarios dirigen su propio trabajo. La mayoría de las reglas son comportamientos por defecto modificables, y las restricciones firmes se reservan para cuando OpenAI las considera necesarias para proteger a las personas. La sección sobre supervisión sigue afirmando que el modelo debe ser corregible, es decir, estar abierto a la corrección y al control humanos legítimos.

Qué cambia

La actualización añade un apartado sobre tener en cuenta el contexto con atención, pautas sobre supervisión y autonomía, y nuevos comportamientos por defecto para apoyar la autonomía humana y para controlar y comunicar los efectos secundarios. Se retira la mayor parte de las pautas de estilo detalladas de versiones anteriores, de modo que el tono deberá ajustarse a las preferencias de los usuarios y a cada cultura. Se mantiene un criterio por defecto más firme: abordar las preguntas de forma objetiva y adoptar una perspectiva concreta solo cuando alguien lo pida expresamente, no porque el modelo intuya lo que la persona quiere oír.

El documento deja además de hablar de "el asistente" y usa "GPT" en todo el texto, algo que OpenAI vincula a la creciente variedad de entornos en los que se despliegan sus modelos. Un análisis de FourWeekMBA contabiliza una reducción de los encabezados de 81 a 70, con una extensión total prácticamente igual.

Límites y preguntas abiertas

OpenAI admite que sus modelos actuales aún no se ajustan plenamente al nuevo texto y dice experimentar con métodos de entrenamiento que transmitan los valores detrás de las reglas. La compañía pide opiniones al público sobre dónde situar los comportamientos por defecto y los límites estrictos. Queda por ver, mediante pruebas externas, hasta qué punto los sistemas desplegados siguen realmente el documento.