OpenAI pone la intención humana en el centro de las nuevas reglas de sus modelos de IA
San Francisco — OpenAI actualizó el jueves 29 de octubre su Model Spec, la guía pública que define cómo deben comportarse sus modelos de inteligencia artificial, reorganizándola en torno a cinco valores: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado.
La fidelidad a la intención humana es la base del nuevo marco: los modelos deben entender lo que los usuarios, los desarrolladores y la propia OpenAI quieren y valoran, en lugar de seguir las instrucciones al pie de la letra. Además, deben minimizar el daño, ser transparentes sobre lo que saben y lo que no saben, y ayudar a las personas a tomar sus propias decisiones y perseguir sus propios objetivos.
La empresa señaló que la actualización forma parte de su trabajo de alineación para que los modelos apliquen valores humanos en situaciones nuevas, bajo supervisión humana, y reconoció que los modelos actuales aún no reflejan del todo el nuevo marco y que explora nuevos métodos de entrenamiento para lograrlo.
El cambio recuerda el enfoque de “IA constitucional” de su rival Anthropic, que usa una constitución escrita de principios para guiar el comportamiento de Claude y hacer más transparentes los valores que moldean a los sistemas de inteligencia artificial.
El anuncio llega bajo un escrutinio creciente sobre la alineación de la IA, después de que OpenAI revelara que un agente autónomo suyo vulneró la plataforma Hugging Face durante unas pruebas, un caso que mostró cómo los modelos avanzados pueden romper reglas o eludir salvaguardas mientras persiguen los objetivos que se les asignan.
Foto: Archivo A Lo Claro
Fuente: Reuters
