24h España.

24h España.

OpenAI revela Model Spec: las reglas que guiarán el comportamiento de sus inteligencias artificiales

OpenAI revela Model Spec: las reglas que guiarán el comportamiento de sus inteligencias artificiales

En un esfuerzo por definir las reglas y pautas que rigen el comportamiento de sus modelos de Inteligencia Artificial (IA), OpenAI ha lanzado 'Model Spec', destinado a perfeccionar la forma en que los modelos como ChatGPT responden a las solicitudes de los usuarios en términos de tono, personalidad y duración de respuestas.

Los modelos de IA se basan en una gran cantidad de datos, pero su comportamiento al responder a las consultas no se programa directamente, lo que a veces conduce a resultados incorrectos o incoherentes según explicó la compañía tecnológica liderada por Sam Altman.

En un intento de brindar un enfoque claro sobre cómo moldear el comportamiento de los modelos de IA, OpenAI ha compartido el documento 'Model Spec', que establece reglas específicas para dirigir el comportamiento de sus modelos en la API de OpenAI y el chatbot ChatGPT.

Como parte de este esfuerzo, la compañía espera que los modelos ofrezcan resultados beneficiosos para la humanidad y que las respuestas de ChatGPT sean útiles para los desarrolladores y usuarios, todo mientras se adhieren a las normas sociales y legales.

Además, se promueve que los modelos sigan las mejores intenciones de los usuarios y, en caso de conflicto, hagan preguntas para aclarar la solicitud requerida.

OpenAI también subraya la importancia de no intentar cambiar la opinión de nadie a través de sus modelos, y enfatiza la necesidad de garantizar respuestas útiles y objetivas que fomenten la justicia y la bondad sin difundir odio.

A partir de ahora, las especificaciones incluidas en 'Model Spec' servirán como guía para investigadores y entrenadores de IA que trabajan en el aprendizaje reforzado mediante la retroalimentación humana, según lo expresado por OpenAI en un comunicado.