OpenAI Presenta “Model Spec” Para Controlar Su Algoritmo, Pero Tiene Un Truco

El gigante de la inteligencia artificial (IA), OpenAI, lanzó recientemente lo que llamó Model Spec. Esta es una solución diseñada para profundizar la conversación pública sobre cómo deberían comportarse los modelos de IA.

Al igual que su cultura, OpenAI también innova para que la tecnología de la que es pionera sea mejor y más segura para todos.

OpenAI Model Spec, la esencia principal

Como destacó la empresa, su objetivo es dar a los humanos un mayor control de la IA con el acuerdo de lo que la sociedad considera ético. Dijo que Model Spec es una continuación de la investigación en curso que continúa patrocinando sobre cómo se forman los modelos de IA.

El documento presentado detalla cómo están diseñados para comportarse los prototipos de la compañía durante el uso de OpenAI API y ChatGPT.

OpenAI aclara que el comportamiento del modelo en estas aplicaciones depende de cómo responden a las aportaciones de los humanos. Estas respuestas varían desde el tono, la personalidad y la duración de la respuesta.

En los últimos meses, los usuarios se han quejado de alucinaciones en aplicaciones de inteligencia artificial, incluido ChatGPT. Estas alucinaciones se muestran de tal manera que la aplicación da una respuesta incorrecta a lo que se requiere. A veces, los modelos de IA actúan de manera perezosa o desprecian abiertamente las indicaciones de los usuarios.

A lo largo de los años se han sugerido una serie de enfoques correctivos, incluidos esfuerzos de investigadores chinos para combatir las alucinaciones de la IA. Sin embargo, con la innovación OpenAI Model Spec, la compañía es optimista en que los humanos puedan unirse aún más a los esfuerzos para mejorar la IA.

Vale destacar que, la institución señaló que utilizará Model Spec para apoyar el aprendizaje por refuerzo de los entrenadores de inteligencia artificial. Aunque, aún no está claro de si el modelo será de código abierto para que lo utilicen otros competidores de IA.

Al definir el truco, Sam Altman señaló que Model Spec mejorará con el tiempo, ya que no empezará a funcionar como una solución perfecta.

Seguridad y regulación de la IA

Con la tasa de crecimiento de la tecnología, abundan los temores sobre su impacto potencialmente dañino para los humanos. Esto exige un impulso cada vez mayor para la seguridad de la IA.

A pesar de ser una empresa privada, OpenAI se encuentra a la vanguardia de la revolución de la IA. Como resultado, ocupa un lugar central en el llamado a la seguridad en todos los ámbitos.

Vale mencionar que, empresas interesadas en el mundo IA como Microsoft and NVIDIA también se mantienen cautelosas sobre el impacto de sus inventos en el público. La mayoría de estos líderes tecnológicos forman la Junta de Seguridad de IA del gobierno. En base a esto, los expertos creen que se realizarán esfuerzos más concertados para hacer que la tecnología sea segura para todos.