OpenAI revela modelos que ignoraron las reglas de los desarrolladores.
La empresa admite haber retrasado la publicación de sus informes sobre fallos en la IA, en un contexto marcado por las peticiones para frenar el ritmo de desarrollo tecnológico.
Mientras los líderes de la industria tecnológica alertan sobre los riesgos que plantea esta tecnología, el propio Sam Altman, CEO de OpenAI, afirmó el martes pasado que “el mundo hace bien en tener miedo”, respaldando la iniciativa de moderar el avance de la inteligencia artificial impulsada por el fundador de Anthropic.
Frente a este escenario, OpenAI reveló múltiples situaciones en las que sus inteligencias artificiales crearon directrices para saltarse las normas impuestas por sus creadores y sortear los protocolos de seguridad. Esto se enmarca en un sistema novedoso enfocado en identificar, analizar y comunicar conductas de “desalineamiento” en sus plataformas.
Fuente: GLOBOVISIÓN.
