OpenAI anuncia la creación de un comité de seguridad y establece un nuevo modelo de IA para reemplazar al GPT-4

La 1️⃣ startup con sede en San Francisco, OpenAI, anunció en un comunicado de blog el martes que ha comenzado a formar 1️⃣ un comité de seguridad y seguridad que asesorará al consejo de administración en "decisiones críticas de seguridad y seguridad" para 1️⃣ sus proyectos y operaciones.

El comité de seguridad llega en medio de un debate en curso sobre la seguridad de la 1️⃣ IA en la empresa, que fue lanzada al centro de atención después de que un investigador, Jan Leike, renunciara y 1️⃣ criticara a OpenAI por permitir que la seguridad "ocupara un asiento trasero en productos relucientes". El cofundador de OpenAI y 1️⃣ científico jefe Ilya Sutskever también renunció, y la empresa disolvió el equipo "superalineación" centrado en los riesgos de la IA 1️⃣ que lideraron conjuntamente.

OpenAI dijo que "ha comenzado recientemente a entrenar su próximo modelo de frontera" y que sus modelos de 1️⃣ IA lideran la industria en capacidad y seguridad, aunque no hizo mención de la controversia. "Damos la bienvenida a un 1️⃣ debate robusto en este momento importante", dijo la empresa.

Los modelos de IA son sistemas de predicción que se entrenan en 1️⃣ vastos conjuntos de datos para generar texto, imágenes, video y conversaciones humanas a pedido. Los modelos de frontera son los 1️⃣ sistemas de IA más poderosos y de vanguardia.

El comité de seguridad está compuesto por insiders de la empresa, incluidos el 1️⃣ CEO de OpenAI, Sam Altman, y su presidente, Bret Taylor, y cuatro expertos técnicos y políticos de OpenAI. También incluye 1️⃣ a los miembros de la junta directiva Adam D'Angelo, que es el CEO de Quora, y Nicole Seligman, ex asesora 1️⃣ general de Sony.

La primera tarea del comité será evaluar y desarrollar aún más los procesos y medidas de seguridad de 1️⃣ OpenAI y presentar sus recomendaciones al consejo de administración en 90 días. La empresa dijo que luego publicará las recomendaciones 1️⃣ que está adoptando "de una manera consistente con la seguridad y la seguridad".