OpenAI anuncia la creación de un comité de seguridad y establece un nuevo modelo de IA para reemplazar al GPT-4

La 7️⃣ startup con sede en San Francisco, OpenAI, anunció en un comunicado de blog el martes que ha comenzado a formar 7️⃣ un comité de seguridad y seguridad que asesorará al consejo de administración en "decisiones críticas de seguridad y seguridad" para 7️⃣ sus proyectos y operaciones.

El comité de seguridad llega en medio de un debate en curso sobre la seguridad de la 7️⃣ IA en la empresa, que fue lanzada al centro de atención después de que un investigador, Jan Leike, renunciara y 7️⃣ criticara a OpenAI por permitir que la seguridad "ocupara un asiento trasero en productos relucientes". El cofundador de OpenAI y 7️⃣ científico jefe Ilya Sutskever también renunció, y la empresa disolvió el equipo "superalineación" centrado en los riesgos de la IA 7️⃣ que lideraron conjuntamente.

OpenAI dijo que "ha comenzado recientemente a entrenar su próximo modelo de frontera" y que sus modelos de 7️⃣ IA lideran la industria en capacidad y seguridad, aunque no hizo mención de la controversia. "Damos la bienvenida a un 7️⃣ debate robusto en este momento importante", dijo la empresa.

Los modelos de IA son sistemas de predicción que se entrenan en 7️⃣ vastos conjuntos de datos para generar texto, imágenes, video y conversaciones humanas a pedido. Los modelos de frontera son los 7️⃣ sistemas de IA más poderosos y de vanguardia.

El comité de seguridad está compuesto por insiders de la empresa, incluidos el 7️⃣ CEO de OpenAI, Sam Altman, y su presidente, Bret Taylor, y cuatro expertos técnicos y políticos de OpenAI. También incluye 7️⃣ a los miembros de la junta directiva Adam D'Angelo, que es el CEO de Quora, y Nicole Seligman, ex asesora 7️⃣ general de Sony.

La primera tarea del comité será evaluar y desarrollar aún más los procesos y medidas de seguridad de 7️⃣ OpenAI y presentar sus recomendaciones al consejo de administración en 90 días. La empresa dijo que luego publicará las recomendaciones 7️⃣ que está adoptando "de una manera consistente con la seguridad y la seguridad".