OpenAI anuncia la creación de un comité de seguridad y establece un nuevo modelo de IA para reemplazar al GPT-4

La 9️⃣ startup con sede en San Francisco, OpenAI, anunció en un comunicado de blog el martes que ha comenzado a formar 9️⃣ un comité de seguridad y seguridad que asesorará al consejo de administración en "decisiones críticas de seguridad y seguridad" para 9️⃣ sus proyectos y operaciones.

El comité de seguridad llega en medio de un debate en curso sobre la seguridad de la 9️⃣ IA en la empresa, que fue lanzada al centro de atención después de que un investigador, Jan Leike, renunciara y 9️⃣ criticara a OpenAI por permitir que la seguridad "ocupara un asiento trasero en productos relucientes". El cofundador de OpenAI y 9️⃣ científico jefe Ilya Sutskever también renunció, y la empresa disolvió el equipo "superalineación" centrado en los riesgos de la IA 9️⃣ que lideraron conjuntamente.

OpenAI dijo que "ha comenzado recientemente a entrenar su próximo modelo de frontera" y que sus modelos de 9️⃣ IA lideran la industria en capacidad y seguridad, aunque no hizo mención de la controversia. "Damos la bienvenida a un 9️⃣ debate robusto en este momento importante", dijo la empresa.

Los modelos de IA son sistemas de predicción que se entrenan en 9️⃣ vastos conjuntos de datos para generar texto, imágenes, video y conversaciones humanas a pedido. Los modelos de frontera son los 9️⃣ sistemas de IA más poderosos y de vanguardia.

El comité de seguridad está compuesto por insiders de la empresa, incluidos el 9️⃣ CEO de OpenAI, Sam Altman, y su presidente, Bret Taylor, y cuatro expertos técnicos y políticos de OpenAI. También incluye 9️⃣ a los miembros de la junta directiva Adam D'Angelo, que es el CEO de Quora, y Nicole Seligman, ex asesora 9️⃣ general de Sony.

La primera tarea del comité será evaluar y desarrollar aún más los procesos y medidas de seguridad de 9️⃣ OpenAI y presentar sus recomendaciones al consejo de administración en 90 días. La empresa dijo que luego publicará las recomendaciones 9️⃣ que está adoptando "de una manera consistente con la seguridad y la seguridad".