OpenAI, el renombrado desarrollador de inteligencia artificial, ha anunciado la formación de un nuevo Comité de Seguridad y Protección, liderado por altos ejecutivos. Este movimiento estratégico se produce tras la disolución de su anterior junta de supervisión a mediados de mayo. El comité recién establecido tendrá el papel crucial de proporcionar recomendaciones a la junta de OpenAI sobre decisiones importantes de seguridad y protección en relación con sus proyectos y operaciones.
Al mismo tiempo, el desarrollador del asistente virtual ChatGPT reveló que han comenzado el entrenamiento de su último «modelo de frontera». La empresa, en una reciente publicación en su blog, expresó su expectativa de que los sistemas resultantes mejoren significativamente sus capacidades en el camino hacia la AGI o inteligencia general artificial, un nivel de inteligencia artificial que es equivalente o superior a la inteligencia humana.
La creación de un nuevo equipo de supervisión responde a la disolución de un equipo anterior de OpenAI que se enfocaba en los riesgos a largo plazo de la IA. Los líderes de ese equipo, el cofundador de OpenAI Ilya Sutskever y Jan Leike, habían anunciado anteriormente sus salidas de la start-up apoyada por Microsoft.
A medida que el desarrollo de productos de IA se vuelve más avanzado, la seguridad de la IA ha tomado un papel central en conversaciones más amplias. Simultáneamente, los desarrolladores están deliberando sobre el cronograma de llegada de la AGI y los posibles riesgos que podría traer.
El nuevo comité de seguridad incluye a Bret Taylor, Adam D’Angelo y Nicole Seligman del consejo de administración de OpenAI, quienes trabajarán junto a Sam Altman. Tras la salida de Jan Leike, Altman expresó tristeza y reconoció que OpenAI tiene «mucho más por hacer».
En los próximos 90 días, el grupo de seguridad evaluará los procesos actuales y las medidas de protección de OpenAI, antes de proponer sus recomendaciones al consejo corporativo. OpenAI ha planeado proporcionar una actualización sobre las sugerencias adoptadas en una fecha futura.