Tras la salida de sus dos directivos, el equipo OpenAI (ChatGPT) responsable de la seguridad de una potencial superinteligencia artificial (IA) fue disuelto y sus miembros se integraron en otros grupos de investigación de la empresa. OpenAI confirmó esta información a la AFP el viernes 17 de mayo, precisando que el cambio de estructura comenzó hace varias semanas. El inventor de ChatGPT asegura que los investigadores responsables de la seguridad de los modelos de IA podrán trabajar en colaboración con los ingenieros que desarrollan estos modelos.
Pero los dos directivos del antiguo equipo acaban de abandonar la empresa estrella de Silicon Valley. Jan Leike explicó el viernes en X, antes Twitter, que su dimisión se debe a desacuerdos fundamentales con la dirección sobre las prioridades de la empresa: innovación o seguridad. “Hemos llegado a un punto de ruptura”, afirmó el ingeniero que dirigió el equipo responsable de la “superalineación”, es decir, de garantizar que una futura IA general, tan inteligente como los humanos, esté alineada con nuestros valores.
Sam Altman, cofundador y jefe de la empresa con sede en San Francisco, dijo que estaba “muy triste de ver a (Jan Leike) irse”. «Tiene razón, todavía tenemos mucho que hacer (en materia de alineación e investigación de seguridad), y estamos decididos a hacerlo», añadió, prometiendo un mensaje más largo pronto.
El equipo de “superalineación” también estuvo dirigido por Ilya Sutskever, cofundador de OpenAI, quien anunció su salida el martes. En X, dijo que estaba «seguro de que OpenAI construirá una inteligencia artificial general que sea segura y beneficiosa». Ex científico jefe de la empresa, formó parte de la junta directiva que votó a favor de despedir a Sam Altman en noviembre pasado, antes de dar marcha atrás.
Con ChatGPT, OpenAI lanzó la revolución de la IA generativa (producción de contenidos mediante una simple consulta en el lenguaje cotidiano), que entusiasma a Silicon Valley pero también preocupa a muchos observadores y reguladores, desde California hasta Washington y Bruselas. Sobre todo cuando Sam Altman habla de crear una IA general, es decir con capacidades cognitivas equivalentes a las de los humanos. OpenAI presentó el lunes una nueva versión de ChatGPT que ahora puede mantener conversaciones orales y fluidas con sus usuarios, un paso más hacia asistentes de IA cada vez más personales y eficientes.
Jan Leike pidió el viernes a todos los empleados de OpenAI que «actúen con la gravedad» que justifica lo que están construyendo. “Creo que deberíamos dedicar mucho más tiempo a prepararnos para las próximas generaciones de modelos, en seguridad, controles, protección, ciberseguridad, alineación con nuestros valores, privacidad de datos, impacto social y otros temas”, enumeró.
