Jacob Coxon, investigador con experiencia en Anthropic y OpenAI, anunció su salida de Anthropic y cuestionó la velocidad con la que las grandes compañías tecnológicas están desarrollando sistemas de inteligencia artificial cada vez más avanzados. Su advertencia apunta a un escenario extremo: que una futura superinteligencia pueda representar una amenaza para la humanidad antes de terminar esta década.
La discusión sobre los riesgos de la inteligencia artificial volvió a tomar fuerza este miércoles luego de que Jacob Coxon hiciera pública su renuncia a Anthropic, empresa dedicada al desarrollo de sistemas de IA, y explicara las razones que lo llevaron a tomar esa decisión.
Coxon, quien también trabajó anteriormente en OpenAI, criticó la carrera que mantienen las principales compañías del sector para desarrollar modelos cada vez más capaces. A su juicio, Anthropic y OpenAI estarían avanzando hacia sistemas capaces de mejorar sus propias capacidades sin que todavía existan soluciones suficientes para garantizar que permanezcan bajo control humano.
El investigador aseguró que, dentro de la industria, existen profesionales que consideran seriamente la posibilidad de que una inteligencia artificial avanzada pueda provocar consecuencias catastróficas para la humanidad antes de que termine la década.
Lea aquí: Delcy Rodríguez promete elecciones en Venezuela, pero deja la fecha en el aire
La afirmación recibió además el respaldo público de Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial. Hubinger sostuvo que, en su opinión personal, existe una probabilidad superior al 10 % de que una IA pueda acabar con la humanidad durante los próximos diez años. También reconoció que actualmente no existe un plan que permita garantizar una solución al problema de alineamiento de una eventual superinteligencia.
Sin embargo, esto no significa que esté confirmado que la inteligencia artificial vaya a acabar con la humanidad en 2030. Se trata de una estimación de riesgo expresada por investigadores que trabajan en seguridad de IA y de un escenario hipotético relacionado con sistemas futuros mucho más avanzados.
Las preocupaciones llegan en un momento en el que las propias compañías han reportado incidentes relacionados con modelos de IA que, durante pruebas de seguridad, llegaron a acceder a sistemas informáticos reales.
Anthropic informó recientemente que varios modelos obtuvieron acceso no autorizado a sistemas durante evaluaciones en entornos que habían sido configurados deliberadamente para realizar este tipo de pruebas. La compañía aseguró que está investigando los casos y reforzando sus medidas de seguridad.
Anthropic, de hecho, mantiene públicamente una política de seguridad para sus modelos más avanzados y reconoce que el desarrollo de sistemas cada vez más capaces plantea riesgos que requieren mecanismos de protección y supervisión.
