Preocupantes informaciones respecto al desarrollo de la Inteligencia Artificial. Un ingeniero que ha trabajado durante los últimos tres años en algunas de las compañías punteras de IA ha decidido abandonar Anthropic al considerar que el sector avanza hacia sistemas cada vez más poderosos sin suficientes garantías para controlar sus posibles consecuencias.
Jacob Coxon, ingeniero británico de 27 años que también ha trabajado en OpenAI, la compañía creadora de ChatGPT, ha anunciado su dimisión de Anthropic porque, según denuncia, ninguna de las dos empresas “está actuando con responsabilidad”. “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y jugando con nuestras vidas”, ha asegurado en un hilo publicado en X.
Por si no fuera poco, más alarmante ha sido la respuesta que ha llegado desde la propia Anthropic. Evan Hubinger, responsable de ciencia de alineamiento de la compañía, ha puesto incluso una cifra al riesgo que contempla: “Realmente creemos sinceramente que la IA podría matar a todos los humanos. Personalmente, pienso que hay más de un 10% de posibilidades dentro de la próxima década”.
“No subestiméis el poder de esta tecnología”
Coxon, que fue uno de los desarrolladores que trabajaron en GPT-4o y GPT-4.5, sostiene que se está subestimando la velocidad y el alcance de los avances tecnológicos.
“Pronto serán sistemas sobrehumanos que podrán hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, advierte.
El ingeniero va todavía más lejos y asegura que los propios responsables del desarrollo de estos sistemas son conscientes de los riesgos. “Las personas que construyen IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de marketing”, afirma.
Según Coxon, algunos ejecutivos e investigadores suavizan sus declaraciones para mantener un discurso más prudente, mientras que en privado expresan preocupaciones mucho mayores.
Diferencias entre OpenAI y Anthropic
Después de haber trabajado en ambas compañías, Coxon establece una diferencia entre ellas. Asegura que en OpenAI muchos trabajadores “no han internalizado profundamente” todavía las posibles consecuencias para la civilización, mientras que en Anthropic considera que esos riesgos sí son ampliamente comprendidos.
El problema, sostiene, es que Anthropic se encuentra atrapada en una carrera por alcanzar antes que sus competidores una inteligencia artificial superior a la humana. La compañía partiría de la idea de que otros actores podrían no desarrollar esta tecnología responsablemente y que, por tanto, debe llegar primero.