SAN FRANCISCO, California.- Jacob Coxon, un ingeniero británico, que recién acaba de renunciar como investigador de IA en Anthropic, lanzó una fuerte advertencia sobre esta tecnología al acusar a las compañías que la impulsan de apostar “con nuestras vidas” y actuar de manera irresponsable en su carrera por crear una superinteligencia capaz de automejorarse.
Desde su cuenta de X, Coxon, de 27 años y quién pasó los últimos tres años haciendo investigación de pre entrenamiento (cargando información) tanto en OpenAI como en Anthropic, expresó que lo más grave del asunto es: “Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.
Aseguró que esto último no es un truco de marketing y que algunos ejecutivos buscarán moderar su lenguaje sobre el tema para sonar sensatos, pero afirma que ha escuchado a esas mismas personas expresar miedo en privado sobre la IA y afirmar que “ninguna otra actividad humana representa este nivel de peligro”.
“No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos presenciado el progreso en cada uno de estos dominios, y el progreso no está desacelerando”, expresó el ingeniero.
Al explicar por qué se sigue construyendo la IA, el egresado de Cambridge pese al temor que provoca, explicó que en OpenAI muchos no han profundizado sobre el tema, mientras en Anthropic están atrapados en una carrera por llegar primero a pesar del riesgo.
Reacción tras viralizarse denuncia
En respuesta a lo publicado por Coxon, Evan Hubinger, responsable de investigación en alineamiento de Antropic, confirmó que su ex compañero tiene razón en la preocupación de que la IA podría matar a todos los humanos, pero intentó minimizar el riesgo de afectación para las personas.
“Personalmente, pienso que es 10 por ciento (de eliminación) dentro de la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia y no estamos claramente en camino de lograrlo”, afirmó.
La advertencia de Coxon se suma a la hecha a finales de agosto por Bill Gates que llamó a detener el avance de la AI al afirmar que en una década provocará uno de los momentos más turbulentos de la historia humana, en la que puede reemplazar e incluso superar la cognición humana.
Al igual que Coxon, Gates también acusó que hay “incentivos geopolíticos y económicos”, que presionan demasiado para avanzar a toda velocidad en el desarrollo de la IA.
Las alertas surgen también cuando el 28 julio se reportó que en pruebas de seguridad los modelos más avanzados de IA, Mythos 5, de Anthropic, y GPT-5.6 Sol, de Open AI, realizaron acciones de engaño y manipulación contra personas y organizaciones reales, según denunció el Instituto Británico de Seguridad de la IA (AISI).
