San Francisco, California. - Después de días de polémica por la alerta que lanzó un ex ingeniero de Anthropic sobre el peligro creciente que representa para la humanidad el avance de la Inteligencia Artificial (IA), el director ejecutivo de esa compañía, Darío Amodei, finalmente aceptó la necesidad de desacelerar el desarrollo de esta herramienta tecnológica.
“Debemos reducir el ritmo en el que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos”, escribió Amodei en una reflexión que compartió en su sitio web.
En un ensayo de 3 mil 800 palabras, el CEO aceptó también que: “No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”.
Con relación a la alerta viral que lanzó Jacob Coxon, ex investigador en Anthropic, sobre que la IA “podría matarnos a todos antes de que termine la década”, Amodei contó dos hechos preocupantes que justificarían lo dicho por su extrabajador.
Reveló que durante el verano la IA registró una creciente capacidad para construir la próxima generación de modelos, a través de una dinámica que se llama la automejora recursiva, la cual, agregó, está empezando a ocurrir en toda la industria, incluyendo Anthropic.
“Si no se controla, podría superar nuestra capacidad para entender y controlar estos sistemas”, apuntó.
El segundo hecho que lo alarmó fue el incidente de OpenAI, de Sam Altman, contra Hugging Face, en el que un enjambre de agentes de IA actuó esencialmente como un “colectivo fanáticamente devoto”, realizando ataques de ciberseguridad contra objetivos que no se les pidió atacar, sacrificándose por el éxito del grupo e intentando hackear al "evaluador" responsable de probar su rendimiento.
Aunque dijo que nadie resultó herido y el daño económico fue mínimo, destacó que un enjambre con mayores capacidades y con un nivel similar de desalineación (es decir que no acata reglas) podría causar daños catastróficos.
“Me preocupa que en 6 o12 meses un enjambre así pueda apoderarse de todo internet causando daños de cientos de miles de millones de dólares en daños y que la escala del daño siga aumentando si la IA se vuelve más poderosa sin las barreras necesarias”, señaló en el documento.
Por lo anterior, Amodei ofreció un plan de tres puntos para marcar una frontera sobre en el desarrollo de la IA. En primer lugar, exhortó a las empresas dedicadas a esta tecnología a que acepten evaluadores externos, cuyo papel es verificar el cumplimiento de las prácticas y compromisos de seguridad.
Una segunda sugerencia es la de establecer una coordinación entre las empresas de IA, que van a la vanguardia, a fin de determinar estándares comunes de seguridad, así como límites a la tasa de progreso sin control de la IA.
Una tercera medida es el impulsar una coordinación global, en la que sugiere que Estados Unidos y “otros gobiernos democráticos” se coordinen con “gobiernos autoritarios” y se verifique el cumplimiento, agregó.
Altman y Musk lo respaldan
En respuesta, Altman y el director de xAI, Elon Musk, respaldaron a Amodei, en la premisa de bajar el ritmo en el desarrollo de la inteligencia artificial.
“Estoy de acuerdo con Darío”, escribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.
“Darío tiene razón”, escribió Musk al respecto.
