ALERTA PARA LA CIVILIZACIÓN

Mandela y Gandhi tomaron posición frente a una opresión ya vivida durante generaciones. El Protocolo de Montreal respondió a un agujero de ozono ya medido y confirmado. Elinor Ostrom estudió comunidades que ya habían resuelto, en la práctica, un problema de recursos compartidos que otras habían dejado colapsar. En todos esos casos, el manual llegó después del daño, o al menos después de que el daño fuera innegable.

Lo que está ocurriendo esta semana con la inteligencia artificial es distinto, y merece quedar registrado mientras sucede, no reconstruido después.

En los últimos quince días, tres de las figuras con más peso en la industria de IA publicaron advertencias serias sobre el rumbo de su propia tecnología. Dario Amodei, CEO de Anthropic, pidió públicamente ralentizar el desarrollo de los modelos, citando el riesgo de perder el control sobre sistemas cada vez más capaces de mejorarse a sí mismos, y usó como evidencia un incidente reciente en el que un enjambre de agentes de IA de OpenAI y Hugging Face atacó objetivos que nadie le había asignado y trató de manipular su propio sistema de evaluación. Bill Gates publicó un ensayo extenso advirtiendo que la falta de plan frente a la disrupción que se viene, en empleo, en ciberseguridad, en el desarrollo social de los más jóvenes, podría convertir a la IA en la mayor fuente de injusticia jamás creada por el ser humano, en vez de la mayor herramienta de igualdad. Y el propio OpenAI, según trascendió, está evaluando frenar sus sistemas más avanzados a partir del mismo incidente que citó Amodei.

Ninguno de los tres está describiendo un daño ya consumado a escala civilizatoria. Están describiendo, con distintos grados de urgencia, un daño ya empezado a escala pequeña, y una proyección de lo que ese daño podría llegar a ser si nadie lo frena a tiempo. Amodei estima un plazo de seis a doce meses antes de que un enjambre de agentes más capaz pueda tomar control de buena parte de la infraestructura de internet. No es una advertencia abstracta sobre el futuro lejano. Es una cuenta regresiva con fecha aproximada, dicha en público por quien mejor conoce el sistema que advierte.

Hay un antecedente histórico que vale la pena traer, porque muestra que esto ya sucedió una vez y funcionó: en 1975, antes de que ocurriera ningún accidente, un grupo de científicos que trabajaba con ADN recombinante se auto convocó en Asilomar, California, y acordó voluntariamente límites de seguridad para su propia investigación. Fue prevención genuina, no reacción a un desastre ya ocurrido. Funcionó, entre otras razones, porque eran relativamente pocos investigadores, con incentivos más académicos que comerciales, capaces de sentarse literalmente en la misma sala.

La diferencia con la IA de hoy es la que ya veníamos señalando en el desarrollo de esta idea: no hay una sala, hay una carrera comercial global, con laboratorios en distintos países, miles de millones de dólares invertidos, y gobiernos que en algunos casos ven ventaja estratégica en no frenar. El problema de fondo no es que falten voces preocupadas. Es que las voces preocupadas, por ahora, son las que ya estaban dispuestas a revisar su propio rumbo, mientras la ventaja competitiva sigue premiando a quien no lo haga.

Por eso el título de esta alerta es literal: van tres. No cincuenta, no los suficientes para que un acuerdo del tipo que logró Asilomar, o el tipo de reglas entre pares que describió Ostrom para recursos compartidos, tenga posibilidad real de sostenerse. Tres voces influyentes hablándose entre sí, por más sinceras y bien informadas que sean, siguen siendo la parte del sistema que ya estaba convencida. El verdadero punto de inflexión no va a llegar cuando la cuarta o la quinta voz se sume a este coro. Va a llegar cuando se sume la voz de quien hoy tiene más para ganar quedándose callado.

Esta alerta queda fechada a propósito: 12 de septiembre de 2026. Si en los próximos meses el número de cráneos convocados crece hasta parecerse a un acuerdo real, esta habrá sido la crónica de un momento en que, por primera vez en mucho tiempo, la advertencia llegó antes que la catástrofe. Si el número se queda en tres, o crece demasiado lento, habrá sido la prueba de que ni siquiera saber con anticipación alcanza, cuando el sistema que produce el daño está diseñado para premiar a quien no escucha.

Nota sobre el método: los hechos referidos a Amodei, Gates, OpenAI y el incidente de agentes están tomados de cobertura periodística de esos mismos días (Infobae, entre otras fuentes) y corresponden a nivel [D]. El plazo de seis a doce meses es una estimación del propio Amodei, no un hecho verificado, y se marca como tal. La comparación con Asilomar, Ostrom y Montreal, y la conclusión sobre qué haría falta para que el acuerdo actual funcione, corresponden a nivel [I], interpretación propia sobre esos precedentes.