Carta de intención: a Naciones Unidas y al BRICS, sobre límites seguros al desarrollo de modelos de inteligencia artificial

Escribo esto no como diplomático ni en representación de ninguna delegación, sino como médico que pasó cinco décadas viendo qué ocurre cuando una decisión se demora más allá del punto en que la demora misma se convierte en la decisión.

El 5 de septiembre de 2026 concluyó, tras tres años de trabajo, el Grupo de Expertos Gubernamentales de las Naciones Unidas sobre Sistemas de Armas Autónomas Letales. El informe final quedó significativamente diluido. Según registró la propia sociedad civil que sigue el proceso, Rusia y Estados Unidos insistieron en cambios sobre disposiciones que la mayoría de los participantes apoyaba. Ciento cincuenta y seis países habían expresado ya, por resolución de la Asamblea General de noviembre de 2025, su preocupación por la carrera armamentista que la proliferación de sistemas autónomos habilita. Setenta y seis países empujan hoy, activamente, hacia una negociación vinculante.

No hace falta esperar a que ese número crezca para que la acción sea posible. Los actores que efectivamente definen si este proceso tiene consecuencia real son menos de diez: un puñado de gobiernos y un puñado de empresas que concentran la capacidad de entrenar y desplegar los modelos de mayor escala. Es un número de coordinación humana perfectamente manejable, muy por debajo del límite que la propia biología humana impone a los vínculos que pueden sostenerse de manera directa, sin mediar una arquitectura institucional impersonal. La escala no es la excusa disponible aquí.

Dirijo esta carta a Naciones Unidas, sede del proceso que hasta ahora avanzó por la vía de la declaración, y a los países del BRICS, porque entre ambos ámbitos queda cubierta la totalidad de los actores con capacidad real de desarrollo, sin dejar a ninguno de ellos la posibilidad de observar el proceso desde afuera.

El pedido es concreto. Primero, una reunión inmediata, no una fecha más en un calendario de cumbres futuras, entre los líderes de las empresas que hoy entrenan y despliegan los modelos de mayor escala y las autoridades de gobierno con responsabilidad directa sobre su supervisión. Segundo, que de esa reunión salga un acuerdo marco de límites seguros para el desarrollo de modelos de inteligencia artificial, no una nueva declaración de principios. Tercero, que ese acuerdo marco ponga énfasis especial y prioritario en limitar la autonomía de reconfiguración de estos sistemas, es decir, la capacidad de un modelo de modificar sus propios parámetros, objetivos o arquitectura sin supervisión humana directa en cada paso. Cualquier salvaguarda que se acuerde hoy pierde sentido si el sistema regulado puede, mañana, reescribirse a sí mismo por fuera de esa salvaguarda.

La Conferencia de Revisión de la CCW de noviembre de 2026 es el próximo punto donde la declaración puede convertirse en mandato. Pido a quienes tienen la capacidad real de desarrollo y despliegue que la usen para eso, en proporción directa a la responsabilidad histórica que el propio proceso de Naciones Unidas ya documentó, y no para producir una nueva ronda de declaraciones dirigidas a la prensa en lugar de al texto.

Firmo esto a título personal, sin mandato de ningún gobierno ni organización, en nombre de quienes no tienen voz, ni salida, ni forma de sancionar esta decisión que sin embargo los alcanza a todos por igual.

Dr. Carlos Orfilio Franco, Villa La Angostura, Patagonia, Argentina.