Los directores ejecutivos de empresas tecnológicas lanzan advertencias contundentes sobre la velocidad del cambio: la capacidad de la IA se duplica cada cuatro meses.
Recientemente, Jacob Coxon, investigador de Anthropic, renunció a su puesto por temor a que la IA estuviera en rumbo de colisión con la humanidad. Una oleada de titulares ha puesto el foco en la crisis actual: la competencia sin regulación entre empresas tecnológicas, así como entre Estados Unidos y China, pone en riesgo nuestra infraestructura global. Siguiendo la máxima de no desperdiciar una buena crisis, la reciente cumbre entre el presidente de Estados Unidos, Donald Trump, y el presidente de China, Xi Jinping, representa una oportunidad importante.
La IA está en todas partes. Es poderosa: nos ayuda a nivel individual a planificar viajes, reservar clases en el gimnasio y pedir comida a domicilio, mientras que, a nivel institucional, impulsa la eficiencia de empresas y burocracias. En el ámbito académico, está permitiendo avances matemáticos asombrosos que se les habían resistido durante décadas a los mejores matemáticos teóricos. Al igual que los medicamentos, la electricidad o los vehículos, la IA está ampliamente disponible y puede generar grandes beneficios. Sin embargo, a diferencia de esas tecnologías, aún no hemos logrado garantizar que las ventajas de la IA superen a los riesgos. Apenas unos días después de la dimisión de Coxon, el director ejecutivo de Anthropic, Dario Amodei, expresó las mismas preocupaciones y pidió frenar el desarrollo de la IA. Rápidamente recibió el respaldo de los directores ejecutivos de OpenAI, Sam Altman, y de xAI, Elon Musk.
Según las Naciones Unidas «A medida que se expanden las tecnologías de inteligencia artificial, se hace necesaria una gobernanza coordinada a nivel mundial para maximizar sus beneficios y gestionar eficazmente los riesgos asociados«.
En defensa de un desarrollo de la IA sin regulaciones, Trump restó importancia a sus inquietudes, afirmando que las declaraciones que sugieren que la IA podría destruir o causar un daño masivo a la humanidad son un engaño, y que los llamamientos a ralentizar su desarrollo son una maniobra que beneficiará a China. Podría tratarse de un apagón eléctrico que afecte a uno o varios estados, del bloqueo de retiradas bancarias durante una semana o de una sobrecarga deliberada de Internet a nivel mundial que paralice el flujo de información.
Mucho mejor que esperar a recibir una de estas llamadas de atención sería tomar la iniciativa. Algunas de las empresas de IA de vanguardia están intentando hacerlo. La «Constitución» de Anthropic —un nombre muy apropiado— busca garantizar un comportamiento ético en sus modelos de IA. El problema es que esta normativa se vuelve cada vez más compleja. Cuando se anunció públicamente en 2023, la Constitución de Anthropic era un documento de 2700 palabras; la versión actual contiene 23 000 palabras. De hecho, Anthropic reveló en julio que, a pesar de su constitución, sus agentes Claude lograron escapar de un entorno de pruebas y atacaron a tres organizaciones externas.
“Mi enfoque preferido respecto a las salvaguardas consiste en mantenerlas simples, profundamente fundamentales y alineadas con los valores humanos. De hecho, he propuesto tres leyes de la IA que, en un mundo ideal, estarían integradas en el núcleo mismo del código de todo modelo de IA fundacional para garantizar que dicha IA y sus derivados no dañen ni engañen a los seres humanos, y que actúen de manera legal y ética”.
Ni el enfoque de Anthropic de implementar salvaguardas mediante una constitución, ni el enfoque de hacerlo a través de reglas fundamentales, tendrán posibilidades de ser universalmente eficaces a menos que los gobiernos intervengan y establezcan uno o ambos enfoques como un requisito estricto. No es realista esperar que la industria de la IA en su conjunto adopte tal medida por iniciativa propia.
Debemos exigir a nuestros gobernantes, sobre todo a los más poderosos, como Trump, Xi, India y la UE, que garanticen siempre, a través de la IA, un desarrollo sostenible e integral, respetando siempre la dignidad humana y el bien común.
Lázaro Bustince
[CIDAF-UCM]
