Ken McCallum, jefe del MI5, advierte que la inteligencia artificial puede acelerar la búsqueda de armas biológicas por parte de grupos terroristas

Desde Londres, el director general del MI5, Ken McCallum, encendió una alarma que venía tomando forma en los despachos de inteligencia europeos: la inteligencia artificial ya está al alcance de cualquier persona y, entre sus usos potenciales, preocupa especialmente la posibilidad de que grupos terroristas o organizaciones criminales la empleen para desarrollar armas biológicas o aprender a liberar agentes patógenos.

La advertencia se conoció el martes, en el marco de la presentación del análisis anual de amenazas que el organismo difunde cada año. McCallum sostuvo que la IA está intensificando la disputa entre atacantes y defensores en el terreno de la ciberseguridad, y que esa misma lógica se replica en otros campos sensibles, como la proliferación de conocimiento científico de doble uso, es decir, aquel que sirve tanto para fines médicos como para fines destructivos.

Qué dijo el director del MI5, en sus propios términos

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

El funcionario explicó que, así como un cocinero puede usar una receta para preparar un plato sano o para arruinar una comida, la misma información que sirve para entrenar un modelo de lenguaje puede ser aprovechada por un atacante para sintetizar instrucciones sobre patógenos. La clave, según su exposición, está en la combinación de dos factores: la accesibilidad creciente de herramientas de IA potentes y la disponibilidad de literatura científica sensible en fuentes abiertas de internet.

• El MI5 anunció la creación de un Centro de Evaluación de Amenazas de IA, que funcionará dentro del propio organismo y se dedicará a analizar riesgos y oportunidades de esta tecnología para la seguridad nacional.
• La preocupación central es el uso de IA para acceder a conocimiento científico complejo vinculado a armas biológicas y a la liberación de agentes patógenos.
• McCallum advirtió que la velocidad de adopción de la IA supera la capacidad de muchos usuarios para comprender sus implicancias.
• El servicio de inteligencia británico busca posicionarse en la frontera de los cambios tecnológicos antes de que los riesgos se materialicen.

La creación del nuevo centro se inscribe en una tendencia que ya se observa en otras agencias occidentales, como la NSA estadounidense o los servicios de inteligencia de la Unión Europea, donde a montar unidades internas para auditar modelos de lenguaje y estudiar patrones de uso sospechosos. En el caso británico, el organismo dependiente del Home Office apunta a que ese trabajo no se limite a reaccionar frente a incidentes, sino a mapear de manera sistemática qué tipo de consultas podrían delatar a un usuario con intenciones de weaponización biológica.

Lo que aún no se sabe

Aunque el anuncio marca un posicionamiento claro, el MI5 no difundió detalles técnicos sobre el funcionamiento del nuevo centro, ni estimaciones públicas de cuántos intentos de uso malicioso de IA para fines biológicos se detectaron en el último año. Tampoco quedó precisado cómo se articulará ese trabajo con los desarrolladores de modelos ni con otros servicios de inteligencia aliados, ni qué criterios se aplicarán para definir qué consultas o qué usuarios cruzarán el umbral entre el uso legítimo y el uso delictivo de estas herramientas. Esas definiciones pendientes serán, en los próximos meses, la verdadera prueba de fuego de la advertencia que Ken McCallum dejó planteada desde Londres.