El MI5 pone la lupa en la IA y advierte que hasta un improvisado podría armar un desastre biológico

Lo dijo el jefe de los espías británicos y la frase retumba: la inteligencia artificial ya está del lado de los atacantes. Ken McCallum, director general del MI5, aseguró que la IA amplifica las capacidades de grupos terroristas y organizaciones criminales para acceder a conocimientos científicos que antes eran coto de expertos. En su análisis anual de amenazas, apuntó directamente a un riesgo que suena a película pero que, según él, ya está en carpeta: que alguien arme un arma biológica o aprenda a liberar un patógeno usando estas herramientas y la información que está tirada en internet.

“La IA ya está intensificando la lucha por la ciberseguridad entre atacantes y defensores.”Ken McCallum, director general del MI5

Para McCallum, el punto más delicado no es la tecnología en sí, sino la combinación de dos cosas: herramientas cada vez más accesibles para cualquiera que tenga conexión, y papers científicos sensibles que están al alcance de un click. Por eso el MI5 anunció la creación de un Centro de Evaluación de Amenazas de IA, que funcionará dentro del propio servicio. La idea no es sólo mirar el lado oscuro, sino también mapear oportunidades y entender cómo prepararse antes de que los riesgos se materialicen.

Un cambio de época que ya empezó

El director reconoció que dedica buena parte de su tiempo a tratar de anticiparse al vértigo tecnológico. No es sólo intuición: las agencias de inteligencia de varios países vienen mirando con lupa la velocidad con que estas herramientas se popularizan, incluso entre gente sin formación técnica. Me lo contaba la becaria que sigue estos temas en el área de ciencia: lo que antes requería un laboratorio y años de estudio, hoy puede empezar a explorarse desde una notebook con un chat abierto. Eso cambia las reglas del juego.

¿Y eso para qué sirve?

• Sirve para entender que la frontera entre una herramienta de trabajo y un arma potencial puede ser más finita de lo que parece.
• Sirve para explicar términos densos con un ejemplo de la casa: así como una calculadora ayuda a un contador pero también puede usarse para inflar números, la IA puede acelerar un descubrimiento médico o guiar a alguien con malas intenciones.
• Sirve para tomar dimensión de por qué los organismos de inteligencia están creando áreas específicas dedicadas a esta tecnología, en lugar de tratarla como un tema más en la pileta general.
• Sirve para preguntarse qué regulates deberían discutir los gobiernos sobre el acceso a información sensible cuando una IA puede leerla, resumirla y ponerla al servicio de cualquiera en cuestión de segundos.

La pregunta queda flotando, y es de las que conviene no esquivar: ¿qué medidas creen que deberían tomar los gobiernos para regular el acceso a información sensible en sistemas de inteligencia artificial? Porque, comoó el propio McCallum, la pelea entre quienes atacan y quienes defienden ya empezó, y la IA la está acelerando.