Mustafa Suleyman, CEO de Microsoft AI, advierte: "No hace falta malicia para que una máquina sea peligrosa"

Mustafa Suleyman, director ejecutivo de Microsoft AI y cofundador de DeepMind, lanza una advertencia inquietante: una máquina no necesita malicia ni conciencia para representar una amenaza. Basta con que funcione tan bien que ningún ser humano pueda detenerla.

A diferencia de los escenarios propios de la ciencia ficción, Suleyman no habla de robots con voluntad propia, sino de sistemas autónomos, invisibles y profundamente funcionales que ya están reconfigurando el mundo sin supervisión humana. Según él, la verdadera amenaza del siglo XXI radica en la extrema eficiencia de estas herramientas: su capacidad para operar por encima del entendimiento humano y generar una dependencia inadvertida.

Desde los mercados financieros hasta la defensa militar, muchas de las estructuras críticas del mundo moderno están delegando el control en algoritmos cuyo funcionamiento no comprendemos del todo. Suleyman advierte que el peligro no es teórico, sino operativo.

En su libro La ola que viene, describe cuatro frentes de colapso que podrían marcar el futuro inmediato: ciberataques masivos, pandemias artificiales, inteligencia artificial autónoma y la fragmentación geopolítica impulsada por la tecnología.

1. Ciberataques: guerras sin misiles

El primer riesgo es también el más urgente. Suleyman estima que el 80% de las infraestructuras críticas globales funcionan sobre sistemas obsoletos y vulnerables. “No hace falta un ejército ni misiles, solo acceder a los códigos correctos”, señala.

Un corte eléctrico de 72 horas podría paralizar un país entero, con un impacto mayor al de una ofensiva militar tradicional. Las guerras cibernéticas —dice— no serán futuristas, sino silenciosas y reales. Como ejemplo menciona la reciente caída del sistema eléctrico en España, que afectó al 60% del país. Aunque oficialmente se descartó un ataque, para Suleyman es una advertencia tangible: “Un apagón no es solo un corte de luz, es el colapso de una sociedad conectada”.

2. Pandemias creadas en laboratorio

El segundo escenario es aún más perturbador. Con el acceso generalizado a herramientas como CRISPR y la ayuda de la IA para simular mutaciones, fabricar un patógeno de alto impacto ya no requiere un laboratorio secreto.

Suleyman advierte que, con menos de 100.000 dólares y conocimientos intermedios en biología, un individuo podría crear algo más letal que el COVID-19. El auge de la biología sintética y proyectos como el Genoma Humano Escrito abren la puerta a virus con una mortalidad del 50%, resistentes a vacunas y capaces de propagarse en sistemas sanitarios aún demasiado lentos.

3. Inteligencia artificial sin frenos

El verdadero riesgo, insiste, no está en la rebelión de las máquinas, sino en su utilidad desbordante. Sistemas que ya negocian en bolsa, desarrollan medicamentos o diseñan estrategias militares no necesitan conciencia para transformar el mundo. Solo necesitan funcionar, y hacerlo mejor que nosotros.

La inteligencia artificial no necesita pensar como un humano para reemplazarlo. Puede tomar decisiones de enorme impacto sin supervisión directa, operando con precisión matemática y sin margen de error emocional. Ese nivel de autonomía plantea un dilema civilizatorio: ¿cómo controlar algo que ya lo hace todo mejor?

4. Fragmentación del orden mundial

La última gran advertencia apunta a la disolución del orden geopolítico tradicional. Para Suleyman, la rivalidad tecnológica entre EE. UU. y China es apenas el inicio de una fragmentación mayor.

Visualiza un futuro dominado por microestados digitales, comunidades autogestionadas por criptomonedas y territorios donde la soberanía ya no la ejercerán los gobiernos, sino las plataformas tecnológicas. Lo llama “feudalismo tecnológico”: un poder distribuido, algorítmico y descentralizado, donde blockchain y tokens reemplazan las leyes nacionales.

En este nuevo mapa del poder, las fronteras no serán físicas, sino de código. Y mientras esta transformación avanza, las advertencias de Suleyman suenan cada vez menos exageradas. Porque lo que está en juego no es solo la evolución de la inteligencia artificial, sino la estabilidad misma de una civilización que avanza más rápido de lo que puede regularse.