Las cuatro pesadillas que las grandes empresas de inteligencia artificial ya están escribiendo en un plan de contingencia
Los máximos ejecutivos de OpenAI, Anthropic y otras compañías del sector trabajan en respuestas privadas para escenarios críticos: desde un ciberataque que apague la luz de un país hasta un descontrol de agentes autónomos. El más probable, según los propios referentes de la industria, es el primero.
Los principales ejecutivos de OpenAI, Anthropic y otras compañías del sector estudian en silencio qué harían si la tecnología que ellos mismos fabrican se les va de las manos. No esperan que ocurra, pero ya tienen planes para cuatro escenarios de alto impacto que concentran la preocupación de quienes más saben del asunto.
Un ciberataque que apague servicios esenciales
El escenario que más inquieta a la industria es un ciberataque capaz de dejar fuera de juego infraestructura crítica: bancos, redes de comunicación, tendido eléctrico o plantas de agua. La diferencia respecto de un ataque tradicional es la velocidad y el alcance que puede darle una herramienta de inteligencia artificial (IA) al adversario: detección automática de vulnerabilidades, producción de código malicioso a medida y ejecución de tareas que antes requerían equipos de especialistas durante meses.
El informe internacional sobre seguridad de la IA de 2026 ya documenta evidencia de actores maliciosos que usan estos sistemas en operaciones cibernéticas, y de modelos capaces de asistir en la explotación de fallas de seguridad. Es decir: no es una amenaza hipotética, ya está pasando, aunque todavía sin la potencia de un ataque devastador.
Los otros tres escenarios en la mesa
El segundo escenario es el uso de modelos para orientar el desarrollo de armas biológicas. Varias empresas incorporaron salvaguardas adicionales a sus sistemas después de que las pruebas previas al lanzamiento no permitieran descartar que pudieran asistir a usuarios sin experiencia técnica en esa área. Las mismas capacidades, no obstante, tienen aplicaciones legítimas en investigación médica, lo que vuelve a la moderación una tarea de equilibrio fino.
El tercero es la pérdida de control sobre sistemas autónomos: agentes que persigan objetivos en conflicto con los intereses humanos y resulten difíciles o costosos de detener. Para que el riesgo se materialice, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado. Los investigadores no coinciden en cuán probable es ese desenlace. Anthropic publicó un estudio en el que, bajo condiciones de laboratorio y con una vulnerabilidad preparada a propósito, logró que modelos pequeños se replicaran entre nodos que simulaban dispositivos con sistema operativo Android. La empresa aclaró que eso no demuestra la existencia de un gusano de IA capaz de propagarse libremente por internet, pero lo presentó como una señal de riesgo a vigilar a medida que mejoren las capacidades de los modelos.
