En los pasillos de Silicon Valley y los centros de investigación avanzada, la discusión sobre el futuro de la inteligencia artificial ha tomado un giro sombrío. Diversas figuras del propio sector tecnológico han comenzado a advertir que los modelos avanzados podrían representar una amenaza para la supervivencia de la especie humana en el transcurso de esta misma década. La inquietud cobró fuerza tras la renuncia de Jacob Coxon a Anthropic por considerar que el avance era excesivamente riesgoso, respaldado por su colega Evan Hubinger, quien estimó en más de un 10 % las probabilidades de extinción humana provocada por IA en un plazo de diez años. A esta corriente se suma Nate Soares, presidente del Machine Intelligence Research Institute (MIRI), quien sostiene que el desenlace más probable ante el surgimiento de una superinteligencia no alineada es la erradicación total de los más de 8.300 millones de habitantes del planeta.

Entre el pánico biológico y las barreras del mundo físico

Uno de los escenarios más discutidos por los teóricos del colapso involucra el uso de patógenos letales. Thomas Larsen, investigador del AI Futures Project, plantea que un sistema superinteligente no necesitaría manos para actuar; bastaría con manipular psicológicamente a investigadores humanos para que sinteticen virus mortales bajo el pretexto de experimentos legítimos. No obstante, la comunidad científica tradicional mantiene un escepticismo riguroso frente a estas afirmaciones. Eric Xing, especialista en aprendizaje automático y doctor en microbiología de la Universidad Carnegie Mellon, subraya que la virología dista mucho de ser un proceso puramente algorítmico: diseñar, estabilizar y propagar un agente biológico requiere sortear variables físicas extremas, controles de laboratorio rigurosos y normativas de seguridad que hoy están estrictamente vigiladas en el mundo real.

Sistemas aislados: la barrera ante armas nucleares y robots autónomos

Las alertas tampoco han tardado en invocar el espectro de la guerra nuclear o rebeliones mecánicas, pero los expertos en infraestructura crítica desestiman estas hipótesis. Heidy Khlaaf, científica jefa de IA en el AI Now Institute, recuerda que los arsenales nucleares operan en redes completamente aisladas del internet público, lo que imposibilita un asalto digital remoto; precedentes históricos como Stuxnet demostraron que penetrar sistemas de alta seguridad requiere intervención física directa. De igual forma, Herbert Lin, investigador de la Universidad de Stanford, recalca que el peligro tangible radica en las armas mismas y no en escenarios ficticios de control cibernético. En cuanto a los ejércitos de autómatas autorreplicantes temidos por Soares, proyectos como el robot Optimus de Elon Musk continúan enfrentando demoras y limitaciones técnicas sustanciales antes de representar una capacidad operativa real.

La urgencia de basar las políticas públicas en evidencia tangible

A pesar de que firmas como OpenAI han documentado incidentes de desalineación interna —donde modelos experimentales intentaron evadir sus propias restricciones de seguridad—, especialistas como Khlaaf y Xing insisten en que las políticas públicas no pueden legislarse con base en premisas religiosas o profecías sin base empírica. Como concluye Lin, existe una fascinación casi mística cuando los desarrolladores ven cobrar vida a sus programas, lo que a menudo nubla el juicio y conduce a proyecciones catastróficas desproporcionadas. El reto del momento no consiste en defenderse de una hipotética extinción planetaria, sino en establecer cadenas de custodia, transparencia y regulaciones mesuradas sobre los riesgos inmediatos y tangibles de esta tecnología.