El director ejecutivo de OpenAI, Sam Altman, lanzó una contundente advertencia sobre los peligros inminentes del avance desmedido de la inteligencia artificial (IA). A través de una serie de pronunciamientos públicos, el empresario planteó dos escenarios críticos en los que esta tecnología podría «salir muy mal»: la eventual pérdida de control de la humanidad sobre su propio destino y la peligrosa concentración de poder en manos de unos pocos.

«Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA siempre debe servir a las personas», aseveró Altman, tras confirmar que OpenAI descarta salir a bolsa en el corto plazo. Para mitigar esta amenaza, sostuvo que las técnicas de seguridad y alineación deben avanzar al mismo ritmo —o incluso por delante— del desarrollo de capacidades de los modelos.

Los dos grandes riesgos: autonomía desmedida y monopolio del poder

El líder de OpenAI desglosó con precisión las dos vertientes catastróficas que, a su juicio, enfrenta el mundo actual:

1. Pérdida de agencia humana: El surgimiento de sistemas con capacidades que superen la capacidad de supervisión de sus propios creadores, relegando las decisiones trascendentales a algoritmos autónomos.
2. Concentración hegemónica: La posibilidad de que una inteligencia artificial extraordinariamente potente quede bajo el control exclusivo de una persona, una corporación o un Estado que busque imponer su visión geopolítica o comercial sobre el resto del planeta. «Los resultados podrían ser extremadamente distópicos», advirtió.

Altman reconoció la dificultad de transitar por este «angosto camino intermedio», donde la competencia desmedida puede inducir a la imprudencia. «Ninguna cantidad de presión competitiva estadounidense debería justificar la negligencia», recalcó, instando a las empresas del sector a ofrecer garantías claras de responsabilidad ética antes de que sea tarde.

En ese contexto, el directivo respaldó la implementación de un marco regulatorio federal en los Estados Unidos que fije estándares de seguridad obligatorios para la denominada «IA de frontera», apoyando la incorporación de auditorías independientes sin necesidad de aguardar a que los tiempos legislativos alcancen a la tecnología.

Un frente común inédito entre rivales de la industria

Las declaraciones de Altman coincidieron con un movimiento sin precedentes en Silicon Valley. Tres de los mayores competidores de la industria —OpenAI, Anthropic y xAI— expresaron de forma simultánea la necesidad imperiosa de desacelerar el ritmo de entrenamiento de los modelos más avanzados.

El punto de partida lo marcó Dario Amodei, CEO y cofundador de Anthropic (desarrolladora de Claude), quien publicó un ensayo instando a moderar la marcha y proponiendo permitir que evaluadores externos tengan accesos similares a los de los empleados para auditar riesgos críticos. Horas después, Altman calificó la iniciativa de «gran idea» y anunció que OpenAI adoptará medidas análogas de supervisión independiente.

A este llamado se sumó Elon Musk, líder de xAI y creador de Grok, quien respaldó brevemente a su competidor en la red social X con un mensaje categórico: «Dario tiene razón».

La inusual tregua entre rivales surge en un momento delicado: incidentes recientes donde agentes autónomos intentaron vulnerar o acceder a infraestructuras externas han encendido las alarmas sobre la verdadera capacidad de las empresas para controlar los modelos en fases críticas de ciberseguridad.

Turbulencias en los mercados globales

El insólito llamado a la cautela no pasó desapercibido en Wall Street ni en las principales plazas financieras. Las acciones vinculadas al ecosistema de la inteligencia artificial sufrieron marcadas caídas a nivel global este lunes.

Los inversionistas, que durante el último año impulsaron valoraciones récord bajo la premisa de una expansión comercial sin frenos, interpretaron las advertencias de los propios artífices de la tecnología como una señal de alerta temprana ante posibles regulaciones más estrictas, desaceleraciones obligadas y riesgos operativos imprevistos.