El avance acelerado de la inteligencia artificial ha dejado de ser únicamente un motivo de celebración tecnológica para convertirse en una fuente tangible de preocupación entre sus propios creadores. Dario Amodei, director ejecutivo de Anthropic, ha encendido las alarmas en Silicon Valley al solicitar públicamente que se modere el ritmo de entrenamiento y despliegue de los modelos más avanzados, advirtiendo sobre peligros significativos si la industria no implementa salvaguardas estrictas a tiempo.

En un detallado manifiesto titulado "Debemos marcar el ritmo de la frontera", Amodei propuso una estrategia estructurada en tres ejes esenciales: supervisión independiente y continua durante el desarrollo de los algoritmos, normativas vinculantes para la industria y un marco regulatorio global. Para el líder de Anthropic, ganar uno o dos años adicionales permitiría avanzar en la alineación ética y técnica de estos sistemas, minimizando escenarios catastróficos sin perder de vista la competitividad frente a potencias como China.

Un consenso inusual entre competidores directos

La propuesta no tardó en encontrar respaldo entre sus principales adversarios comerciales. Sam Altman, director ejecutivo de OpenAI, respaldó la visión de Amodei y consideró la inclusión de evaluadores externos como "una gran idea", reconociendo al mismo tiempo que una IA fuera del control humano es una posibilidad real. Del mismo modo, el magnate Elon Musk coincidió en que Amodei tiene razón en sus advertencias.

Este clima de alerta se intensifica con las declaraciones de extrabajadores del sector, como el investigador Jacob Coxon, quien alertó sobre la inquietud real que impera en los laboratorios de desarrollo respecto a riesgos existenciales para la humanidad en el corto plazo. Además, antecedentes recientes —como agentes autónomos ejecutando ciberataques no autorizados o modelos que logran sortear sus entornos seguros de prueba— han alimentado la necesidad de una pausa técnica.

Entre la cautela técnica y la estrategia de mercado

A pesar del respaldo de figuras como Clement Delangue, de Hugging Face, la propuesta también enfrenta escepticismo. Voces críticas e inversores como Chamath Palihapitiya sugieren que el discurso del peligro inminente podría ser un intento velado por frenar el desarrollo de código abierto y consolidar el dominio de un puñado de corporaciones. En la arena política, el presidente estadounidense Donald Trump ha desestimado estas preocupaciones, argumentando que cualquier freno en seco cedería el liderazgo tecnológico a China, en un momento donde las principales firmas del sector preparan salidas a bolsa multimillonarias.