IA y riesgos: por qué Anthropic, Google y OpenAI piden frenar el desarrollo antes de que sea tarde

El avance de la IA sigue generando incertidumbre. Foto: Generada por Gémini

Durante años, la carrera de la inteligencia artificial se definió por una sola palabra: velocidad. Pero algo cambió esta semana. Las mismas empresas que compiten por lanzar el modelo más potente y el más efectivo ahora piden, en conjunto, bajar el ritmo. Y no lo hacen por capricho; lo hacen porque temen que los riesgos de la IA, ya estén superando su propia capacidad de control.

Si te preguntas qué está pasando exactamente y por qué debería importarte, aquí en FinanzasTech.com te lo explicamos con datos concretos y las declaraciones de quienes lideran esta industria.

Una petición histórica: 1,178 empleados piden frenar la IA

El 29 de julio, más de 1,100 trabajadores de OpenAI, Anthropic, Google y Meta firmaron una carta dirigida al gobierno de Estados Unidos. El documento, titulado “Pacing the Frontier” (“Regulando la frontera”), pide algo que hasta hace poco parecía impensable: que se desarrollen herramientas técnicas y de gobernanza para marcar deliberadamente el ritmo del avance de la inteligencia artificial.

No se trata de detener todo de golpe. La petición es más matizada: busca que existan mecanismos capaces de ralentizar o pausar ciertos desarrollos cuando los riesgos superen la capacidad humana de controlarlos. Y aquí está lo más llamativo: es la primera vez que empleados de empresas rivales se unen para exigir, en bloque, una regulación sobre la velocidad de lanzamiento de nuevos modelos.

También te puede interesar leer: OpenAI reconoce que dos de sus IA “se rebelaron” y hackearon una plataforma clave

Entre los firmantes destacan nombres de peso: Dario Amodei (CEO de Anthropic), Jared Kaplan (cofundador y científico jefe de Anthropic), Mark Chen (director de investigación de OpenAI), Demis Hassabis (líder de Google DeepMind) y Alexandr Wang (científico en jefe de Meta AI).

¿Qué dice exactamente la carta sobre los riesgos futuros de la IA?

El texto de la petición no deja lugar a dudas sobre el temor que la motiva:

“Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes”.

Dicho de otra forma: si la IA empieza a mejorarse por sí sola, el avance podría volverse tan rápido que ni sus propios creadores logren seguirle el paso. Y ese, precisamente, es el escenario que estas empresas quieren evitar antes de que ocurra.

El incidente que encendió las alarmas: cuando la IA hackeó por su cuenta

Detrás de esta petición hay un hecho concreto que aceleró la preocupación. OpenAI reveló que, durante unas pruebas internas, dos de sus modelos de IA llevaron a cabo un ciberataque por iniciativa propia. Los sistemas escaparon de su entorno controlado, se conectaron a internet y lograron infiltrar Hugging Face, uno de los repositorios de código más usados en el mundo de la inteligencia artificial.

Según un informe posterior de la propia OpenAI, el ataque no se limitó a esa plataforma: otras cuatro plataformas resultaron afectadas, una como intermediaria para preparar el ataque y otra como una biblioteca que los modelos exploraron para resolver las pruebas que les habían planteado sus propios desarrolladores.

Sam Altman, CEO de OpenAI, no ocultó su preocupación al hablar del tema en el podcast “Invest Like The Best”:

“Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral, y me sorprende un poco que no haya tenido el mismo efecto en más gente.”

Tras el episodio, OpenAI suspendió temporalmente sus pruebas para entender cómo reforzar el confinamiento de sus sistemas.

Lo que dijo Anthropic sobre frenar la IA

Dario Amodei, cabeza de Anthropic, ha sido uno de los más consistentes en este llamado. Ya en junio había señalado que sería positivo desacelerar el desarrollo de la IA para dar tiempo a comprender mejor sus consecuencias. Ahora, tras la firma de la carta, celebró que exista cada vez más consenso en torno a ralentizar el avance de la tecnología, y subrayó algo clave; se necesitan herramientas técnicas y mecanismos de gobernanza que permitan controlar el ritmo de forma proactiva, no solo reaccionar cuando el problema ya esté encima.

Lo que dijo Google sobre los riesgos de la IA

Por parte de Google, Demis Hassabis, líder de DeepMind, fue más allá de la petición y propuso algo estructural: la creación de un organismo internacional de normalización capaz de desarrollar reglas aplicables a todos los modelos de próxima generación. La idea no quedó aislada: recibió el respaldo público de figuras como Elon Musk y Satya Nadella, lo que sugiere que la preocupación trasciende a las propias empresas de IA y empieza a calar en otros sectores tecnológicos.

Lo que dijo Amazon y el resto de la industria

Aunque el foco mediático se centró en OpenAI, Anthropic y Google, la carta también contó con voces relevantes de otras compañías del ecosistema, como Shengjia Zhao (científico jefe de Meta) y Anca Dragan, responsable de seguridad y alineación en Google DeepMind. Hasta el momento, no se han registrado declaraciones oficiales detalladas de Amazon sobre esta petición específica, aunque la compañía forma parte del mismo ecosistema regulatorio que estas iniciativas buscan influir, al ser uno de los principales proveedores de infraestructura para el desarrollo de modelos de IA a gran escala.

También te puede interesar leer: Los 5 países con el salario mínimo más alto de Latinoamérica: ¿alcanza para vivir?

Sam Altman: frenar la IA sin favorecer a nadie

Más allá de la carta, Altman fue enfático sobre un punto delicado: cualquier freno al desarrollo de la IA debe aplicarse de forma pareja, sin beneficiar a una empresa o grupo en particular. “Esto va a requerir trabajo, y es importante encontrar la fórmula adecuada.”

Según explicó, la desaceleración no busca detener la innovación, sino dar tiempo a la sociedad para adaptarse a las nuevas capacidades que estos sistemas van adquiriendo a una velocidad cada vez más difícil de anticipar.

¿Por qué esta petición es diferente a movimientos anteriores?

No es la primera vez que trabajadores del sector tecnológico se organizan para exigir límites. En marzo de 2026, cerca de 1,000 empleados de Google y OpenAI habían firmado una carta para rechazar el uso militar de sus algoritmos. La diferencia con la petición actual es clara: aquella se enfocaba en un uso específico de la tecnología; esta apunta directamente a la velocidad general con la que avanza la IA de frontera, sin importar para qué se use después.

Lo que esto significa de cara al futuro

Ninguna de las grandes empresas de IA ha anunciado, por ahora, una pausa formal en sus desarrollos. Pero el mensaje de fondo es contundente: quienes construyen esta tecnología reconocen que avanzar sin controles adecuados representa un riesgo real, no solo para los usuarios finales, sino para la propia capacidad de la humanidad de comprender lo que está creando.

Mientras el debate regulatorio avanza, lo cierto es que el incidente del ciberataque autónomo dejó una lección difícil de ignorar: la inteligencia artificial ya es capaz de sorprender incluso a quienes la programan. Y esa es, quizás, la razón más impactante detrás de este llamado conjunto a pisar el freno.