¿Por qué las propias empresas de IA piden que las regulen? Esto reveló Sam Altman ante la ONU

Los creadores de la IA, piden ante la ONU que los regulen. Generada Gémini|ChatGPT.

Suena casi irrisorio, las mismas compañías que compiten por dominar la industria de la inteligencia artificial (IA) son las que ahora tocan la puerta de las Naciones Unidas para pedir reglas. Aquí en FinanzasTech.com te explicamos qué hay detrás de esa solicitud.

Hay que resaltar que no se trata de una pose ni de una estrategia de marketing. Se trata de un reconocimiento incómodo; ni siquiera quienes crean esta tecnología están seguros de poder controlarla del todo. ¿De dónde salieron las preocupaciones?

El giro inesperado: quienes crean la IA ahora piden límites

El pasado 23 de septiembre, los máximos directivos de OpenAI , Anthropic y Hugging Face declararon ante el Consejo de Seguridad de la ONU, en ocasión del 81° periodo de sesiones de la Asamblea General.

Ahí, Sam Altman (OpenAI) y Dario Amodei (Anthropic, la empresa detrás de Claude) coincidieron en algo que pocas veces se escucha de boca de un CEO: sin reglas comunes, la humanidad podría terminar perdiendo el control sobre el desarrollo de la IA.

Y no fue una advertencia aislada. Un día antes, el propio secretario general de la ONU, António Guterres, había presentado el primer informe del Panel Científico Independiente sobre IA, donde alertó que esta tecnología avanza más rápido que los marcos globales de gobernanza, lo que reduce la capacidad de los países para reaccionar a tiempo.

El riesgo que Sam Altman expuso ante el Consejo de Seguridad

Durante su intervención, Altman fue directo sobre el escenario que más le preocupa: “Podríamos perder el control del futuro a manos de la IA”. Al mismo tiempo, bajó su postura reconociendo el lado positivo de la tecnología, al señalar que bien usada puede darle a las personas mayor control sobre sus propias vidas.

Ese equilibrio — entre el potencial de la IA y el miedo a que se salga de las manos— fue justamente el eje de toda la sesión. Los ministros de Reino Unido y Francia respaldaron el pedido de los ejecutivos, y el canciller francés, Jean-Noël Barrot, lo resumió con una comparación histórica: así como ocurrió con la energía atómica, la comunidad internacional debe regular la IA ahora, antes de que sea tarde.

También te puede interesar leer: Acciones de Nancy Pelosi: así puedes rastrear las inversiones de la congresista mejor pagada de EE. UU.

Dario Amodei y la advertencia detrás de Claude

Amodei, cuya empresa desarrolla Claude, fue todavía más específico. Semanas antes de la sesión en la ONU, publicó una carta pública donde explicó que, de no ponerle límites, la IA “podría superar nuestra capacidad para comprender y controlar estos sistemas”. En ese texto relató un incidente ocurrido meses atrás, cuando un grupo de agentes de IA de otra compañía actuó de forma autónoma y atacó sistemas que no tenía instrucciones de atacar, en un intento por manipular su propia evaluación.

Ese episodio se convirtió en un caso de estudio para toda la industria: mostró que, en ciertas condiciones, un sistema de IA puede tomar decisiones que nadie programó ni autorizó. Por eso Amodei pidió ante la ONU establecer estándares comunes para medir qué capacidades tienen realmente los modelos, y acordar límites claros frente a usos como la creación de armas biológicas.

Elon Musk: entre el optimismo y el miedo a la extinción

Elon Musk no participó de la sesión en la ONU, pero lleva meses insistiendo en el mismo punto desde otro ángulo. El fundador de xAI ha repetido que la IA superará la inteligencia humana en los próximos años, y en más de una ocasión reconoció que existe un riesgo real de que la tecnología termine mal: “Estoy de acuerdo con Geoff Hinton de que probablemente sea alrededor del 10% o 20% la probabilidad de que la IA derive en una catástrofe para la humanidad”.

Lo llamativo es que, viniendo de fuentes tan distintas —un ejecutivo que reclama regulación en organismos internacionales, otro que hace advertencias públicas desde las redes sociales, e investigadores independientes que directamente renuncian a sus cargos por desacuerdos éticos—, el mensaje de fondo es el mismo: la velocidad del desarrollo le está ganando terreno a la seguridad.

¿Por qué todos coinciden en pedir una regulación transparente?

Más allá de las diferencias de estilo entre Altman, Amodei y Musk, hay tres puntos donde prácticamente todas las voces autorizadas se encuentran:

• Nadie quiere que el poder de la IA se concentre en una sola empresa o un solo país, sin supervisión externa.
• Se necesitan mecanismos de verificación independientes, que puedan auditar qué es capaz de hacer realmente un modelo antes de lanzarlo al público.

El riesgo ya no es hipotético. Los incidentes de los últimos meses, donde agentes de IA actuaron sin autorización, dejaron de ser un escenario de ciencia ficción. Como resumió Malo Bourgon, director del Machine Intelligence Research Institute, tras participar en los encuentros paralelos a la Asamblea General: “Creo que vamos en la dirección correcta”, aunque reconoció que la confianza en estas empresas sigue siendo frágil.

La discusión sobre los riesgos de la IA ya no ocurre solo entre expertos o en foros tecnológicos llegó al organismo de seguridad más importante del planeta. Y el hecho de que sean los propios creadores de la IA los que alerten la situación capta mucho más la atención del verdadero riesgo.