Zuckerberg y la IA: qué significa realmente "democratizar" la inteligencia artificial y qué riesgos trae

El CEO de Meta aseguró que la IA debe democratizarse. Foto: Generada GPT

Mark Zuckerberg volvió a poner a Meta en el centro del debate tecnológico. En una carta abierta titulada “El futuro es para todos” (The Future is for Everyone), el fundador de Meta defendió una idea que ya genera opiniones divididas: la superinteligencia artificial no debería quedar en manos de unas pocas empresas, gobiernos o instituciones, sino distribuirse ampliamente entre miles de millones de personas.

Detrás de esa frase hay una apuesta de fondo. Por eso, vale la pena entender qué propone exactamente, por qué genera polémica y qué implicaciones tiene, sobre todo en materia de ciberseguridad .

¿A qué se refiere Zuckerberg con “democratizar” la IA?

Para Zuckerberg, la humanidad no funciona como una monocultura, así que no existe una única respuesta objetiva sobre qué es lo mejor para todos. Partiendo de esa idea, sostiene que el camino más realista no es crear una superinteligencia centralizada y benevolente que represente los intereses de todos, sino lograr un balance de poder que favorezca a los individuos.

En otras palabras, en lugar de que una sola compañía o gobierno controle la tecnología más poderosa jamás creada, propone que cada persona tenga acceso a su propio agente de IA. Este asistente personal funcionaría de manera permanente para ayudar en áreas como relaciones personales, salud, carrera, finanzas, administración del hogar, aprendizaje y hobbies.

Además, la visión no se limita al celular o la computadora. Zuckerberg planteó que las personas podrán usar estos asistentes desde distintos dispositivos, incluidos anteojos inteligentes, sin dejar de estar presentes en su entorno cotidiano.

Como parte de esta apuesta, Meta también confirmó algo relevante para el ecosistema tech: la compañía volverá a publicar modelos de inteligencia artificial de código abierto, con parámetros que podrán ser descargados y utilizados por investigadores, desarrolladores y empresas de todo el mundo.

Esta postura no es unánime en la industria. Sam Altman, CEO de OpenAI, plantea una mirada distinta sobre el impacto de la tecnología: “La inteligencia artificial será probablemente la tecnología más poderosa que la humanidad haya creado. La IA cambiará muchos trabajos, pero también creará nuevas oportunidades”, señaló el ejecutivo.

Los riesgos de repartir tanto poder tecnológico

Ahora bien, democratizar el acceso a herramientas tan avanzadas no es gratis. La propia carta de Zuckerberg reconoce que existen peligros reales. De hecho, abordó los riesgos asociados al uso indebido de la IA, especialmente en ciberseguridad , bioterrorismo y diseño de compuestos dañinos.

El argumento de Meta es que restringir el acceso no elimina el riesgo, simplemente lo concentra en menos manos. Aun así, cuando millones de personas, incluidas las que tienen malas intenciones, acceden a modelos abiertos y potentes, la superficie de ataque se amplía enormemente. Ese es, precisamente, el punto que más preocupa a especialistas en seguridad digital; una herramienta pensada para empoderar también puede terminar en manos equivocadas.

Ciberseguridad: la otra cara de la moneda

Aquí es donde el debate se pone interesante. Zuckerberg defiende que una distribución amplia de capacidades puede fortalecer a los defensores, sobre todo en ciberseguridad, porque los sistemas abiertos y ampliamente desplegados permiten que más personas identifiquen vulnerabilidades, endurezcan sistemas y actualicen herramientas de protección.

También te puede interesar leer: XRP y ciberseguridad: así vaciaron 200.000 tokens del puente Coreum en 97 minutos

Sin embargo, en la práctica, esa misma apertura es un arma de doble filo. Los mismos modelos de IA que ayudan a un equipo de ciberseguridad a detectar una brecha también pueden ser utilizados por hackers para automatizar ataques, generar código malicioso, redactar correos de phishing casi indistinguibles de los reales o encontrar fallas en sistemas antes de que las empresas las parcheen. La velocidad con la que la IA analiza patrones y genera texto convincente reduce drásticamente el esfuerzo que antes requería montar un ciberataque sofisticado.

Consciente de este riesgo, Zuckerberg propuso que los laboratorios de IA de frontera destinen recursos técnicos relevantes para ayudar al gobierno a proteger infraestructura crítica, e incluso planteó compartir con las autoridades puntos intermedios del entrenamiento de modelos avanzados, antes de que termine el proceso, para que el Estado pueda evaluar riesgos y reforzar sistemas sensibles.

Más control interno, pese a la apertura

Aunque defiende la apertura hacia afuera, Meta también está reforzando sus filtros internos. A partir de ahora, será la junta directiva de la compañía la encargada de aprobar los criterios de seguridad y decidir si los nuevos modelos cumplen con los requisitos necesarios antes de ser lanzados al público.

¿Vale la pena el riesgo?

La visión de Zuckerberg plantea una apuesta arriesgada: confiar en que repartir el poder de la IA entre más manos genere más beneficios que problemas. El tiempo dirá si esa filosofía funciona o si termina abriendo más puertas de las que cierra en materia de seguridad digital.

Lo que sí queda claro es que la conversación sobre quién controla la inteligencia artificial y con qué garantías, recién empieza, y probablemente sea uno de los debates tecnológicos más importantes de esta década.