Enviado a la página web de Redes Cristianas
Cuando un puñado de empresas decide el futuro de la humanidad
Una tecnología para un mundo sin brújula
La inteligencia artificial no ha irrumpido en un mundo sereno, democrático
y bien gobernado. Ha llegado en plena tormenta: guerras abiertas, rivalidad
entre grandes potencias, descrédito de las instituciones, debilitamiento de la
democracia y creciente concentración de la riqueza y del poder.
Los organismos internacionales redactan declaraciones que casi nadie cumple;
los gobiernos gobiernan pendientes de las encuestas; y las grandes
corporaciones tecnológicas poseen más información que muchos Estados.
En este escenario aparece una tecnología capaz de influir en la economía, el
empleo, la información, la guerra y hasta en nuestra manera de pensar. Y se
nos presenta como una herramienta neutral. Algo así como dejar una caja
de cerillas en un bosque seco y tranquilizarnos diciendo que las cerillas no
tienen malas intenciones.
La IA llega, además, acompañada de una promesa capaz de salvarnos
prometiendo el paraíso digital: curará enfermedades, eliminará los trabajos
penosos, aumentará la productividad y resolverá los problemas que la
inteligencia natural lleva siglos empeñada en complicar. El programa es
magnífico. Solo falta una pequeña aclaración: quién controla la máquina y
con qué fin.
La alarma procede de la cocina
La advertencia más inquietante no viene de enemigos de la tecnología, sino
de personas que conocen sus fogones. La carrera mundial está encabezada
por grandes compañías como OpenAI, Anthropic, Google DeepMind y
Meta, respaldadas por gigantes tecnológicos y financieros. Jacob Coxon,
antiguo investigador de OpenAI y Anthropic, dimitió denunciando que
ambas empresas avanzaban hacia una superinteligencia capaz de
perfeccionarse por sí misma. Según declaró, quienes construyen estos
sistemas creen sinceramente que podrían acabar con la humanidad antes de
terminar la década.
Conviene precisar lo que dijo. Coxon no anunció que la humanidad
desaparecerá inevitablemente en 2030. Advirtió que personas directamente
implicadas en el desarrollo de la IA consideran posible ese desenlace. Evan
Hubinger, dirigente de Anthropic, respaldó la advertencia y calculó en más
del 10 % el riesgo durante la próxima década.
Un 10 %, según estos técnicos, puede parecer poco cuando se pronostica
lluvia. Basta con llevar paraguas. Pero resulta menos tranquilizador cuando
lo que está en juego es la supervivencia humana: si la previsión se cumple,
no quedará nadie para felicitar finalmente al meteorólogo.
Esas advertencias pueden discutirse. No existe consenso científico sobre la
probabilidad de una catástrofe semejante. Pero revelan una contradicción
difícil de ignorar: quienes reconocen públicamente que el vehículo podría
no tener frenos seguros siguen compitiendo por ver quién conduce más
deprisa.
La máquina tiene dueños
El problema fundamental, bien entendido, no es técnico, sino antropológico
y político. La cuestión decisiva no es qué puede hacer la IA, sino quién
decide lo que debe hacer, quién financia su desarrollo y quién recogerá sus
beneficios.
Detrás de cada modelo hay personas, empresas, inversores, gobiernos y
ejércitos. Todos trabajan, naturalmente, por el bien de la humanidad; pero,
por una de esas felices casualidades, ese bien suele coincidir con sus
ganancias, su influencia política o su superioridad militar.
Se habla mucho de “democratizar la inteligencia”. Sin embargo, los
grandes modelos, los centros de datos, los microprocesadores y las ingentes
cantidades de información tienen propietarios. La nueva democracia digital
se parece demasiado a ciertas comunidades de vecinos: todas las personas
pueden opinar, pero la llave de la azotea la conserva el presidente.
Esta concentración resulta especialmente peligrosa cuando retrocede la
democracia. Las instituciones públicas, debilitadas y lentas, intentan
regular empresas que avanzan a una velocidad vertiginosa y poseen
recursos superiores a los de muchos Estados. Cuando llega la ley, la
tecnología ya ha cambiado de domicilio.
Una bomba que no puede contarse
La comparación con las armas nucleares resulta esclarecedora. La energía
atómica prometió progreso, aunque su primera gran presentación pública
consistió en destruir Hiroshima y Nagasaki. Después llegaron los tratados,
las inspecciones y la llamada “comunidad internacional”, esa respetable
señora a la que las grandes potencias escuchan atentamente cuando
confirma lo que ya habían decidido.
Pero controlar la IA es todavía más difícil. Las cabezas nucleares pueden
contarse y las instalaciones pueden inspeccionarse. Un modelo informático
puede copiarse, modificarse, ocultarse y difundirse. Además, su daño
potencial abarca desde una falsificación trivial hasta la manipulación
política, el ciberataque, la vigilancia masiva o la automatización de la
guerra.
La misma herramienta que ayuda a diagnosticar una enfermedad puede
emplearse para seleccionar objetivos militares. La que facilita el acceso al
conocimiento también puede fabricar mentiras a escala industrial. No
estamos ante dos tecnologías distintas, una buena y otra mala, sino ante una
sola herramienta sometida a intereses diferentes.
Esa ambigüedad permite que nadie quiera frenar. Las empresas temen
perder el mercado; las grandes potencias, quedar rezagadas; y los ejércitos,
que el adversario llegue primero. Todos reconocen el peligro, pero todos
continúan la carrera porque los demás también corren. Es la vieja lógica
armamentística “si vis pacem para bellum”, ahora instalada en un centro de
datos.
Desarmar la inteligencia artificial
La encíclica Magnifica humanitas ofrece un criterio particularmente lúcido:
la tecnología no es neutral, porque adopta “el rostro de quien la concibe, la
financia, la regula y la utiliza” (n.º 9). La cuestión moral comienza, por
tanto, mucho antes de apretar un botón: está presente en la financiación, el
diseño, la propiedad y los fines elegidos.
Por eso León XIV propone “desarmar la IA”. Según el n.º110, significa
apartarla de la competencia militar, económica y cognitiva y romper la
equivalencia entre poder tecnológico y derecho a gobernar. No se trata de
rechazar la técnica, sino de sustraerla a los monopolios, someterla a
discusión pública e impedir que domine lo humano.
Esto exige transparencia, control democrático, responsabilidad jurídica,
límites verificables y participación social. No basta con enseñar buenos
modales al algoritmo. Hay que exigir responsabilidades a quienes lo
diseñan, lo financian y lo utilizan. Tampoco sirve crear comités éticos
decorativos: esos floreros institucionales adornan muy bien los congresos,
pero nunca interrumpen un negocio.
La última decisión
La IA puede contribuir a una vida mejor. Pero también puede concentrar el
poder, automatizar injusticias y presentar decisiones políticas como si
fueran simples resultados matemáticos. Un algoritmo no elimina la
responsabilidad: muchas veces solo la esconde detrás de una pantalla.
El mayor peligro no es que las máquinas lleguen a parecerse demasiado a la
inteligencia humana, sino que las personas terminemos pareciéndonos a
ellas: calculadoras, obedientes, previsibles y sin compasión.
Si algún día la inteligencia artificial llega a gobernarnos, no será porque
haya conquistado por sí sola a la humanidad. Será porque una minoría se
habrá apropiado de ella, la mayoría habrá mirado hacia otro lado y, entre
solemnes declaraciones éticas, se la habremos entregado.