IA: entre el Papa y el ebitda | Opinión

No soy creyente, pero agradezco al Papa que haya salido, en su Encíclica sobre la IA, en apoyo de quienes discrepamos de la visión neoconservadora expresada recientemente por los tecnofascistas que apoyan a Trump en el Manifiesto de la empresa americana Palantir que resume en 22 tesis la propuesta de los ideólogos del trumpismo en favor de poner a la IA al servicio de la industria de la guerra para conseguir el orden posdemocr ático que propugnan en forma de República tecnológica y autoritaria donde manden los plutócratas digitales.

En un mundo donde el uso de la IA se está generalizando a marchas forzadas y nos gastamos miles de millones en una tecnología que todavía no controlamos, incluyendo su deriva cuántica, un mundo en el que limitamos los temores a su impacto sobre el empleo, el medio ambiente, la salud mental o la intimidad, los tecnofascistas fuerzan un salto cualitativo al introducir, no solo el riesgo para la democracia, sino para la propia especie humana (transhumanismo). Sobre todo, al escalar al nuevo paradigma de la IA agéntica, donde los agentes pasan a interpretar, improvisar y tomar decisiones.

Partiendo como dogma de que el mundo es una lucha constante entre potencias, Palantir argumenta que solo fabricando armas con la IA podrá EE UU derrotar a sus enemigos, sobre todo, si resiste “la tentación superficial de un pluralismo vacío y sin sentido”, es decir, poniendo fin a la democracia.

Esta declaración de principios que hace más entendible la expresión del Papa en favor de “desarmar la IA” se produce en el contexto en que Anthropic, una de las grandes empresas de IA generativa, ha visto cancelados todos sus contratos públicos tras negarse a poner su tecnología al servicio de labores militares. No hablamos, solo, de una cuestión de principios, sino de muchos miles de millones de dólares de los que tan necesitadas están unas empresas como Apple, Microsoft, Google, Tesla o Meta, que ostentan récords mundiales en capitalización bursátil cuando la feroz competencia entre ellas les lleva a un modelo de negocio de precios bajos y pérdidas crecientes. Este modelo somete el desarrollo futuro de la IA a la evolución de sus ebitdas privados y eso se convierte en su principal motor.

Frente a este enfoque (cultura del poder), el Papa, en su Encíclica Magnifica Humanitas, defiende que la IA “respete la dignidad humana y sirva realmente al bien común” porque “no podemos considerar a la IA como moralmente neutra”, entre otras cosas porque los procesos internos de diseño no son transparentes. Por ello, “es indispensable que el uso de la IA –sobre todo cuando involucra bienes públicos y derechos fundamentales– esté acompañado de criterios claros y controles efectivos”. El peligro, concluye, “no es solo que algunas tecnologías se usen mal”, sino que “el paradigma tecnocrático en el que estamos inmersos (…) haga parecer justa y normal una visión antihumana” de la IA. Y, sin negar los muchos aspectos en que la IA puede y debe mejorar la vida humana, señala el riesgo contra la libertad de un “control social que la recopilación masiva de datos y el uso de sistemas algorítmicos hacen posible”.

El enfoque del negocio privado, que “tiende a considerar a la persona como un objeto manipulable”, es el seguido por las empresas tecnológicas americanas. Y podemos extraer ya dos conclusiones: primera, desde 2022, en que empezó una oleada de reestructuraciones para financiar la IA, se han producido, solo en las big tech, más de 800.000 despidos en todo el mundo. Segunda, algunas de sus prácticas, utilizadas para retener enganchados a los usuarios e incrementar sus beneficios, han sido declaradas dañinas, sobre todo, para los jóvenes, con sanciones judiciales como las recientes contra Meta por ocultar riesgos de explotación infantil en redes sociales.

Ahora, los riesgos dan un salto cualitativo, ya que no nos enfrentamos, solo, a efectos perjudiciales conocidos, pero ocultados por los diseñadores para maximizar beneficios, sino a la realidad de que la IA agéntica adopte decisiones no previstas, algunas de las cuales puedan volverse contra los seres humanos. En su reciente juicio sobre OpenAI, Elon Musk, que perdió la partida frente a Sam Altman, llegó a decir que la IA “podría matarnos a todos” y que muy pronto “superará las capacidades de los seres humanos”, razones por las que, dice, debe volver a trabajar “en beneficio de la humanidad”.

Ya en 2016, en la partida de go entre la IA AlphaGo y Lee Sedol, uno de los mejores jugadores del mundo, se produjo una jugada por parte de la IA totalmente injustificable para los humanos, pero que, al final, le dio la victoria. Ese día, se demostró que la IA no solo procesaba datos, sino que podía ser creativa. Más recientemente, Anthropic ha anunciado que su modelo Mythos había detectado miles de graves vulnerabilidades de software desconocidas por sus creadores, hasta el punto de que, en manos inadecuadas, podría haber tumbado el sistema financiero mundial o haber inutilizado defensas militares de países, mostrando, con ello, la capacidad maligna que puede llegar a tener una IA desprovista del control suficiente y adecuado.

El empujón dado por los tecnofascistas de Trump a una IA basada en el beneficio privado, el control a los ciudadanos y el poder militar, aun poniendo en quiebra la democracia, hace más necesaria que nunca una respuesta como la dada por el Papa, en la línea del Pacto Digital Global de la ONU para establecer normas, principios y acciones conjuntas para un futuro digital que respete los derechos humanos. O también la EU AI Act de 2024, desarrollada estos días en España con la aprobación de un proyecto de ley que garantiza la supervisión humana y un uso confiable de la IA, incluido el sector público estatal.

El desarrollo de la IA va a tal velocidad que no podemos perder más tiempo, si queremos regularla para mitigar riesgos y reforzar ventajas, con la dignidad humana como guía, frente al ebitda privado.