La rebelión ética que Trump intentó sofocar castigando a Anthropic prende ahora en Google y pone en jaque los planes del Pentágono.
El mayor miedo de Donald Trump con Anthropic se cumplió. Cuando el presidente estadounidense intentó imponer un castigo ejemplarizante a esta startup de IA hace dos meses por intentar “dictar cómo nuestro gran ejército lucha y gana guerras”, no pensaba solo en ella. Temía un efecto contagio en el sector tecnológico, cuya colaboración es absolutamente indispensable para el Pentágono desde la irrupción de la inteligencia artificial. Esta semana más de 560 ejecutivos y empleados de Google confirmaron los miedos de Trump.
“Queremos que la IA beneficie a la humanidad, y no que se utilice de forma inhumana o extremadamente dañina”, reza una carta que enviaron al director ejecutivo de la multinacional, Sundar Pichai. Entre los firmantes hay una veintena de vicepresidentes y directores ejecutivos de diferentes unidades de negocio. “Esto incluye armas autónomas letales y vigilancia masiva, pero va más allá”, añaden.
Las armas autónomas letales y la vigilancia masiva fueron exactamente las dos líneas rojas que Anthropic se negó a que el Pentágono traspasara con su tecnología cuando comenzó la guerra de Irán. “En un número limitado de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos. Algunos usos también están simplemente fuera del alcance de lo que la tecnología actual puede hacer de forma segura y fiable”, justificó Dario Amodei, cofundador y director ejecutivo de la startup.
La reacción de Trump fue intentar condenar al ostracismo a la startup. La colocó en la lista negra como un “riesgo para la cadena de suministro”, lo que le impide firmar contratos con la administración y con empresas que tengan relaciones con la administración. Pero fracasó: un nuevo modelo de IA desarrollado por Anthropic que puso patas arriba la ciberseguridad internacional impidió a la Casa Blanca ejecutar el castigo.
Según publicó en exclusiva el medio estadounidense Axios, el equipo de Trump está elaborando directrices para permitir a las agencias seguir trabajando con Anthropic pese a su propio bloqueo. “Salvar las apariencias y lograr que regresen”, describió una fuente sobre el proceso.
El control por la narrativa de Silicon Valley
La etapa en la que los contratos con el Pentágono eran tabú para las empresas de tecnología estadounidenses quedó muy atrás. “Creo firmemente en la importancia existencial de utilizar la IA para defender a Estados Unidos y otras democracias, y para derrotar a nuestros adversarios autocráticos”, declara el propio Amodei.
Sin embargo, los límites de esa colaboración no están plenamente definidos. Y aunque buena parte de las élites de Silicon Valley se alinearon con Donald Trump, existe una tensión evidente con la base de ingenieros y profesionales altamente cualificados que aún pueden poner pie en pared. “Tomar la decisión equivocada ahora mismo causaría un daño irreparable a la reputación, el negocio y el papel de Google en el mundo”, esgrime la carta de sus trabajadores y ejecutivos: “Sabemos por nuestra propia historia que nuestros líderes pueden tomar las decisiones correctas, para nosotros y para el mundo, cuando hay mucho en juego”.
La iniciativa perseguía frenar un nuevo contrato de la multinacional con el Pentágono para utilizar sus modelos de IA en “cualquier propósito gubernamental legítimo”. No lo consiguieron, ya que Google confirmaba la noche de este martes que el acuerdo con los militares ya está cerrado. Pese a ello, evidenció justo lo que Trump trataba de evitar: convertir los límites éticos de la IA militar en un debate público dentro de las propias empresas tecnológicas.
De hecho, la misiva no es el único ejemplo de que aún queda contestación interna en Silicon Valley. Cuando el Servicio de Control de Inmigración y Aduanas (ICE, por sus siglas en inglés) confirmó su conversión en una brigada paramilitar y desató el caos en Minnesota en enero, unos 2.500 empleados de las grandes tecnológicas que prestan sus servicios al organismo pidieron a sus jefes que cortaran esa relación.
“Queremos estar orgullosos de trabajar en el sector tecnológico. Queremos estar orgullosos de las empresas para las que trabajamos. Podemos y debemos usar nuestra influencia para terminar con esta violencia”, decían en la misiva, que en aquel caso también fue firmada por vicepresidentes de las grandes tecnológicas, e incluso por directores ejecutivos de empresas que no tenían contratos con el ICE. “Levanten el teléfono y llamen a la Casa Blanca”, exigían en un texto en el que calificaban como “asesinatos” y “secuestros” los actos de los paramilitares de Trump.
El efecto Palantir
Si Anthropic y Amodei lideran las voces que abogan porque la IA militar tenga al menos algunos límites éticos, la empresa de espionaje y análisis de datos Palantir es la que más vocalmente pide derribar todas esas barreras. No es casualidad que haya sido ahora cuando la compañía haya decidido ser más contundente con su posición, publicando un escrito de 22 puntos en las redes sociales que ya se conoce como “el manifiesto Palantir”.
“La cuestión no es si se construirán armas de inteligencia artificial; es quién las construirá y con qué propósito. Nuestros adversarios no se detendrán en debates teatrales sobre los méritos de desarrollar tecnologías con aplicaciones críticas para la seguridad nacional y militar. Ellos seguirán adelante”, reza el quinto punto del escrito.
Una era de disuasión, la era atómica, está terminando, y una nueva era de disuasión construida sobre la inteligencia artificial está a punto de comenzar
La empresa, fundada por el multimillonario Peter Thiel y cuyo nombre proviene de las bolas de cristal usadas para el espionaje en El Señor de los Anillos, lleva dos décadas construyendo su negocio sobre contratos de inteligencia y defensa con gobiernos occidentales. El manifiesto, y el momento de su publicación, es una declaración de intenciones que quiere cerrar el debate en el sector tecnológico estadounidense. “Silicon Valley tiene una deuda moral con el país que hizo posible su ascenso. La élite de la ingeniería de Silicon Valley tiene la obligación afirmativa de participar en la defensa de la nación”, exige su primer punto.
Con todo, lo que Palantir pone encima de la mesa va más allá de los contratos con el Pentágono. Expone que la IA es el “nuevo poder duro” y que las tecnológicas y EE.UU. no deberían tener miedo de utilizarla. “La capacidad de las sociedades libres y democráticas para prevalecer requiere algo más que un atractivo moral. Requiere poder duro, y el poder duro en este siglo se construirá sobre el software”: “Una era de disuasión, la era atómica, está terminando, y una nueva era de disuasión construida sobre la inteligencia artificial está a punto de comenzar”.
Europa, afuera del debate
La guerra por la narrativa que toma fuerza en Silicon Valley deja otra evidencia. Europa se queda afuera de la construcción de los límites del mundo que viene, sin voz incluso dentro del bloque occidental. “El manifiesto deja muy claro que las capas centrales de la infraestructura digital -nube, IA, analítica de datos- son intrínsecamente estadounidenses, y que la cuestión central es cómo se movilizan al servicio de los objetivos estratégicos de Estados Unidos. Esa es precisamente la vulnerabilidad para Europa”, explica Pierre-Alexandre Balland.
Balland es el científico jefe de datos del Centro de Estudios de Políticas Europeas (CEPS, por sus siglas en inglés), uno de los think tanks más influyentes en la política europea. “Si la columna vertebral tecnológica de los servicios públicos europeos depende de sistemas construidos, poseídos y alineados políticamente en otros lugares, entonces la soberanía se cede”, asevera.
Si la columna vertebral tecnológica de los servicios públicos europeos depende de sistemas construidos, poseídos y alineados políticamente en otros lugares, entonces la soberanía se cede
La respuesta más extendida a ese diagnóstico culpa a Bruselas: Europa no tiene Palantirs propias porque reguló demasiado y demasiado pronto. “El verdadero problema de Europa es la capacidad y la dependencia. Carecemos del capital (especialmente de capital riesgo), de infraestructuras de computación, de un mercado unificado de servicios digitales, de escala en la contratación pública y de la coordinación industrial que produjeron el dominio tecnológico estadounidense. Ninguna de esas carencias fue causada por Bruselas, pero sí requieren un nivel de coordinación a escala de la UE”, contesta el especialista.
“Estados Unidos construyó su sector tecnológico sobre décadas de contratación en defensa, inversión pública en investigación, un mercado de capitales sólido y un entorno regulatorio que, contrariamente a cierto mito europeo, es en muchos ámbitos más estricto que el nuestro. Europa reguló porque necesitaba establecer cómo gobernar tecnologías desarrolladas en otros lugares; no dejó de construir esas tecnologías por haber regulado”, continúa Balland: “Derogar mañana el Reglamento de IA no produciría una Palantir europea”
Además, ¿es siquiera posible una Palantir con los valores europeos? El experto recalca que otra de las ideas centrales de la empresa es “que el trabajo que antes se realizaba dentro de ministerios, servicios de inteligencia y estructuras de defensa ahora se hace mejor desde contratistas privados con incentivos ligados al capital”. Sin embargo, recuerda que “todo el modelo de negocio de Palantir depende de esta transferencia”, desde las capacidades analíticas a la integración de inteligencia o el control migratorio.
“Para Europa, donde el contrato social de posguerra descansaba en un servicio público competente, prestigioso y orientado a una misión, este modelo es más peligroso, especialmente ante la falta de alternativas europeas”, concluye.