Palantir: ¿por qué causa preocupación el creciente poder global de la compañía de IA?

Cada vez que te conectas a internet, hay alguien que está recopilando la información que vas dejando, ya sea tu proveedor de internet, el servidor de la página que estás visitando o el navegador que usas para acceder a ella.

Toda esa información les sirve a las compañías para entender mejor el comportamiento de sus clientes y les ayuda a diseñar estrategias y productos que resuenen mejor con los consumidores.

De la misma manera, esos mismos datos se pueden usar para localizar individuos que puedan ser considerados una amenaza -como hizo EE.UU. en 2011 para dar con el búnker de Osama Bin Laden en Pakistán- o para identificar y apuntar contra objetivos militares, como está haciendo actualmente el ejército de Israel en Irán.

Pero para que la información sea útil, no es suficiente con solo recolectarla: debido a la creciente cantidad de datos que se produce en la web todos los días (se estima que son unos 400 millones de terabytes), las organizaciones que los recopilan tienen que utilizar softwares especializados -potenciados por inteligencia artificial- para poder organizarlos y, a la vez, interpretar lo que puedan revelar.

Y en la actualidad, el consenso entre la mayoría de expertos en ciberseguridad es que no existe un software de análisis de datos en el mundo que se pueda comparar, en complejidad y alcance, con el de la compañía estadounidense Palantir, particularmente en lo que se refiere a seguridad e inteligencia militar.

Michael Steinberger, columnista del New York Times que publicó en enero el libro "El filósofo en el Valle: Alex Karp, Palantir y el auge de la vigilancia estatal", asegura que parte del éxito de la compañía radica en que desarrolló su tecnología de mano de los servicios de inteligencia de EE.UU.

"El punto de inflexión para Palantir fue recibir fondos de In-Q-Tel, que fue el brazo de inversión de capital de la CIA (Agencia Central de Inteligencia)", le explicó Steinberger a BBC Mundo.

"Más allá de la inversión, que fue inmensa, los ingenieros de Palantir tuvieron acceso a los analistas de la CIA, por lo que pudieron desarrollar el software de la mano de estos analistas".

Eso hace que las herramientas de Palantir sean de amplio uso en las distintas agencias del gobierno de EE.UU.

No solo para entes de inteligencia como la CIA, el FBI (Oficina Federal de Investigaciones) y la NSA (Agencia Nacional de Seguridad), sino también para entidades de salud como los CDC (Centros para el control de enfermedades) o, controversialmente, agencias migratorias como ICE (Servicio de Inmigración y Control de Aduanas de EE.UU.).

ICE usa en la actualidad las herramientas de Palantir en labores de identificación y localización de los migrantes que busca detener y deportar.

"El trabajo de ICE con Palantir comenzó en un momento de crisis, algo típico con Palantir", explicó Steinberger, "porque ellos te cobran bastante por sus servicios y muchas organizaciones creen que pueden ahorrar si desarrollan un software 'in-house'."

"Pero cuando llega la crisis, ahí es cuando deciden probarlo. Fue lo que le pasó a ICE en 2014: cuando mataron a un agente de la DEA en México y el gobierno tenía que encontrar a los asesinos, se recurrió a Palantir, la cual integró una gran cantidad de datos en apenas unos días y, les permitió dar con el asesino con mucha facilidad".

Para poder entender el rol que juega actualmente Palantir en la industria militar estadounidense, es útil volver al punto en el que nació la compañía y al momento de la historia que de manera directa le dio su razón de ser: los atentados terroristas del 11 de septiembre de 2001.

Hacia finales de los años 90, internet estaba pasando por uno de sus periodos de mayor y más rápida expansión.

En lo que se vino a conocer luego como el "boom de las .com", miles de emprendedores se arriesgaron a lanzar negocios en internet.

Muchas empresas que hoy son inmensos conglomerados digitales empezaron en esa era, incluyendo PayPal, quizá la plataforma de pagos digitales más conocida, y que surgió de la fusión de dos compañías distintas, Confinity y X.com, emprendimientos liderados respectivamente por el entonces joven inversionista Peter Thiel y el hoy principal accionista de Tesla y X, Elon Musk.

Durante esos primeros años en los que la seguridad para hacer transacciones en línea apenas estaba empezando a desarrollarse, PayPal vivió un periodo en el que se convirtió en el sitio preferido de los estafadores gracias a la anonimidad que les garantizaba.

En respuesta a eso, el socio de Thiel y cofundador de Confinity (luego PayPal) Max Levchin, se concentró en desarrollar un software que, a través de algoritmos, lograra hacer seguras las transacciones que ocurrían dentro de la plataforma y así, poder liberar todo el potencial comercial de las compras a través de internet.

El software –bautizado como IGOR, conmemorando al estafador ruso que se convertiría en el primero en caer con la nueva herramienta- fue tan exitoso que logró reducir el fraude en las transacciones a menos del 0.5%, poniendo a PayPal a la vanguardia del comercio online.

Como era de esperar, el éxito de la herramienta también llamó la atención de las autoridades estadounidenses: el FBI se interesó en ella y empezó a trabajar con el equipo de seguridad de PayPal en investigaciones de fraude.

Y luego, el 11 de septiembre de 2001, todo cambió.

"Una forma de ver los atentados del 11 de septiembre es que constituyeron un fallo en la integración de datos", asegura Michael Steinberger. "De hecho, el informe de la Comisión del 11-S aseguraba exactamente eso".

"Hubo un fallo a la hora de conectar los puntos, lo cual condujo a esta tragedia: la CIA disponía de información, el FBI disponía de información, pero no se comunicaban entre sí. La información no se estaba compartiendo."

Para Peter Thiel estaba claro que, ante ese problema de organización de datos, IGOR podría ser de mucha utilidad para los distintos servicios de inteligencia de EE.UU., por lo que se empezó a buscar la manera de contactar con la CIA.

Cuando Thiel empezó a buscar el capital necesario para desarrollar el proyecto que tenía en mente, se reencontró con Alex Karp. Ambos se habían hecho buenos amigos durante su paso por la facultad de derecho de la Universidad de Stanford a pesar de estar polos opuestos del debate ideológico: Thiel, un conservador devoto y Karp, un progresista convencido, hijo de una pareja birracial.

Su amistad se había basado principalmente en el descontento que les generaba la educación que estaban recibiendo en una de las mejores universidades del país y una pasión compartida por el ajedrez y las discusiones acaloradas sobre temas profundos.

Cuando se reencontraron después de los atentados de 2001, Thiel reclutó a Karp –un doctor en filosofía alemana que había sido alumno del filósofo Jürgen Habermas- para que le ayudara a conseguir nuevos inversionistas para el emprendimiento, quedando sorprendido por su pasión por el proyecto.

Palantir recibió su nombre en honor a las mágicas piedras de la saga de libros de "El Señor de los Anillos", las cuales le daban a quien las tuviera el poder de ver lo mismo que veían sus enemigos. La asociación con la obra de Tolkien es tan fuerte que los empleados de la compañía se refieren a sí mismos como palantirianos y algunas de sus oficinas están adornadas con runas élficas.

A pesar de su falta de experiencia en el mundo militar, la junta de la compañía decidió nombrar a Karp CEO, por ser quien más clara tenía la visión de lo que querían hacer con Palantir.

A pesar de su crianza en un hogar progresista de California y haber estudiado filosofía en Alemania, las ideas de Karp han ido "evolucionando" con el tiempo, explicó Steinberger, "moviéndose más cerca de la manera en la que Peter Thiel ve el mundo".

"Karp habla cada vez menos de defender la democracia liberal y habla más de defender a Occidente como una entidad cultural, lo que siempre ha sido la controvertida postura de Thiel, quien dice no creer en que la libertad -en referencia a la libertad económica- y la democracia sean compatibles.”

Karp, además, defiende la superioridad militar y tecnológica de EE.UU. como "el disuasor más importante" en el mundo en la actualidad: "Las guerras se luchan con tecnología", dijo Karp en un foro en Washington recientemente, hablando al inicio de los ataques de EE.UU. e Israel contra Irán.

"Si miras la operación 'Martillo de medianoche' (el ataque estadounidense a la infraestructura nucelar iraní de 2025), la operación en Venezuela (para capturar a Maduro) o la operación que estamos viendo en Irán, ves una sociedad dominando totalmente, y esa sociedad es la nuestra".

"Siempre discuto con mis amigos intelectuales cuando me dicen, '¿pero no sería mejor un sistema de reglas en el que todo el mundo sea igual?', y les digo: 'Sí, seguro. En teoría. Pero en este mundo, o somos nosotros o es China o es Rusia".

Recientemente, Palantir publicó en redes un resumen de 22 puntos de las ideas que Karp planteó en su libro "La república tecnológica", y que muchos describieron como el manifiesto de la compañía.

En los puntos se reflejan algunas de las ideas más polémicas del pensamiento libertario en EE.UU., como asegurar que mientras "algunas culturas han producido avances vitales, otras siguen siendo disfuncionales y regresivas", o que los países de occidente "debemos resistir la tentación superficial de un pluralismo vacío y hueco".

Según Karp, "una era de disuasión —la era atómica— está terminando, y una nueva era de disuasión, fundamentada en la inteligencia artificial, está a punto de comenzar", y "si un infante de marina estadounidense pide un rifle mejor, deberíamos construirlo; y lo mismo se aplica al software".

La publicación de este manifiesto generó una gran polémica en redes sociales, con muchos comentarios expresando preocupación y rechazo. La legisladora británica Victoria Collins dijo que el listado parecía fruto de "los desvaríos de un supervillano".

"Hay una cosa que hay que entender de Palantir", señala Steinberger, "y es que ha sido política desde sus inicios: fue fundada para ayudar al gobierno de Washington a combatir la guerra contra el terrorismo, algo que luego se transformó en la idea de: 'Estamos ayudando al gobierno de Estados Unidos y a sus aliados a defender su modo de vida'".

Desde el inicio, la compañía se comprometió a no vender su tecnología países como China o Rusia, vistos como adversarios geopolíticos de EE.UU.

"En este momento, no hay duda de la competencia, pero en 2007 o 2008, era algo atrevido salir y decir que no ibas a ofrecer tus productos en el mercado de más grande crecimiento del mundo".

Por otro lado, la compañía sí ofrece sus servicios con los países que ve alineados con las políticas estadounidenses, como es el caso de Israel.

"Siempre se han visto a sí mismos como los guardianes de Occidente. Esa es una idea base de la compañía desde siempre".

"En el libro hablo de la relación de Palantir con el Mossad (Servicio de inteligencia de Israel), que se acercó a ellos a mediados de los 2000 y ha sido cliente desde entonces. Después del 7 de octubre de 2023, las IDF (Fuerzas armadas de Israel) básicamente dijeron 'necesitamos su producto'".

Otros países que usan las herramientas de Palantir incluyen a Reino Unido -desde los servicios de salud hasta el Ministerio de Defensa-, Ucrania, Francia, Canadá, Alemania, Emiratos Árabes Unidos y Arabia Saudita.

En las más de dos décadas desde la fundación de Palantir, sus productos se han convertido en una poderosa arma para EE.UU. y sus aliados.

Palantir desarrolló las herramientas que llevaron a la muerte de Osama Bin Laden en 2011 y fueron un componente clave en la retirada de todo el personal estadounidense estacionado en Afganistán en 2021.

Además, su sistema de integración de datos Maven se está usando en estos momentos para identificar objetivos militares en Irán y para operar los drones que EE.UU. ha desplegado en la región.

Palantir es también la compañia encargada de desarrollar el software del "Domo dorado", uno de los proyectos insignia de la segunda administración Trump: un sistema de misiles antiaéreos similar al "Domo de Hierro" de Israel, con la capacidad de proteger al país contra cualquier tipo de amenaza, incluidos misiles nucleares.

Al mismo tiempo, Palantir provee servicios a compañías civiles como Airbus, Panasonic, Merck e incluso el equipo de Ferrari en Fórmula 1 para el manejo y análisis de sus datos.

Es por esta misma versatilidad de sus herramientas que Palantir insiste en que deben ser los entes reguladores gubernamentales, y no la propia compañía, los que deben poner límites a los usos de su tecnología.

En una entrevista con la BBC, el director de Palantir en Reino Unido y Europa, Louis Mosley, explicó que el software de Palantir está diseñado para siempre requerir de un ser humano para tomar decisiones: "Así está programado actualmente", aseguró Mosley.

Pero son muchos los críticos que han señalado que la velocidad con la que estas herramientas analizan y hacen predicciones puede llevar a errores de confirmación por parte de los usuarios.

"Esta priorización de la velocidad y la escala, así como del uso de la fuerza, deja muy poco tiempo para una verificación significativa de los objetivos, a fin de asegurar que no incluyan accidentalmente objetivos civiles", le dijo a la BBC la profesora Elke Schwarz, de la Universidad Queen Mary de Londres.

Pero para Mosley "esa es, en realidad, una pregunta para nuestros clientes militares".

"Son ellos quienes deciden el marco normativo que determina quién puede tomar qué decisión", dijo.

A pesar de las críticas y de las preocupaciones que genera su tecnología, Palantir está valorada en más de US$380.000 millones y continúa creciendo.

"Aquí surge la interrogante de cuánta responsabilidad recae sobre Palantir respecto al uso que se hace de su producto, y esa es una cuestión muy real en este momento, por ejemplo, en lo que respecta a su relación con el ICE", señala Michael Steinberger.

"¿Tiene Palantir alguna responsabilidad en los abusos que se están cometiendo? ¿Tienen conocimiento de ellos? Si se han perpetrado crímenes de guerra con esa tecnología, ¿tiene Palantir alguna responsabilidad?", se pregunta el columnista del New York Times.

"Estas son algunas de las preguntas a las que se enfrenta ahora la empresa; y son preguntas que van directamente al corazón de la controversia que rodea a Palantir", remata Steinberger.

Con información del corresponsal de IA de BBC News, Marc Cieslak, y de Matt Murphy, de BBC Verify.

Suscríbete aquí a nuestro nuevo newsletter para recibir cada viernes una selección de nuestro mejor contenido de la semana.

Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la última versión y actívalas.