Mientras el mundo observaba la operaci\u00f3n estadounidense en Venezuela y c\u00f3mo la guerra con Ir\u00e1n se hac\u00eda inevitable, en Washington se iba fraguando una batalla que advert\u00eda que el futuro profetizado durante siglos ya es presente.<\/p>\n
Una empresa de Inteligencia Artificial (IA) de Silicon Valley le dijo no al Pent\u00e1gono y este la trat\u00f3 como si fuera enemiga del Estado. No obstante, su tecnolog\u00eda de IA segu\u00eda siendo usada, porque el ej\u00e9rcito de EE.UU. no pod\u00eda darse el lujo de prescindir de ella.<\/p>\n
Eso es lo que pas\u00f3 entre Anthropic y el Departamento de Defensa en las \u00faltimas semanas. Y aunque suena a disputa corporativa, es mucho m\u00e1s que eso.<\/p>\n
Es la primera vez que una empresa de IA enfrenta a un aparato militar, neg\u00e1ndose a eliminar los l\u00edmites \u00e9ticos de su tecnolog\u00eda.<\/p>\n
El enfrentamiento dej\u00f3 preguntas en el aire que nos ata\u00f1en a todos: \u00bfHasta d\u00f3nde ya estamos delegando decisiones irreversibles y letales en las m\u00e1quinas? \u00bfQui\u00e9n decide c\u00f3mo se usa la IA?<\/p>\n
No son preguntas ret\u00f3ricas. Expertos de de la Universidad de Oxford advierten que este episodio \u00abrevela brechas de gobernanza de larga data en la integraci\u00f3n de la IA en operaciones militares, brechas que preceden a esta administraci\u00f3n y sobrevivir\u00e1n a la controversia actual\u00bb.<\/p>\n
\u00bfPor qu\u00e9, si la humanidad lleva tanto tiempo temiendo llegar a este punto, a\u00fan hay tal vac\u00edo en la gobernanza de la IA?<\/p>\n
Se trata de un vac\u00edo que Logan Graham, l\u00edder del equipo rojo de Anthropic, el cual analiza los peores escenarios de la tecnolog\u00eda, desde ciberataques hasta amenazas de bioseguridad, conoce de cerca.<\/p>\n
\u00abLa intuici\u00f3n de alguna gente, por haber crecido en un mundo pac\u00edfico, es que en alg\u00fan lugar hay una sala llena de adultos que saben c\u00f3mo arreglar todo\u00bb, le dijo a la revista Time.<\/p>\n
\u00abNo existen esos grupos de adultos. Ni siquiera existe la sala. T\u00fa eres responsable\u00bb.<\/p>\n
En alg\u00fan momento de la operaci\u00f3n que culmin\u00f3 el pasado 3 de enero con la captura del entonces presidente de Venezuela, Nicol\u00e1s Maduro, una herramienta de IA llamada Claude estuvo presente, procesando datos y ayudando a tomar decisiones.<\/p>\n
As\u00ed lo reportaron de manera independiente el diario Wall Street Journal y el sitio web Axios, citando fuentes con conocimiento directo de los hechos, y lo reafirm\u00f3 posteriormente la revista Time, que public\u00f3 un extenso perfil de Anthropic, la empresa de San Francisco que cre\u00f3 Claude.<\/p>\n
Ni el Departamento de Defensa ni Anthropic lo confirmaron oficialmente. Pero lo que sucedi\u00f3 despu\u00e9s est\u00e1 documentado, y dice m\u00e1s que el hecho mismo.<\/p>\n
El nuevo podcast de BBC Mundo sobre un amor que triunf\u00f3 contra todo pron\u00f3stico<\/p>\n
Tras la captura de Maduro, un ejecutivo de Anthropic contact\u00f3 a Palantir -la empresa de an\u00e1lisis de datos que act\u00faa como intermediaria tecnol\u00f3gica entre Silicon Valley y el gobierno estadounidense- y pregunt\u00f3: \u00bffue usado nuestro software en esa operaci\u00f3n?<\/p>\n
Emil Michael, el subsecretario de Defensa y jefe de tecnolog\u00eda del Pent\u00e1gono, explic\u00f3 que les gener\u00f3 una preocupaci\u00f3n profunda: \u00bfpodr\u00eda Anthropic, en un conflicto futuro, \u00abapagar su modelo en medio de una operaci\u00f3n\u00bb -activar alg\u00fan mecanismo de rechazo- \u00aby poner vidas en riesgo\u00bb?<\/p>\n
Anthropic disputa esa lectura: la empresa dice que jam\u00e1s intent\u00f3 limitar el uso del Pent\u00e1gono en un caso concreto y que la pregunta fue rutinaria.<\/p>\n
El Pent\u00e1gono exigi\u00f3 que Anthropic entregara acceso irrestricto a su tecnolog\u00eda para \u00abtodos los usos legales\u00bb. Anthropic se neg\u00f3.<\/p>\n
Pete Hegseth, el secretario de Defensa de Trump, design\u00f3 a Anthropic como un \u00abriesgo en la cadena de suministro\u00bb, una etiqueta que hist\u00f3ricamente se reserva para empresas vinculadas a adversarios extranjeros como Huawei o Kaspersky, no para compa\u00f1\u00edas estadounidenses que simplemente discrepan con el gobierno.<\/p>\n
Anthropic demand\u00f3 al Pent\u00e1gono por exceder su autoridad y sus salvaguardas \u00e9ticas, violando derechos b\u00e1sicos. Varios expertos legales consideran que la empresa tiene opciones s\u00f3lidas de ganar en los tribunales.<\/p>\n
El presidente Donald Trump, por su lado, orden\u00f3 a todas las agencias federales que dejen de usar la tecnolog\u00eda de Anthropic.<\/p>\n
Y remat\u00f3 la pol\u00e9mica con un mensaje en la plataforma Truth Social, escrito todo en may\u00fasculas: \u00abEstados Unidos nunca permitir\u00e1 que una empresa de izquierda radical y woke dicte c\u00f3mo combate y gana guerras nuestro gran ej\u00e9rcito\u00bb.<\/p>\n
En su vocabulario y el de sus seguidores, ‘woke’ es el insulto m\u00e1ximo, una etiqueta despectiva para describir ideas o pol\u00edticas progresistas sobre identidad, desigualdad o justicia social.<\/p>\n
Quiz\u00e1s el calificativo es adecuado: Anthropic, efectivamente, se empe\u00f1a en ser una empresa ‘virtuosa’.<\/p>\n
Fue fundada en 2021 por exinvestigadores de OpenAI con la premisa expl\u00edcita de que la inteligencia artificial representa uno de los mayores riesgos existenciales para la humanidad y que, precisamente por eso, es mejor que quienes la desarrollen sean personas comprometidas con hacerlo de manera segura.<\/p>\n
En julio de 2025, firm\u00f3 un contrato de US$200 millones con el Departamento de Defensa, el primero de su clase: un laboratorio de IA que integra sus modelos en flujos de trabajo de misiones en redes clasificadas.<\/p>\n
El CEO de Anthropic, Dario Amodei, lo justific\u00f3 en un ensayo publicado en enero de este a\u00f1o.<\/p>\n
Anthropic, escribi\u00f3, apoyaba a las fuerzas militares y de inteligencia estadounidenses porque \u00abla \u00fanica manera de responder a las amenazas autocr\u00e1ticas es igualarlas y superarlas militarmente\u00bb.<\/p>\n
Y a\u00f1adi\u00f3: \u00abLa formulaci\u00f3n a la que he llegado es que debemos usar la IA para la defensa nacional en todas las formas, excepto en aquellas que nos har\u00edan m\u00e1s parecidos a nuestros adversarios autocr\u00e1ticos\u00bb.<\/p>\n
En concordancia, el contrato con el Pent\u00e1gono trazaba dos \u00abl\u00edneas rojas\u00bb: Claude no podr\u00eda usarse para vigilancia masiva dom\u00e9stica ni para armas completamente aut\u00f3nomas.<\/p>\n
Esos l\u00edmites infranqueables no son arbitrarios; se sustentan en un documento de la empresa que funciona como su \u00abalma\u00bb.<\/p>\n
Su objetivo declarado es \u00abevitar cat\u00e1strofes a gran escala\u00bb, incluyendo la posibilidad de que la IA sea usada por un grupo humano para \u00abtomar el poder de manera ileg\u00edtima y no colaborativa\u00bb.<\/p>\n
Amodei tambi\u00e9n argument\u00f3 ante el Pent\u00e1gono que \u00ablos sistemas de IA de vanguardia simplemente no son lo suficientemente confiables como para impulsar armas totalmente aut\u00f3nomas\u00bb.<\/p>\n
En sentido estricto, no hablamos de armas que decidan por s\u00ed solas a qui\u00e9n matar; en este contexto, \u00abautonom\u00eda\u00bb significa que un sistema pueda cumplir ciertos objetivos por su cuenta -o con m\u00ednima supervisi\u00f3n humana- en entornos complejos.<\/p>\n
Pero s\u00ed existen sistemas automatizados que ayudan a tomar decisiones sobre ataques. Y los expertos en inteligencia artificial advierten de un problema conocido como \u00absesgo de automatizaci\u00f3n\u00bb: cuando las reglas de uso son vagas, los humanos tendemos a confiar en las recomendaciones de la m\u00e1quina m\u00e1s de lo que deber\u00edamos.<\/p>\n
La IA no reemplaza el juicio humano de golpe: lo va erosionando poco a poco, hasta que el operador deja de cuestionarla.<\/p>\n
En una situaci\u00f3n tensa, si el sistema -que sabes que analiz\u00f3 una cantidad inmensa de informaci\u00f3n- se\u00f1ala en la pantalla unos pocos p\u00edxeles como un objetivo urgente, es f\u00e1cil aceptar su recomendaci\u00f3n sin dudar lo suficiente.<\/p>\n
O si un sistema de reconocimiento facial se\u00f1ala a alguien en medio de la multitud, es probable que un agente de seguridad conf\u00ede en el resultado y proceda al arresto.<\/p>\n
Hay precedentes concretos: en m\u00faltiples ocasiones documentadas, varios departamentos de polic\u00eda en EE.UU. terminaron arrestando personas equivocadas.<\/p>\n
Eso resuena con la otra l\u00ednea roja que enfureci\u00f3 al gobierno de Trump, la de la vigilancia masiva, que toca la vida cotidiana de personas que no est\u00e1n en ninguna zona de guerra.<\/p>\n
Cabe anotar que Anthropic se opuso espec\u00edficamente a la vigilancia masiva de ciudadanos estadounidenses. Su postura no es universalista. Pero el principio que la sustenta s\u00ed tiene un alcance m\u00e1s amplio.<\/p>\n
Y cobra urgencia porque, en paralelo a este conflicto, el gobierno estadounidense anunci\u00f3 planes de usar IA a trav\u00e9s de Palantir para apoyar las operaciones de ICE -la agencia de inmigraci\u00f3n- rastreando ubicaciones en tiempo real e historial financiero de personas indocumentadas.<\/p>\n
La vigilancia masiva, en distintos grados y sobre distintas poblaciones, ya existe. La pregunta ya no es si ocurre, sino cu\u00e1ntos controles quedan sobre c\u00f3mo se usa.<\/p>\n
En ese contexto, las \u00abl\u00edneas rojas\u00bb de Anthropic no son solo filosof\u00eda corporativa: son, por ahora, uno de los pocos frenos concretos que existen.<\/p>\n
El problema es que las restricciones son tan s\u00f3lidas como el mecanismo que las hace cumplir.<\/p>\n
Y cuando el Pent\u00e1gono rechaz\u00f3 esos l\u00edmites y exigi\u00f3 acceso irrestricto, Anthropic se encontr\u00f3 sola sosteniendo su postura, sin un marco legal que la respaldara, sin regulaci\u00f3n internacional que la protegiera, con solo sus cl\u00e1usulas contractuales como escudo.<\/p>\n
La reticencia del Departamento de Defensa a que una empresa privada le imponga l\u00edmites es, para muchos, justificada.<\/p>\n
Aunque las operaciones militares recientes en ciudades estadounidenses, Venezuela e Ir\u00e1n se llevaron a cabo con una m\u00ednima consulta al Congreso, el uso de la IA es tan cr\u00edtico que debe estar regulado por leyes aprobadas por representantes elegidos democr\u00e1ticamente, opinan algunos.<\/p>\n
Desafortunadamente, el poder legislativo no ha legislado al respecto.<\/p>\n
As\u00ed, el hecho de que el Pent\u00e1gono exija la libertad de usar a Claude para \u00abtodos los usos legales\u00bb suena razonable hasta que se pregunta qu\u00e9 es, exactamente, legal en este \u00e1mbito.<\/p>\n
No existe una definici\u00f3n consensuada en el derecho internacional sobre qu\u00e9 constituye un arma letal aut\u00f3noma.<\/p>\n
El derecho internacional humanitario -las reglas que rigen los conflictos armados desde los Convenios de Ginebra- fue construido en torno a decisiones humanas: un soldado que aprieta un gatillo, un comandante que da una orden.<\/p>\n
Esos marcos no contemplan sistemas que detectan, seleccionan y eliminan objetivos con m\u00ednima intervenci\u00f3n humana directa o sin ella.<\/p>\n
Es lo que los expertos llaman \u00abvac\u00edo de responsabilidad\u00bb: una deficiencia cr\u00edtica en la que los marcos legales existentes no logran determinar qui\u00e9n responde cuando un sistema aut\u00f3nomo comete una infracci\u00f3n.<\/p>\n
Si un dron con IA mata a civiles, \u00bfqui\u00e9n responde? \u00bfEl programador? \u00bfEl comandante? \u00bfLa empresa que fabric\u00f3 el sistema?<\/p>\n
El derecho internacional no tiene una respuesta clara. Y en ausencia de esa respuesta, \u00abuso legal\u00bb significa, en la pr\u00e1ctica, lo que cada Estado decida que significa.<\/p>\n
En este contexto, surge una pregunta delicada: \u00bfllega esta discusi\u00f3n a tiempo? La respuesta quiz\u00e1s es: a tiempo para ser preventiva, no; a tiempo para ser \u00fatil, todav\u00eda s\u00ed.<\/p>\n
El debate formal sobre las armas aut\u00f3nomas comenz\u00f3 en 2013. Once a\u00f1os despu\u00e9s, el resultado son gu\u00edas voluntarias.<\/p>\n
En 2024, durante una conferencia internacional en Viena, el ministro de Exteriores de Austria urgi\u00f3 a avanzar con una frase inquietante: \u00abEste es el momento Oppenheimer de nuestra generaci\u00f3n\u00bb.<\/p>\n
Alud\u00eda al momento en el que la humanidad tom\u00f3 conciencia del poder destructivo de la bomba at\u00f3mica: como entonces, la tecnolog\u00eda ya existe y ahora toca decidir c\u00f3mo controlarla.<\/p>\n
Solo que, a diferencia de las armas nucleares -caras, escasas y con una firma inequ\u00edvoca- los sistemas aut\u00f3nomos son baratos, masificables y dif\u00edciles de atribuir. Por lo tanto, son estructuralmente m\u00e1s dif\u00edciles de controlar mediante tratados.<\/p>\n
Ese mismo a\u00f1o, la Asamblea General de la ONU aprob\u00f3 una resoluci\u00f3n sobre armas aut\u00f3nomas con 166 votos a favor. Solo tres pa\u00edses votaron en contra: Rusia, Corea del Norte y Bielorrusia.<\/p>\n
Hay un consenso moral casi universal. Lo que no hay es un tratado vinculante ni mecanismos de cumplimiento, algo que el Secretario General de la ONU pidi\u00f3 para 2026.<\/p>\n
Algunos expertos, sin embargo, temen que, como con otras armas, ese tratado solo llegue despu\u00e9s de una cat\u00e1strofe.<\/p>\n
Mientras los abogados y los diplom\u00e1ticos debaten, los ingenieros construyen. Y lo que construyen ya est\u00e1 siendo usado.<\/p>\n
El general estadounidense Stanley McChrystal, excomandante de las fuerzas de EE.UU. y la OTAN en Afganist\u00e1n, lo resumi\u00f3 una vez con crudeza: nunca antes en la historia alguien hab\u00eda podido ver, decidir y matar a una persona al otro lado del mundo en cuesti\u00f3n de minutos.<\/p>\n
La cuesti\u00f3n ya no es solo ver, decidir y matar, sino cu\u00e1nto de esa decisi\u00f3n estamos dispuestos a delegarle a una m\u00e1quina.<\/p>\n
Esa transici\u00f3n ya se est\u00e1 probando en el campo de batalla. En Ucrania, en diciembre de 2024, las fuerzas del pa\u00eds llevaron a cabo la primera operaci\u00f3n completamente no tripulada cerca de J\u00e1rkiv: decenas de veh\u00edculos terrestres aut\u00f3nomos y drones atacaron posiciones rusas sin soldados en el terreno.<\/p>\n
La l\u00f3gica t\u00e1ctica es iluminadora. Los operadores lanzan los drones y veh\u00edculos aut\u00f3nomos sabiendo que la comunicaci\u00f3n con ellos ser\u00e1 bloqueada en minutos. El \u00e9xito depende de cu\u00e1n bien est\u00e9n programados para actuar solos cuando eso ocurra.<\/p>\n
Navegan de forma aut\u00f3noma, evaden interferencias electr\u00f3nicas y contin\u00faan la misi\u00f3n incluso sin supervisi\u00f3n humana.<\/p>\n
No es un detalle menor: en ese frente, los drones ya provocan entre el 70% y el 80\u202f% de las bajas, seg\u00fan estimaciones de inteligencia europeas.<\/p>\n
En la regi\u00f3n del Golfo la tendencia apunta en la misma direcci\u00f3n.<\/p>\n
El almirante estadounidense Brad Cooper, jefe del Comando Central de EE.UU., reconoci\u00f3 que la inteligencia artificial es una herramienta clave para identificar objetivos, al permitir \u00abtamizar vastas cantidades de datos en segundos para que nuestros l\u00edderes puedan tomar decisiones m\u00e1s inteligentes m\u00e1s r\u00e1pido que el enemigo\u00bb.<\/p>\n
M\u00e1s r\u00e1pido que el enemigo. Esa frase contiene toda la l\u00f3gica que hace tan dif\u00edcil frenar este proceso. En un contexto competitivo, quien se detiene a revisar pierde. La presi\u00f3n estructural empuja siempre hacia menos supervisi\u00f3n humana, no hacia m\u00e1s.<\/p>\n
La historia tiene un desenlace parad\u00f3jico. Dario Amodei declar\u00f3, refiri\u00e9ndose a las exigencias del Pent\u00e1gono: \u00abNo podemos, en conciencia, acceder a su solicitud\u00bb. Anthropic perdi\u00f3 el contrato.<\/p>\n
El d\u00eda despu\u00e9s de que el Pent\u00e1gono anunciara el nuevo acuerdo, la aplicaci\u00f3n de Claude super\u00f3 a ChatGPT de OpenAI en el App Store de Apple por primera vez en su historia.<\/p>\n
Esa semana, m\u00e1s de un mill\u00f3n de personas se registraron cada d\u00eda en Claude, llev\u00e1ndola al primer puesto en m\u00e1s de 20 pa\u00edses. Las ventas de la empresa se dispararon entre el p\u00fablico general.<\/p>\n
Hay m\u00e1s. Dos coaliciones de trabajadores de Amazon, Google, Microsoft y OpenAI les pidieron p\u00fablicamente a sus empresas que siguieran el ejemplo de Anthropic.<\/p>\n
Decenas de cient\u00edficos e investigadores de compa\u00f1\u00edas rivales firmaron un amicus brief en apoyo a Anthropic.<\/p>\n
Un general retirado de la Fuerza A\u00e9rea, que estuvo al frente del Proyecto Maven -el pol\u00e9mico programa de IA para drones que en 2018 provoc\u00f3 protestas masivas de empleados de Google hasta que la empresa abandon\u00f3 el contrato- escribi\u00f3 en redes sociales que, aunque se esperar\u00eda que apoyara al Pent\u00e1gono, simpatizaba m\u00e1s con la postura de Anthropic.<\/p>\n
Y quiz\u00e1s igual de importante: Anthropic consolid\u00f3 el apoyo de sus propios ingenieros, algunos de los profesionales m\u00e1s cotizados de Silicon Valley, en uno de los mercados de talento m\u00e1s competitivos del planeta, donde los contratos para atraer o retener a estas personas pueden valer decenas de millones de d\u00f3lares.<\/p>\n
No todos en ese mundo se sienten c\u00f3modos construyendo tecnolog\u00eda para matar. Anthropic, al trazar sus l\u00edneas, les dijo que trabajar all\u00ed no requer\u00eda ignorar esa incomodidad.<\/p>\n
En un mundo en el que la IA puede facilitar la captura de alguien al otro lado del mundo y nadie tiene claro c\u00f3mo juzgar esas acciones, una empresa privada en San Francisco se convirti\u00f3 en uno de los pocos actores dispuestos a poner l\u00edmites.<\/p>\n
Aun as\u00ed, no podemos depender de los escr\u00fapulos de una firma de Silicon Valley.<\/p>\n
Seguimos lidiando con lo que el bi\u00f3logo Edward O. Wilson defini\u00f3 como \u00abel verdadero problema de la humanidad\u00bb.<\/p>\n
\u00abTenemos emociones paleol\u00edticas, instituciones medievales y tecnolog\u00eda casi divina\u00bb.<\/p>\n
Tambi\u00e9n puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro nuevo canal de WhatsApp, donde encontrar\u00e1s noticias de \u00faltima hora y nuestro mejor contenido.<\/p>\n
Y recuerda que puedes recibir notificaciones en nuestra app. Descarga la \u00faltima versi\u00f3n y act\u00edvalas.<\/p>\n","protected":false},"excerpt":{"rendered":"
Mientras el mundo observaba la operaci\u00f3n estadounidense en Venezuela y c\u00f3mo la guerra con Ir\u00e1n se hac\u00eda inevitable, en Washington se iba fraguando una batalla que advert\u00eda que el futuro profetizado durante siglos ya es presente. Una empresa de Inteligencia Artificial (IA) de Silicon Valley le dijo no al Pent\u00e1gono y este la trat\u00f3 como si fuera enemiga del Estado. No obstante, su tecnolog\u00eda de IA segu\u00eda siendo usada, porque el ej\u00e9rcito de EE.UU. no pod\u00eda darse el lujo de prescindir de ella. Eso es lo que pas\u00f3 entre Anthropic y el Departamento de Defensa en las \u00faltimas semanas. Y aunque suena a disputa corporativa, es mucho m\u00e1s que eso. Es la primera vez que una empresa de IA enfrenta a un aparato militar, neg\u00e1ndose a eliminar los l\u00edmites \u00e9ticos de su tecnolog\u00eda. El enfrentamiento dej\u00f3 preguntas en el aire que nos ata\u00f1en a todos: \u00bfHasta d\u00f3nde ya estamos delegando decisiones irreversibles y letales en las m\u00e1quinas? \u00bfQui\u00e9n decide c\u00f3mo se usa la IA? No son preguntas ret\u00f3ricas. Expertos de de la Universidad de Oxford advierten que este episodio \u00abrevela brechas de gobernanza de larga data en la integraci\u00f3n de la IA en operaciones militares, brechas que preceden a esta …<\/p>\n","protected":false},"author":1,"featured_media":5354,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[9],"tags":[],"class_list":["post-5353","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias"],"acf":[],"yoast_head":"\n