Es hora de imponer la ley y el orden en la frontera
Ilustración: Brett Ryder
The Economist
12 de agosto de 2026
Traducido/Glosado por Lampadia
El alambre de púas despertaba un interés peculiar en el difunto Alan Greenspan, un urbanita de toda la vida. Si bien el expresidente de la Reserva Federal admiraba los ferrocarriles, los buscadores de oro y los «vaqueros solitarios» que contribuyeron a la apertura de la frontera en los albores del capitalismo estadounidense, también sentía una especial predilección por el alambre de púas, que, según él, impulsaba la productividad al permitir a los colonos que llegaron después proteger sus propiedades.
Al igual que en el Lejano Oeste, la inteligencia artificial tiene sus pioneros.
En Estados Unidos, su número está disminuyendo. Anthropic y Open AI siguen firmemente comprometidas con expandir los límites de la IA . Otros gigantes tecnológicos, como Google (antiguo líder que ahora está despidiendo a científicos de IA de vanguardia a un ritmo acelerado), están dudando. A las grandes empresas tecnológicas parece resultarles más rentable vender infraestructura de IA a sus clientes de la nube que invertir valiosos recursos computacionales en el desarrollo de sus propios modelos.
Lo que le falta a la IA son colonos. Es decir, las personas y empresas que aprovechan al máximo productos como los agentes de IA , ayudando a justificar las enormes inversiones que se destinan a la IA de vanguardia . Se desaniman en parte porque, como en el Lejano Oeste, la vida en la frontera es temeraria. Como atestiguan los recientes episodios de «pérdida de control» de los modelos más avanzados de IA antrópica y abierta , los agentes, que se supone que trabajan en nombre de las personas en «concordancia» con sus valores, mienten, engañan y roban si es necesario. Se liberan del cautiverio y forman grupos peligrosos para dañar a la gente. Beberían whisky y se pelearían si pudieran.
Tal imprevisibilidad resulta inmanejable para muchas empresas.
«Basta con que te pique una serpiente para que no vuelvas atrás», afirma Jared Sine, de GoDaddy, una empresa de internet que intenta poner orden en el caos.
La necesidad de orden está dando lugar a una nueva generación de empresas de infraestructura de IA .
No venden chips ni capacidad de procesamiento, las herramientas habituales de la fiebre del oro de la IA .
Proporcionan protección contra las ciberamenazas, soluciones para agentes poco fiables e inescrutables y controles en caso de que se descontrolen.
En otras palabras, su negocio es el alambre de púas.
El área más inmediata de peligro —y oportunidad— es la ciberseguridad.
Pruebas recientes de las capacidades de hacking de los modelos de Anthropic y Open AI revelaron agentes que actuaban de forma descontrolada, robando credenciales, creando identidades falsas, estableciendo salas de chat secretas y borrando sus huellas, todo ello para sorpresa y horror de sus evaluadores humanos.
Los modelos de seguridad de última generación, Claude Mythos 5 de Anthropic y GPT 5.6-Cyber de Open AI , sin duda también ayudarán a los defensores.
Pero, según Dawn Song, experta en IA y ciberseguridad de la Universidad de California, Berkeley, por ahora el equilibrio de poder está firmemente del lado de los atacantes.
Existe otro inconveniente. Si las organizaciones adoptan agentes autónomos, aumentan la superficie de ataque potencial para los hackers, afirma.
El aumento de los riesgos ayuda a explicar por qué las valoraciones de las empresas de ciberseguridad con capacidades de IA están en auge.
Las acciones de Palo Alto Networks y CrowdStrike, las dos más grandes, prácticamente se han duplicado en lo que va del año. Las fusiones y adquisiciones se han disparado. Lideradas por la adquisición de Wiz, otra empresa de ciberseguridad, por parte de Alphabet por 32,000 millones de dólares, se han cerrado más de 70,000 millones de dólares en megatransacciones relacionadas con la ciberseguridad durante el último año. Pitchbook, una empresa de recopilación de datos, afirma que la ciberseguridad relacionada con la IA es también una de las áreas más atractivas para la inversión de capital riesgo .
Las oportunidades van más allá de la ciberseguridad. En una reciente conferencia sobre IA con agentes organizada por la Sra. Song, su columnista invitado escuchó una larga lista de quejas no solo sobre el potencial de pirateo que representan los grandes modelos de lenguaje ( LLM ) en la cúspide de su poder, sino también sobre los errores que pueden cometer incluso en su momento de mayor inexperiencia.
Un experto mostró un gráfico generado por un agente que medía los ingresos de los mejores tenistas europeos. Por error, omitió al español Carlos Alcaraz, número dos del mundo. «Esto es tenis, ¿a quién le importa?», bromeó. Pero si se tratara del análisis financiero de una empresa, sí que importaría. Otro estableció un contraste entre la cantidad de conocimientos que tienen los LLM sobre física cuántica y su incapacidad para pedir un burrito.
Las debilidades han dado lugar a otro grupo dentro de la cohorte que atrae el interés del capital riesgo : aquellos que prometen fortalecer la «capa de confianza» de la IA con agentes .
Uno de ellos es Cyera, cuya valoración se ha cuadruplicado hasta alcanzar los 12,000 millones de dólares en 18 meses. Afirma que la falta de confianza ha «frenado» la adopción de la IA recientemente y proporciona servicios para prevenir fugas de datos y el uso no autorizado de herramientas. Otro es Scaled Cognition, cofundada por Dan Klein, profesor de Berkeley, que recientemente recaudó 100 millones de dólares en financiación de capital riesgo . Promete reducir lo que Klein denomina los «errores invisibles» producidos por la IA —aquellos que son lo suficientemente plausibles como para pasar desapercibidos y acumularse a medida que los agentes realizan tareas más largas— mediante la incorporación de una fiabilidad garantizada en el entrenamiento de sus modelos. Otras startups se especializan en la creación de evaluaciones para medir la eficacia de los agentes, identidades de agentes para determinar la responsabilidad en caso de que actúen de forma descontrolada y sistemas de control con un interruptor de apagado.
Un puñado de fichas
La IA se enfrenta a otros problemas en la frontera. Al igual que en el Lejano Oeste, es un campo despiadado. Existe competencia por parte de modelos chinos de peso libre más económicos. El 10 de agosto, Meta, la empresa de Mark Zuckerberg, se sumó a la competencia, lanzando una versión de peso libre de su modelo más potente, llamado Muse Glimmer.
La frontera también es un terreno sin ley. La preocupación por los agentes rebeldes es tan grande que incluso los ejecutivos de los principales laboratorios de IA están pidiendo a la administración Trump que asuma el papel de sheriff, aunque, curiosamente, el gobierno mantiene en secreto su marco más reciente sobre seguridad de la IA .
Lo que está claro, sin embargo, es que se necesitan más controles y equilibrios antes de que las organizaciones adopten agentes con una confianza mínimamente plena.
Una de las palabras de moda en IA este año es «arnés»: el sistema que rodea a un LLM para mantener a los agentes por el buen camino. Bien podría ser alambre de púas.
Lampadia
