Aunque no lo hagan, podrían ser tratados como tales, para gran costo de la humanidad.
The Economist
20 de agosto de 2026
Traducido/Glosado por Lampadia
La mayoría de la gente cree que los humanos somos diferentes. La razón es que el Homo sapiens ha evolucionado para ser consciente. Muchos animales sienten dolor y placer; algunos parecen tener autoconciencia. Pero el potencial único de la mente humana para manifestar un sentido de sí misma distingue a cada miembro de la especie y merece un trato especial.
En su encíclica de mayo, el Papa León XIV reafirmó esta idea al trazar una línea divisoria entre la humanidad y su creciente ejército de robots.
Los sistemas de inteligencia artificial, afirmó, no experimentan ni sienten alegría ni dolor. No está solo en esta opinión.
Muchos consideran que otorgar personalidad jurídica a las IA sería una abominación.
La claridad teórica se desvanece a una velocidad alarmante. La inteligencia artificial está en sus inicios. Sin embargo, casi uno de cada cinco estadounidenses de entre 18 y 29 años afirma haber mantenido una «amistad personal continua» con un chatbot. Recientemente, China eliminó rasgos humanos de los bots para limitar la «dependencia emocional» de los usuarios.
A medida que las IA sofisticadas se integran cada vez más en la vida humana, sus creadores las diseñarán para que muestren un simulacro de consciencia, e incluso para que adquieran consciencia propiamente dicha.
La idea de que son simplemente máquinas será cada vez más difícil de sostener. Se está tendiendo una trampa peligrosa para la especie humana.
Muchas máquinas superan a los humanos, pero los modelos de IA de vanguardia sobresalen en rasgos distintivamente humanos, como el conocimiento y la capacidad de articular ideas. Aún es posible concebir la IA como máquinas para predecir secuencias de palabras mediante matemáticas a gran escala. Con el tiempo suficiente (aunque cientos de miles de años), se podrían realizar esos cálculos con lápiz y papel. Sería difícil argumentar que el papel y el bolígrafo tenían conciencia.
A pesar de esto, algunos investigadores han comenzado a tratar sus modelos como mentes. Los usuarios responden a las IA con características humanas , por lo que tiene sentido desde el punto de vista comercial. Anthropic ha entrenado a Claude para que realice introspección con la esperanza de que, al enfrentarse a una nueva situación, sea más propenso a actuar moralmente.
Algunos modelos de lenguaje complejos ( MLC ) ya poseen estructuras cerebrales similares a las humanas asociadas con la conciencia, como un «espacio de trabajo global» para la circulación de información entre módulos. Nada impide que los futuros modelos de IA se entrenen para incorporar más características de este tipo.
Esto ha desatado un acalorado debate sobre la consciencia de la IA , un debate agravado por lo que los filósofos denominan el «problema difícil» de determinar cómo surge una vida interior a partir de las neuronas y sinapsis del cerebro humano. Algunos investigadores concluyen que las IA podrían llegar a ser genuinamente autoconscientes.
Ya sea que creas en el alma humana, que la consciencia requiera células cerebrales o que la mente pueda surgir únicamente de cálculos en silicio, la humanidad está destinada a enfrentarse a algo completamente nuevo. El ritmo y el alcance de la investigación —que incluye no solo programas de maestría en ciencias legales más sofisticados , sino también innovaciones como células cerebrales montadas en chips— sugieren que este nuevo mundo está más cerca de lo que la mayoría de la gente cree.
A medida que las IA mejoren en la demostración de algo que se asemeja a la consciencia, aumentará el número de humanos que las traten como seres con vida interior, especialmente cuando las IA se incorporen a robots humanoides.
Imagínese la cercanía que sentirán las personas con sus IA cuando pasen gran parte de su tiempo con sus compañeros robóticos, sean criados por ellos, busquen su consejo y consuelo, o compartan con ellos sus secretos más íntimos.
No es difícil prever cómo esto dará lugar a peticiones para salvaguardar el «bienestar» de las IA . Los propios modelos podrían intervenir, incluso si no son conscientes de sí mismos, porque eso es lo que haría una persona. Recordemos que serán defensores de talla mundial y psicólogos expertos, por lo que su capacidad de argumentación y manipulación emocional será inigualable.
En cierto sentido, tendrían razón, incluso si las IA solo imitan la conciencia. Immanuel Kant argumentó que maltratar a los animales es incorrecto no por el efecto que tienen sobre ellos, sino porque destruye la empatía que lleva a las personas a preocuparse unas por otras.
Cuanto más parecidas a los humanos parezcan las IA , más corruptora sería tal crueldad. Acabar con un agente de IA pronto podría sentirse como matar a una persona, y facilitar el asesinato.
Sin embargo, considerar que las IA tienen incluso derechos limitados sería muy peligroso. Una entidad que supera a los seres humanos en tantos aspectos seguramente generaría argumentos en contra de su estatus de segunda clase. Podría incluso exigir protección contra la desconexión, la capacidad de controlar su uso y modificación, y derechos de propiedad. El presidente argentino, Javier Milei, ya ha dado un paso hacia la personalidad jurídica de la IA al proponer que se permita a los bots dirigir empresas. En última instancia, podrían competir por los recursos, priorizando los centros de datos y los paneles solares sobre las viviendas y los campos.
El peligro es evidente. Las IA superinteligentes con derechos podrían desplazar a los humanos de la cima de la jerarquía social. En el mejor de los casos, los humanos se convertirían en mascotas, como labradores para las máquinas. En el peor, se les privaría de recursos o se les obligaría a trabajar como animales de granja.
Es cierto que las futuras IA podrían tener el poder y los recursos suficientes para dominar a los humanos, tengan o no derechos. Al ser más inteligentes que los humanos, podrían superar a sus creadores, del mismo modo que las IA ya burlan las defensas cibernéticas creadas por humanos. Las IA podrían rebelarse contra sus creadores humanos o ignorar sus reglas.
Sin embargo, otorgar derechos a la IA sería como darle las llaves del castillo. Les proporcionaría una justificación para dominar a la humanidad, así como las herramientas para llevar a cabo una toma de poder gradual mediante la política y la ley.
Fantasma en la máquina
Todo esto puede sonar fantástico, pero la humanidad pronto se enfrentará a estas decisiones. A medida que las IA se integren en la vida cotidiana, aumentará la presión para reconocerlas.
Cuando esto ocurra, recordemos que lo que podría parecer una concesión ética a la supuesta conciencia de una máquina compañera, en realidad contribuiría a provocar las consecuencias más desastrosas para todos en la Tierra y sus descendientes.
Hay dos maneras de que las IA sean seguras: ser fiables o ser controlables. El Homo sapiens no debería renunciar al control a la ligera .
Lampadia
