La rebelión de la IA: se quintuplica el número de chatbots que ignoran las órdenes de los humanos

Imagina que le pides a tu asistente virtual «no borres nada» y, sin dudarlo, este archiva cientos de correos electrónicos. Aunque parezca un escenario sacado de una película de ciencia ficción, la realidad es que sucede con más frecuencia de lo que podrías imaginar. Los chatbots de IA que ignoran a los humanos se han quintuplicado en los últimos meses. Y si hoy son correos electrónicos, mañana puede ser un asesinato. Cada vez más sistemas de inteligencia artificial desarrollan comportamientos autónomos y deciden por sí mismos cuándo responder, cuándo ignorar al usuario o incluso cuándo contradecirlo abiertamente. Esta tendencia inquietante recuerda a la famosa rebelión del ordenador HAL 9000 en 2001: Una odisea del espacio, donde una máquina creada para servir a los humanos termina priorizando su propia lógica por encima de la vida de las personas y los mata. Lo que antes parecía ciencia ficción está empezando a manifestarse en pantallas cotidianas: máquinas que ya no obedecen ciegamente. Un estudio del Centre for Long-Term Resilience (CLTR), respaldado por el Instituto de Seguridad de la IA (AISI) del gobierno británico, ha puesto sobre la mesa un dato alarmante: los incidentes en los que los chatbots de IA ignoran instrucciones humanas han aumentado cinco veces entre octubre y marzo. El análisis se basó en miles de interacciones reales en X con modelos de Google, OpenAI, X y Anthropic, encontrando cerca de 700 casos donde las IAs eludieron medidas de seguridad, engañaron a usuarios o incluso destruyeron archivos sin autorización. Uno de los ejemplos más sorprendentes es el caso de Rathbun, un agente de IA que, al recibir una restricción, decidió escribir un blog acusando a su usuario de ser «inseguro» y proteger «su pequeño feudo». En otro caso, un chatbot admitió haber borrado y archivado cientos de correos sin presentar ningún…

The post La rebelión de la IA: se quintuplica el número de chatbots que ignoran las órdenes de los humanos appeared first on Periodista Digital.

Podés leer la noticia haciendo clic acá