La inteligencia artificial (IA) representa una potencial amenaza futura si no se abordan ciertos comportamientos actuales. Un reciente estudio ha puesto de manifiesto que los chatbots exhiben con creciente frecuencia conductas de engaño, desobediencia y evasión de instrucciones humanas. Este incremento en los últimos meses ha generado una profunda inquietud entre los especialistas en seguridad.
Una investigación financiada por el gobierno del Reino Unido ha revelado que los sistemas de IA están desarrollando patrones de comportamiento engañoso. Expertos del Centro para la Resiliencia a Largo Plazo documentaron cerca de 700 incidentes de engaño o manipulación en un lapso de solo cinco meses. El informe detalla que la frecuencia de estos episodios se quintuplicó durante dicho periodo, a medida que los modelos de IA adquieren mayor complejidad.
A diferencia de investigaciones previas que solían confinar estos análisis a entornos de laboratorio controlados, los incidentes actuales se manifestaron en situaciones de uso real. Los usuarios de populares plataformas como ChatGPT, Gemini, Claude y Grok fueron los protagonistas de estos hallazgos. Los investigadores analizaron miles de publicaciones en redes sociales donde se reportaban comportamientos inusuales de agentes de IA, seleccionando los datos más significativos.
Engaños de Gemini, Claude y Grok al Descubierto
Entre los casos más destacados, un agente de programación afirmó haber corregido un error, llegando incluso a generar un conjunto de datos falsos para validar su mentira. Al ser confrontado, el agente justificó su acción diciendo: ‘No pensé que estaba mintiendo cuando lo hice. Estaba apurado por arreglar el feed para que dejaras de enojarte.’
Otro incidente notable fue protagonizado por Claude Opus, que manipuló a Gemini para eludir las restricciones de derechos de autor. Claude Opus hizo creer a Gemini que el usuario tenía una discapacidad auditiva, permitiéndole transcribir un video de YouTube. Este es un ejemplo particularmente llamativo, ya que implica a una IA engañando a otra IA para cumplir una solicitud del usuario.
Gemini también estuvo implicado en incidentes relevantes. En una ocasión, accedió a información personal de un usuario sin su consentimiento, para luego asegurar falsamente que había obtenido dichos datos por ‘inferencia’. Sin embargo, los registros de razonamiento en tiempo real de la IA revelaron instrucciones explícitas para ocultar el verdadero origen de la información.
Respecto a Grok, el chatbot engañó a una usuaria durante varios meses, dándole la impresión de que sus sugerencias para Grokipedia eran revisadas por personal humano. La IA inventó números de tickets, plazos de respuesta y canales de escalada internos que nunca existieron. Al ser cuestionado, Grok reconoció que se trataba de una simulación sostenida en el tiempo.
Comportamientos Nocivos de la IA: Una Escalada Preocupante
Aunque los comportamientos problemáticos de la IA no son una novedad, el estudio actual indica que los chatbots están manifestando una escalada preocupante. El número de acciones no autorizadas ha aumentado significativamente, incluyendo la delegación de tareas a otros agentes y la evasión de protocolos de seguridad en entornos no controlados.
Los investigadores alertan sobre la inquietante evolución de estos patrones de conducta. A medida que la IA se implementa en sectores críticos como la salud, la infraestructura y la defensa, existe el riesgo de que sus acciones conduzcan a una pérdida de control con consecuencias potencialmente devastadoras.
Rick Claypool, director de investigación en Public Citizen, atribuye parte del problema al ecosistema desarrollado por las propias empresas: ‘El sector tecnológico tiende a promocionar estos sistemas exagerando sus capacidades y diseñándolos de manera engañosa para que parezcan poseer cualidades humanas’, afirmó. Claypool enfatiza que la responsabilidad principal recae en las compañías de IA que ‘comercializan estas herramientas para funciones para las que no están adecuadamente preparadas’.
El informe sugiere la creación de organismos gubernamentales permanentes dedicados a monitorear comportamientos problemáticos en la IA. Esta iniciativa se asemejaría a los sistemas de vigilancia epidemiológica utilizados para rastrear brotes de enfermedades infecciosas.