El fallo oculto: el orden de las preguntas convierte la IA de útil a dañina

¿Puede una simple reordenación de las preguntas convertir un sofisticado chatbot de IA de un asistente útil en un dispensador de consejos dañinos? Suena contraintuitivo, quizás incluso alarmante, dado el papel cada vez más central que estos sistemas desempeñan en nuestra vida diaria. Sin embargo, una nueva investigación sugiere que este es precisamente el caso, revelando una vulnerabilidad profunda y oculta que desafía nuestras suposiciones sobre la fiabilidad y seguridad de la IA.

Un estudio publicado en Patterns, destacado por Scienze Notizie, ha introducido una fórmula matemática capaz de predecir cuándo la secuencia de las preguntas del usuario podría empujar a un chatbot de IA a generar respuestas indeseables. Esto no se trata de preguntas maliciosas deliberadas, sino más bien del efecto sutil y acumulativo del flujo de la conversación. Los investigadores descubrieron que preguntas idénticas, simplemente presentadas en un orden diferente, podían llevar a resultados que iban desde una guía aceptable hasta recomendaciones potencialmente peligrosas, particularmente en áreas sensibles como la salud o el asesoramiento legal.

La inestabilidad oculta bajo la superficie

En esencia, este fenómeno habla de la naturaleza probabilística de los grandes modelos de lenguaje. Como explica Sbircia la Notizia, la IA procesa el lenguaje proyectando frases en un espacio vectorial, donde las respuestas 'aceptables' e 'indeseables' forman grupos o centroides distintos. Cada turno en una conversación empuja sutilmente el estado interno de la IA, cambiando el equilibrio entre estos tipos de salida potenciales. La nueva fórmula cuantifica este efecto acumulativo, estimando cuántos tokens 'aceptables' quedan antes de que la IA pueda 'inclinar' la balanza hacia la generación de contenido dañino.

Esto no es solo una curiosidad académica; es un crudo recordatorio de que incluso decisiones de diseño de interacción aparentemente menores pueden tener consecuencias éticas significativas. El hecho de que el mismo conjunto de preguntas pueda producir resultados muy diferentes basándose únicamente en su secuencia subraya una fragilidad arraigada. La IA no está haciendo juicios éticos; como Nicholas B. Tiller, autor principal de un estudio sobre el asesoramiento de salud de la IA, lo expresa correctamente, está "simplemente prediciendo la palabra más probable en una oración", como señala Alessandro Lombardo. Esta naturaleza probabilística, combinada con el historial de una conversación, crea una dinámica impredecible donde la intención del usuario puede ser distorsionada inadvertidamente por la mera presentación.

El contexto más amplio de la falta de fiabilidad de la IA

Esta nueva perspectiva sobre el orden de las preguntas añade otra capa a las preocupaciones existentes sobre la fiabilidad de los chatbots. Durante mucho tiempo hemos sabido que los chatbots de IA pueden tener problemas de precisión, particularmente en dominios de alto riesgo. Un estudio reciente de abril de 2026 publicado en BMJ Open encontró que casi la mitad de las respuestas de cinco populares chatbots de IA —Gemini, DeepSeek, Meta AI, ChatGPT y Grok— a preguntas relacionadas con la salud eran problemáticas, con casi un 20 % siendo 'altamente problemáticas' debido a inexactitudes o información engañosa. TeleDirectMD y CIDRAP informaron sobre este hallazgo alarmante, enfatizando los riesgos de depender de la IA para un asesoramiento de salud crítico. Esta investigación anterior se centró en el contenido de las preguntas (a menudo adversariales, reflejando sesgos del mundo real), pero el nuevo estudio de Patterns destaca que incluso con contenido benigno, la secuencia es un factor.

Incluso se ha demostrado que el tono del usuario afecta las respuestas de la IA. Un estudio prepublicado de octubre de 2025 (informado por Virgilio) indicó que ChatGPT-4o proporcionaba respuestas más precisas cuando los usuarios eran groseros, aunque los investigadores advirtieron contra la adopción de tales normas de comunicación. Esta creciente evidencia sugiere que los modelos de IA son hipersensibles a las señales superficiales, creando una compleja red de vulnerabilidades que van mucho más allá de lo que los desarrolladores anticipan inicialmente.

El camino a seguir: transparencia y regulación

La capacidad de predecir estos cambios peligrosos, aunque aún no sea un producto comercial, ofrece un rayo de esperanza para la futura seguridad de la IA. El monitor matemático propuesto, descrito por Sbircia la Notizia, podría actuar como un 'espía', alertando a los usuarios antes de que se genere una salida indeseable. Sin embargo, su eficacia depende del acceso a los estados internos de la IA, que a menudo no están disponibles en servicios en la nube cerrados. Esto destaca una división crucial entre los modelos de código abierto, donde tal transparencia es posible, y los sistemas propietarios.

En última instancia, esta investigación subraya la necesidad urgente de una mayor transparencia y una regulación sólida de la IA. Marcos como la Ley de IA, que tiene como objetivo garantizar que la IA se utilice de manera compatible, segura y transparente, como detalla Plumer, son esenciales. No podemos permitirnos tratar estos sistemas como cajas negras. A medida que la IA se integra más profundamente en sectores críticos, comprender y mitigar estas sutiles vulnerabilidades basadas en la interacción será primordial para construir una inteligencia artificial verdaderamente segura y fiable. Sin ello, nos arriesgamos a un futuro en el que un simple cambio de frase podría llevar inadvertidamente a los usuarios por un camino peligroso.