Puedes cambiar la voz (gratis). Primero lee el título y luego la noticia.
Recientemente, tribunales de Brasil descubrieron escritos con mensajes invisibles destinados a manipular sus herramientas de inteligencia artificial, una técnica conocida como inyección de prompt. Los casos muestran que este tipo de engaño ya se usa y que cualquier organización que adopte IA puede estar expuesta.
En la última página de un recurso presentado ante el Superior Tribunal de Justicia de Brasil (STJ, la máxima corte del país para causas no constitucionales), había una frase que nadie podía ver. Estaba escrita en letra blanca sobre fondo blanco y pedía a cualquier inteligencia artificial que leyera el documento interpretarlo a favor de la defensa.
El texto fue descubierto en septiembre por el equipo del magistrado a cargo del caso, que lo derivó al Colegio de Abogados de Brasil (OAB) y a la fiscalía federal. Al dar cuenta del hallazgo, el juez indicó categóricamente que “el intento de manipular la jurisdicción no tendrá éxito”.
Pero este no fue un hecho aislado. Desde mayo, tribunales de Sao Paulo, Paraíba, Santa Catarina y Bahía, además del Supremo Tribunal Federal, han encontrado mensajes similares. En algunos casos se pedía aprobar todas las solicitudes y en otros se ordenaba ignorar la imparcialidad. En el estado de Bahía, por ejemplo, la frase oculta exigía conceder todos los pedidos del recurso, y fue el propio sistema de IA del tribunal el que dio la alerta.
Los métodos también se han vuelto más ingeniosos. En otro caso del STJ, el texto oculto separaba las letras con espacios para burlar los filtros de seguridad. El Tribunal del estado de Santa Catarina documentó además el uso de letras diminutas, caracteres invisibles, datos escondidos en las propiedades del archivo y texto oculto en las leyendas de imágenes.
Por qué puede pasar en cualquier parte
Esta técnica se conoce como inyección de prompt. Su nombre deriva de un término que se está haciendo cada vez más conocido y que se usa para denominar la instrucción que se le da a una herramienta de IA (“prompt”). El ataque consiste en dar instrucciones engañosas para que la IA haga algo distinto de lo que debería, ya sea escribiéndolas directamente en el chat o escondiéndolas en un documento, un correo o una página web que la herramienta va a leer. Los casos de Brasil corresponden a esta última modalidad, pero son solo una de las formas que puede adoptar el ataque.
Para Andrés Vargas, especialista en ciberseguridad de NIVEL4, el problema de fondo es que estos sistemas no tienen una forma totalmente confiable de distinguir las órdenes que deben seguir del contenido que están leyendo. Por eso, un mensaje escondido en un documento puede terminar influyendo en lo que hace la aplicación.
El riesgo crece a medida que la IA hace más cosas. Vargas recuerda que en 2025 investigadores de la empresa Aim Security mostraron que un correo con instrucciones ocultas podía llevar a Microsoft 365 Copilot (el asistente de IA integrado en las herramientas de oficina de Microsoft) a buscar información interna de la empresa y enviarla hacia afuera. La falla se corrigió antes de que hubiera víctimas conocidas.
Una amenaza reconocida a nivel mundial
La inyección de prompt encabeza las listas de OWASP, una fundación internacional sin fines de lucro que reúne a especialistas de todo el mundo para identificar los principales riesgos de seguridad en programas y aplicaciones. Sus rankings son una referencia habitual para las empresas que desarrollan software.
En su lista de 2026 sobre aplicaciones que usan modelos de lenguaje (la tecnología detrás de herramientas como los asistentes de chat), esta técnica aparece en el primer lugar como el riesgo más crítico. OWASP distingue dos formas: una directa, en la que alguien escribe la orden engañosa a la IA, y una indirecta, en la que la orden llega escondida en un archivo o sitio web externo, como ocurrió en los tribunales brasileños.
OWASP publicó además una lista enfocada en los agentes de IA, es decir, sistemas capaces de tomar decisiones y ejecutar acciones por su cuenta. Allí, el primer riesgo es el desvío de los objetivos del agente, que puede ocurrir silenciosamente mediante este tipo de instrucciones ocultas, correos maliciosos o documentos manipulados.
Una adopción que avanza más rápido que la seguridad
En Chile, el estudio SONDA Tech Trends indica que el 88% de las empresas ya tiene algún grado de interacción con la IA, pero el 53% solo cuenta con lineamientos generales para su uso.
A nivel mundial, el Global Cybersecurity Outlook 2026 del Foro Económico Mundial señala que el 87% de los encuestados ve en las fallas de seguridad asociadas a la IA el riesgo de mayor crecimiento. Aunque la evaluación de seguridad de estas herramientas casi se duplicó, cerca de un tercio de las organizaciones aún no la realiza antes de comenzar a usarlas.
Cómo reducir el riesgo
Especialistas como Andrés Vargas sostienen que el foco no debe estar solo en la IA, porque una aplicación que la usa “sigue siendo una aplicación, con sus datos, sus permisos y sus mecanismos para ejecutar acciones”. Vargas recomienda asumir que, en algún momento, el asistente seguirá una instrucción que no corresponde, y preguntarse de antemano qué información tendría a su alcance, qué podría modificar y qué control lo detendría.
A partir de esa premisa, y de la experiencia de los tribunales, surgen algunas medidas concretas:
- Revisar y filtrar los documentos externos antes de que la IA los procese, separando sus contenidos de las instrucciones del sistema, como hace la herramienta de IA del STJ.
- Mantener siempre la revisión de una persona antes de usar o aprobar lo que propone la IA.
- Limitar la información, los permisos y las herramientas a los que accede la aplicación, para acotar el daño si una orden indebida logra pasar.
- Evaluar periódicamente la seguridad de las herramientas de IA, y no solo una vez antes de su lanzamiento.
