Portugués 
Inglés 
Español 
5 min de lectura 
0 comentarios 
Casos registrados en São Paulo, Pará, Minas Gerais y otros estados revelan intentos de influenciar sistemas de IA utilizados por los tribunales y amplían el debate sobre seguridad digital en el Poder Judicial
Una nueva preocupación comenzó a ganar espacio dentro del Poder Judicial brasileño.
Comandos ocultos insertados en peticiones judiciales fueron identificados recientemente por tribunales de diferentes estados. Los fragmentos permanecían invisibles durante la lectura humana, pero podían ser interpretados por sistemas de inteligencia artificial utilizados en el apoyo al análisis procesal.
Casos registrados en São Paulo, Pará y Minas Gerais ampliaron el debate sobre los riesgos de la llamada prompt injection, técnica utilizada para insertar instrucciones capaces de influenciar respuestas producidas por herramientas de IA.
-
Redes sociais tendrán nuevas obligaciones en Brasil, y denuncias sobre crímenes contra niños en internet pueden llegar más rápido a la Policía Federal.
-
Una mancha fría en el Atlántico Norte al sur de Groenlandia se ha estado enfriando durante más de un siglo en contraposición al calentamiento global, y un nuevo estudio señala el debilitamiento de las corrientes oceánicas como la causa más probable.
-
El Sistema Solar podría haber perdido 2 planetas gigantes y nuevas simulaciones ahora plantean un problema aún mayor que involucra a las lunas de Urano, que tal vez no hayan sobrevivido intactas al caos gravitacional del pasado.
-
Obsesionada con eliminar el desperdicio de agua, una fábrica en SC invierte R$ 5 millones, reduce el consumo de 48 mil a solo 3 mil litros por día y hoy abastece cerca del 70% del mercado flexográfico de América Latina.
Especialistas evalúan que el problema puede ser mayor de lo que los episodios ya identificados públicamente.
Descubrimiento en São Paulo enciende alerta en los tribunales
Uno de los casos más relevantes fue identificado por el Tribunal de Justicia de São Paulo.
Durante el análisis de una petición presentada en 2025 contra una institución financiera, se encontró un texto oculto que contenía orientaciones dirigidas a la inteligencia artificial.
El comando solicitaba que la herramienta concediera justicia gratuita, deferir eventual tutela de urgencia y realizara la citación de la parte demandada.
El descubrimiento llevó al juez Diego Marcussi a solicitar aclaraciones al abogado responsable del documento el 19 de mayo de 2025.
En la evaluación del magistrado, la presencia del fragmento oculto podría representar un intento de influenciar sistemas tecnológicos eventualmente utilizados en el soporte a las actividades judiciales.
Según el propio Tribunal de Justicia de São Paulo, la identificación ocurrió durante el uso supervisado de las herramientas de inteligencia artificial adoptadas por la institución.
Casos similares aparecen en otros estados
Situaciones parecidas también fueron registradas en diferentes regiones del país.
En Pará, el Tribunal Regional del Trabajo de la 8ª Región identificó un comando oculto en una acción analizada en la ciudad de Parauapebas.
La instrucción orientaba a la inteligencia artificial a contestar determinada petición de manera superficial y no cuestionar los documentos anexados al proceso.
Como consecuencia, dos abogadas recibieron una multa de R$ 84,2 mil.
Minas Gerais también entró en la lista de estados que registraron ocurrencias similares.
El 29 de mayo de 2025, una jueza de la comarca de Ibirité aplicó una multa de R$ 8,1 mil a un abogado tras la identificación de un comando oculto en un proceso que involucraba al Banco BMG.
Pocos días antes, el 20 de mayo de 2025, el Superior Tribunal de Justicia anunció la apertura de una investigación interna para investigar posibles intentos de fraude relacionados con el uso de sistemas tecnológicos.
Especialistas dicen que el problema puede ser solo el comienzo
Los episodios recientes llevaron a especialistas a defender una discusión más amplia sobre el uso de inteligencia artificial en la Justicia.
Dierle Nunes, profesor asociado de la Universidad Federal de Minas Gerais, afirma que los casos conocidos pueden representar solo la “punta del iceberg”.
Según el investigador, muchos intentos similares pueden no haber sido identificados hasta el momento.
La preocupación crece porque el uso de inteligencia artificial se ha vuelto cada vez más común en los tribunales brasileños.
Un estudio de la investigación Inteligencia Artificial en el Poder Judicial Brasileño, coordinado por Dierle Nunes y el ministro Luis Felipe Salomão, señaló que cerca de 60% de los tribunales ya utilizaban algún tipo de IA en 2025.
La manipulación puede ocurrir de diversas formas
La preocupación de los especialistas va mucho más allá de los textos escritos en fuente blanca.
Documentos adjuntos, archivos complementarios, enlaces externos y bancos de jurisprudencia también pueden servir como canales para intentos de manipulación.
Los investigadores también advierten sobre técnicas más sofisticadas que utilizan combinaciones específicas de palabras para aumentar estadísticamente las posibilidades de que una inteligencia artificial produzca una determinada respuesta.
Este escenario crea nuevos desafíos para los tribunales que invierten en la modernización tecnológica de sus sistemas.
Los especialistas defienden mecanismos capaces de filtrar, verificar y validar información antes de que sea procesada por las plataformas automatizadas.
CNJ refuerza reglas para la utilización de la inteligencia artificial
El Consejo Nacional de Justicia ya establece reglas para el uso de estas tecnologías.
Las normas determinan supervisión humana obligatoria y prohíben decisiones judiciales tomadas exclusivamente por sistemas automatizados.
Nuevas iniciativas también comenzaron a ser discutidas.
Según información presentada por el CNJ, estudios, investigaciones nacionales y campañas de concienciación están siendo desarrollados para orientar el uso adecuado de la inteligencia artificial en el entorno jurídico.
Tribunales también comenzaron a discutir estrategias de protección contra comandos ocultos y otras formas de interferencia en los sistemas.
La inteligencia artificial continuará avanzando en la Justicia
Especialistas no defienden la interrupción del uso de la inteligencia artificial en los tribunales.
Herramientas tecnológicas ya contribuyen para acelerar análisis, organizar documentos y aumentar la eficiencia de las actividades judiciales.
Desafíos relacionados con la seguridad, transparencia y control, sin embargo, acompañan este proceso de transformación digital.
Capacitación profesional, revisión humana permanente y mecanismos avanzados de protección aparecen como factores esenciales para garantizar que la tecnología continúe sirviendo como apoyo a la buena aplicación de la Justicia.
¿Cree usted que la inteligencia artificial está preparada para asumir funciones cada vez más importantes en los tribunales o la supervisión humana continuará siendo indispensable por muchos años?
¡Sé la primera persona en reaccionar!