- El primer caso de prompt injection en un proceso judicial y remedios para poder prevenirlo
Diego Fierro Rodríguez, Letrado de la Administración de Justicia, Doctorando en Derecho
Diario LA LEY, Nº 107, Sección Ciberderecho, 12 de Junio de 2026
[Texto del trabajo]
El 12 de mayo de 2026, el Juez Luiz Carlos de Araujo Santos Junior, de la 3ª Vara do Trabalho de Parauapebas (Tribunal Regional del Trabajo de la 8ª Región, Brasil), dictó una sentencia que sanciona expresamente el uso de la técnica de prompt injection en un escrito procesal. La demanda laboral incluía instrucciones ocultas —texto en blanco sobre fondo blanco— dirigidas al sistema de inteligencia artificial «Galileu», empleado por la Justicia laboral brasileña, con el fin de que generara respuestas superficiales o no impugnara documentos. El juez calificó la conducta como atentatoria a la dignidad de la justicia, impuso una multa del 10% del valor de la causa a las abogadas firmantes y ordenó comunicaciones al Colegio de Abogados y a la Corregiduría. Este trabajo analiza el caso en profundidad, explora los factores concurrentes que facilitaron la tentativa de manipulación, examina las respuestas jurídicas posibles desde el derecho procesal y la ética profesional, y propone remedios técnicos y normativos para prevenir incidentes similares. Se concluye que la integridad de los sistemas de inteligencia artificial judicial constituye ya un bien jurídico digno de protección autónoma, y que la independencia judicial podría verse comprometida si no se establecen contrapesos adecuados frente a la creciente automatización institucional.
No hay comentarios:
Publicar un comentario
Los comentarios son responsabilidad exclusiva de su autor. Se reserva el derecho de eliminar cualquier comentario contrario a las leyes o a las normas mínima de convivencia y buena educación.