Бразильский суд оштрафовал адвокатов за промпт-инъекцию в иске

Бразильский суд впервые в судебной практике применил штраф к адвокатам за попытку манипулировать алгоритмами проверки документов. Два юриста получили взыскание в размере 10% от суммы иска за сокрытие инструкций для искусственного интеллекта в тексте официального судебного заявления.

Инцидент связан с использованием скрытых команд в судебных материалах, которые должны были обойти автоматизированные системы анализа документов. Подобный прецедент демонстрирует ужесточение позиции судов к попыткам обхода алгоритмов фильтрации и проверки данных с помощью технологий prompt injection.

Подробности прецедента и анализ судебного решения опубликованы на сайте Jetstream Security, а обсуждение инцидента доступно на платформе Hacker News.

Практика наложения штрафов создает юридический прецедент ответственности за манипуляции с языковыми моделями в официальных ведомствах.