Мужчина, который самостоятельно защищал свои интересы в суде, попытался использовать скрытые инструкции для искусственного интеллекта, чтобы повлиять на анализ материалов своего дела. Необычный способ манипуляции обнаружили сотрудники суда.
По данным издания, мужчина размещал в юридических документах специальные команды для ИИ. Текст был выполнен белым цветом на белом фоне и поэтому оставался практически незаметным для человека. При этом потенциально используемая языковая модель могла распознать такие инструкции при обработке документа.
Содержание скрытых сообщений, как утверждается, сводилось к тому, чтобы искусственный интеллект принял позицию мужчины и рекомендовал решение в его пользу. После обнаружения манипуляции представители суда предупредили участника процесса о недопустимости подобных действий.
Однако предупреждение не остановило его. В последующих документах снова нашли спрятанные инструкции, которые могли быть рассчитаны на воздействие на системы искусственного интеллекта. Тем самым мужчина продолжил попытки проверить или изменить работу потенциально используемых судом цифровых инструментов.
Сам он объяснил свои действия проведением своеобразного «аудита». По словам мужчины, таким образом он хотел выяснить, применяет ли суд искусственный интеллект для изучения поступающих документов. Суд не счёл это объяснение достаточным и принял меры в отношении участника процесса.
В результате мужчине запретили подавать документы через электронную систему. Теперь необходимые материалы ему придётся предоставлять в суд в бумажном виде.
Данный случай демонстрирует одну из новых проблем, возникающих по мере распространения ИИ в юридической сфере. Документы, предназначенные для людей, могут содержать незаметные для них инструкции, специально созданные для языковых моделей. Подобные методы способны стать инструментом манипуляции при автоматизированном анализе судебных материалов и требуют дополнительных механизмов защиты цифровых систем.
Комментарии
Пока нет комментариев — будьте первым.