Первый прецедент промпт-инъекции в иске
Суд в американском штате Коннектикут столкнулся с необычным случаем использования так называемой промпт-инъекции в судебных документах. Истец скрывал в тексте файлов инструкции для нейросети, рассчитывая, что ИИ, используемый при обработке документов, примет его сторону. В итоге суд ограничил ему возможность подавать документы в электронном виде.
Скрытые команды были набраны мелким белым шрифтом и практически не отображались при обычном просмотре документа. В них содержались указания поддержать позицию истца и помочь добиться пересмотра ранее принятого решения. Судья обратил внимание на необычно большие пустые фрагменты в распечатанных документах и обнаружил скрытый текст.
После предупреждения истец продолжил размещать в материалах скрытые сообщения, утверждая впоследствии, что таким образом экспериментировал с возможностями искусственного интеллекта и просто шутил. Суд признал подобные действия недопустимыми и расценил их как злоупотребление системой электронной подачи документов.
