Члены Ассоциации юристов России предостерегли коллег от безоговорочного доверия искусственному интеллекту: зафиксированы случаи ложной информации со стороны «умных» программ при составлении юридических документов. Для юристов, использующих ИИ в своей работе, реальным становится риск самим попасть под суд за фальсификацию доказательств.
Накануне появилась информация, что за рубежом судьи начали запрещать использование ChatGPT участниками процесса. Более того, в судах даже стали требовать сертификаты о том, что текст адвоката или прокурора был создан без использования ИИ. Попытки без проверки использовать тексты, сгенерированные Chat GPT, в ситуациях, когда эти тексты имеют юридическое значение, связаны с повышенными рисками, часто сгенерированный текст по факту оказывается не соответствующим действительности. Так, например, известен случай, когда преподаватели из университета Джорджа Вашингтона попросили чат-бота описать скандалы с участием американских профессоров права, на что ChatGPT взяла с официальных сайтов имена и выдумала несуществующие события. То есть налицо — не только «выдумывание» фактов, но и фальсификация доказательств. В этой ситуации запрет на использование ChatGPT в формировании текстов и позиций судей и адвокатов — вполне закономерное решение.
Во всем виноваты алгоритмы, заложенные в основу обработки информации. Для моделей ИИ нет разницы между словами и фразами, соответствующими действительности и не соответствующими ей. Нейросеть всего лишь выстраивает слова в последовательность, наиболее отвечающую заданному контексту. Получившийся текст может совпадать с реальностью, а может и не совпадать, но в любом случае будет выглядеть очень убедительно, что и подкупает людей, не понимающих принципы работы генеративных моделей. В ситуации судебного процесса такой «выдуманный» нейросетью текст может сыграть злую шутку с опирающимся на него юристом или ввести в заблуждение участников процесса, заявляют юристы. Уже есть примеры «выдуманной» Chat GPT судебной практики. Эксперты предостерегают: любой юридически значимый текст, сгенерированный искусственным интеллектом, необходимо тщательно проверять на предмет соответствия действительности и актуальности использующихся в нем норм.
Если у вас возникли вопросы в сфере защиты авторских прав или вы хотите заявить о нарушении – отправьте свой запрос на lawyer@rpsmi.ru.