Адвокат Стивен Д. Ааронс использовал чат-бот ChatGPT, разработанный компанией OpenAI, для подготовки апелляции по делу своего клиента. В августе 2024 года он представил документ в Верховный суд штата Нью-Мексико, не проверив достоверность содержащихся в нем данных.
В ходе подготовки текста нейросеть сгенерировала «галлюцинации» — вымышленные свидетельские показания и судебные прецеденты. После обнаружения недостоверной информации суд потребовал удалить соответствующие фрагменты из материалов дела.
На заседании 21 августа Ааронс признал, что использовал ИИ для резюмирования материалов судебного разбирательства и не проверял итоговый документ перед подачей. Адвокат заявил, что на тот момент не знал о способности нейросетей создавать ложные факты.
Суд временно запретил Ааронсу практиковать в данной инстанции. Также юрист был оштрафован на 5000 долларов.
Оригинал: https://www.lavanguardia.com/vida/20260914/11634507/sancionado-abogado-irresponsable-chatgpt-sabia-ia-podia-alucinar-hechos.html
