ИИ делает ошибки в судебных документах: как его использовать грамотно
Люди все чаще поручают искусственному интеллекту рабочие задачи. ИИ помогает ускорить многие процессы в работе. Но также приносит и риски. Он может подавать неверную информацию или воровать конфиденциальные данные. Например, юридические документы, сгенерированные с помощью искусственного интеллекта, все чаще оказываются с ошибками. Какие данные ИИ может “украсть”? Как правильно пользоваться ИИ?
Искусственный интеллект все шире внедряется во все сферы жизни общества. Американское правительство, например, контролирует его использование в государственных структурах.
Работодатели ищут людей, которые умеют пользоваться технологией искусственного интеллекта. Но по мере работы, ИИ выдает иногда ошибки.
Французский специалист по данным и юрист Дамьен Шарлотен за последние шесть месяцев выявил минимум 490 судебных материалов с «галлюцинациями» – ошибочными или вводящими в заблуждение ответами ИИ. И, по его словам, таких случаев становится больше.
Шарлотен создал целую базу данных решений, где судьи указывали, что генеративный ИИ создал фальшивые ссылки на дела или вымышленные цитаты. Большинство таких дел – в США. Чаще всего речь идет об истцах, которые представляют себя сами, без адвокатов. Судьи в основном делали предупреждения, но иногда даже назначали штрафы.
Помимо людей без юридического образования, ошибки допускают и крупные компании. Например, федеральный судья в Колорадо обнаружил, что адвокат компании MyPillow Inc. подал документ с почти 30 некорректными ссылками.
С проблемами в работе с ИИ сталкиваются не только юристы. Краткие ответы, которые выдает Google на основе искусственного интеллекта – тоже часто с ошибками.
Помимо этого, к нейросетям много вопросов по поводу конфиденциальности. Работники должны быть осторожны с тем, какие данные они загружают в такие системы. Нужно соблюдать аккуратность с личной или корпоративной информацией.
Юристы и эксперты Jobs for the Future по рабочим процессам делятся своим опытом ошибок ИИ. И объясняют для APNews, чего стоит избегать.
Используйте ИИ как помощника
Нельзя доверять ИИ принимать важные решения. Каждую задачу, которые вы ему даете – стоит проверять так, будто перед вами стажер.
«Думайте об ИИ как об инструменте, который помогает вашей работе. Он может помочь составить письмо или найти информацию, но не должен полностью заменять человеческий труд, – говорит Мария Флинн, глава фонда Jobs for the Future.
Флинн рассказывала, что попросила корпоративный ИИ предложить вопросы для обсуждения статьи на встрече. Первые варианты не подходили, но после уточнений система дала более точные предложения.
Проверяйте точность
Иногда искусственный интеллект путает факты. Например, может не разобраться в разнице между завершенными проектами и предложениями, которые только подали. ИИ может быть полезен для идей, но полагаться на него как на точный источник данных очень рискованно. Проверка фактов – обязательный шаг в работе с ИИ.
Юрист Джастин Дэниелс из Атланты говорит:
«Да, это неудобно и занимает время – перепроверять ссылки или читать оригинал договора, вместо того чтобы верить резюме ИИ. Но по-другому нельзя».
Также важно помнить о правилах записи разговоров. Некоторые ИИ-ассистенты могут записывать встречи и создавать заметки. Но в ряде юрисдикций требуется согласие всех участников беседы. Адвокат Даниэль Кейс советует консультироваться с юристами или HR перед тем, как использовать такие инструменты на встречах. Особенно тех, которые касаются расследований, оценки сотрудников или юридических стратегий.
Защищайте конфиденциальную информацию
Не загружайте в бесплатные ИИ-инструменты секретные или личные данные. ИИ не отличает публичные данные от частных. Переданная информация может «всплыть» у других пользователей.
Учитесь работать с ИИ
Если работодатель не проводит обучение, попробуйте бесплатные инструменты вроде ChatGPT или Microsoft Copilot. Многие университеты и IT-компании также предлагают курсы.
Самая большая ошибка – не учиться работать с ИИ вовсе, – говорит Флинн. Нам всем нужно будет стать в этом грамотными.
