Искусственный интеллект. Этика и право

Главная проблема использования ИИ в судебной практике это то, что ИИ базируется не на ситуационной логике, а на вычислительных процедурах. ИИ не умеет работать с контекстами. Соответственно, в каждом государстве политические силы должны прийти к компромиссу и установить, в каких сферах и в каких аспектах судебной системы и правоохранительной деятельности можно использовать ИИ, а в каких использование этого инструмента опасно для политического консенсуса.

Вопрос об использовании ИИ в судебных системах был впервые рассмотрен на уровне Европейской Комиссии в апреле 2018 г. Результаты опроса свидетельствуют о том, что министерства юстиции государств-членов ЕС сообщили, что широко пользуются как на федеральном, так и на низовом уровне инструментами ИИ. Однако при обработке результатов опроса удалось установить, что практически во всех случаях под инструментами ИИ понимались либо корпоративные информационно-аналитические системы, т. е. фактически хранилища документации, оснащенные визуализаторами и поисковиками, либо стандартные статистические пакеты, обрабатывающие стандартные цифровые данные. Ни первые, ни вторые программные комплексы не являются ИИ, а относятся к предыдущей стадии интеллектуального софта – datamining.

Приведенные ниже сведения основаны не на результатах опроса, а на исследовании в частном секторе, проведенном экспертами ЕС. Прежде всего, следует сразу уточнить, что выбраны приложения, где уже сегодня участвует хоть в какой-то степени ИИ. Под ИИ в данном случае понимаются платформы, обеспечивающие анализ и прогнозирование в судебной и правоохранительной сферах на основе обработки больших данных с использованием машинного обучения, нейронных сетей и методов распознавания образов с выводом результатов в визуальном или любом ином понятном для конечных пользователей виде. Выделяется несколько направлений практического использования ИИ в судебной и правоохранительной сферах. Конкретно речь идет о:

• продвинутых семантических корпоративных поисковых системах;

• системах поиска и анализа ситуаций, содержащихся в юридических документах;

• системах поддержки разработки юридических документов на основе автоматического генерирования шаблонов;

• системах предиктивной судебной аналитики, ориентированных на адвокатские компании;

• юридических чатботах, осуществляющих информирование сторон в ходе первоначальных контактов по тем или иным делам на естественных языках.

Первым государством ЕС, которое заявило, что приступило к изучению возможностей машинного обучения для повышения качества судебных решений, стала Латвия. Основная цель на сегодняшний день – это запуск не позднее конца 2020 г. охватывающей все судебные решения страны системы прогнозной аналитики для составления предварительной оценки людских и материальных ресурсов, которые могут быть потрачены на ведение того или иного процесса, начиная от принятия решения о начале судопроизводства и вплоть до вынесения окончательного вердикта. Фактически в Латвии собираются запустить систему предиктивной судебной аналитики, рассчитанную не на частные компании, выступающие на стороне, как правило, защиты, а в интересах государства – в основном стороны обвинения.

Наиболее широко система ИИ на сегодняшний день в государствах ЕС применяются в двух странах – Нидерландах и Франции. В остальных государствах ЕС отсутствуют национальные решения в области использования ИИ в судебной и правоохранительных сферах. В Нидерландах на сегодняшний день ИИ используется для предиктивной судебной и правоохранительной аналитики, для углубленного datamining текстовых документов и для обработки документов, включая генерирование шаблонов, в рамках электронного документооборота.

Французы создали внутренний государственный семантический поисковик, используемый судебными работниками и правоохранителями для работы с государственными базами данных и архивами судебных решений. Также во Франции юридические компании широко используют системы превентивной судебной аналитики и чатботы, поддерживающие наряду с французским, английский и арабский языки. В остальных странах национальных систем ИИ для судопроизводства выявить не удалось.

§ 2. Европейская политика в области больших данных, относящихся к судебной и правовой системам

Доступность данных является важнейшим условием развития ИИ, позволяющим ему выполнять определенные задачи, ранее выполняемые людьми. Чем больше доступных данных, тем больше ИИ может совершенствовать свои модели, улучшать их способность к распознаванию тех или иных ситуаций и прогнозированию. Поэтому подход раскрытия больших данных, относящихся к судебным решениям, является обязательным условием использования ИИ в судебной системе.

По мнению экспертов ЕС, растущее отставание большинства государств ЕС от мировых лидеров в области ИИ связано не со слабостью европейских компаний, специализирующихся в области интеллектуального софта и не с отсталостью европейской математики, а с гораздо более жесткими и запретительными по сравнению с Соединенными Штатами, Китаем и рядом других стран законами ЕС и отдельных стран в части использования, хранения и извлечения любых видов данных, имеющих отношение к гражданам Европейского Союза.

Компьютерные данные являются «нефтью» XXI века. Их использование производит новое богатство. Глобальные успехи в цифровой индустрии за последние десятилетия подтвердили огромный потенциал этой сферы деятельности, как локомотива четвертой производственной революции. Эксперты ЕС признают, что европейские страны в большинстве своем проигрывают цифровую гонку, уступая не только Соединенным Штатам и Китаю, но и Японии, Южной Корее, вышедшей из состава ЕС Великобритании и т. п.

В большинстве государств ЕС традиционно значительная часть правоохранительных данных и некоторые судебные данные закрыты и требуют для доступа определенного статуса. Совершенно другая ситуация в Соединенных Штатах и странах Британского Содружества наций, где практически все судебные и большинство правоохранительных данных стали открытыми данными, а соответственно оказались доступными для обработки ИИ.

Европа фактически проспала революцию, связанную с переводом больших данных в формат общедоступных машиночитаемых данных. Соответствующий стандарт был разработан неправительственной организацией «Партнерство для открытого правительства». В него входят цифровые гиганты и более 70 государств-членов, включая США, Великобританию, Россию, Японию, многие государства-члены ЕС.

Целью этой организации является повышение прозрачности общественной деятельности, последовательный перевод закрытых государственных данных в открытые, доступные аналитике и прогностике не только со стороны государства, ной общества. Следует констатировать, что после мощного старта в начале десятых годов, во второй половине текущего десятилетия подавляющая часть государств ЕС, прекратила активное участие в этой организации и приостановила процесс перевода больших данных в открытые машиночитаемые данные.

В этой связи в мае 2018 г. Европейская Комиссия принял решение о развертывании европейской инициативы «За открытые машиночитаемые данные». В рамках ЕС ответственность за общеевропейскую программу взяла на себя Франция. Именно эта страна является на сегодняшний день одним из мировых лидеров в области перевода больших данных в открытые, машиночитаемые данные. Во Франции существует и эффективно действует специальный портал, на котором размещается вся сертифицированная публичная информация, содержащая не только законодательные и нормативные тексты, но также прецедентное право, информацию о назначениях на публичные должности и огромные массивы статистической информации, которые за государственный счет переводятся в формат машиночитаемых данных.

К настоящему времени в значительной степени благодаря усилиям Франции, в государствах-членах ЕС проходит унификация требований к данным. Открытые машиночитаемые данные включают только те данные, которые могут быть автоматическим образом извлечены из портала в интернете и без потерь и искажений храниться в структурированных компьютерных базах данных.

Открытые данные, объединенные с другими структурированными и неструктурированными данными, составляют то, что называется большими данными. Консультативный Комитет Конвенции 108 Совета Европы определяет большие данные как «растущую технологическую способность собирать, обрабатывать и извлекать новые, в том числе прогнозные, знания из большого объема быстроизменяющихся и разнообразных данных». Как показывает определение открытые и большие данные не следует путать со средствами их обработки. ИИ – это ни в коем случае не сами по себе большие данные, а комплексы или платформы их обработки на основе использования сложных статистических алгоритмов, машинного обучения и нейронных сетей. По сути, в большинстве случаев ИИ сегодня определяется не через функцию, либо особое содержание, а как своего рода зонтичное определение совокупности конкретных IT технологий, типа нейронных сетей, распознавания образов, факторного анализа, корреляционно-регрессионного метода и т. п.

В настоящее время европейскими лидерами по открытым данным в судебной сфере являются Франция и Нидерланды. Они еще в 2016 г. приняли законодательство, делающее обязательным публикацию открытых данных не только о решениях судов различной юрисдикции, но и судебных дел по закончившимся процессам. В настоящее время во Франции и Нидерландах в обязательном порядке, за исключением особенных случаев, определенных законом, публикуются не только судебные решения, но и сопутствующие документы. Это позволяет развивать судебный ИИ на основе анализа открытых данных.

Однако в 2017–2018 гг. во Франции произошел ряд инцидентов, которые поставили под сомнение принцип открытой публикации материалов судебных дел. В настоящее время этот вопрос рассматривается Европейским судом по правам человека. Лишь после вынесения его решения будет окончательно ясно, есть ли будущее у публикации всех материалов судебных дел, как открытых данных, или в перспективе публиковаться будут лишь судебные решения.

Эксперты ЕС делают вывод, что, несмотря на некоторые многообещающие разработки, создание полностью эффективного автоматического механизма распознавания ситуации на основе анализа судебных решений и дел несет большие риски для соблюдения конфиденциальности и личных свобод граждан.

В 2017–2018 гг. в соответствии с решениями Совета Европы был проведен масштабный опрос среди сотрудников судов; какое направление они считают наиболее многообещающим с точки зрения использования возможностей ИИ для анализа машиночитаемых данных. На выбор предлагалось четыре варианта:

• использование ИИ для извлечения знаний из хранящихся в электронном виде решений судов и судебной документации;

• использование ИИ для прогнозирования линии защиты в ходе судебных процессов;

• использование ИИ для поиска прецедентных решений судов или близких к рассматриваемым в том или ином процессе случаев в прошлом. Фактически речь идет о распознавании ситуации;

• использование ИИ как служебного инструмента для организации первичного общения, автоматизации и генерации шаблонов юридических документов, улучшения качества переводов с редких иностранных языков в тех случаях, когда в процессах участвуют их носители.

Результаты обследования более чем 1700 судебных работников из 12 государств ЕС следующие: более 50 % в качестве первоочередной, наиболее интересующей функции выделили относительно простые служебные функции ИИ, связанные с чат-ботами, визуализацией, переводами и т. п. Более 20 % выразили заинтересованность в наличии инструмента, позволяющего распознавать аналоги ситуаций, рассматриваемых в том или ином судебном процессе в прошлом, и созданию подборок документов по данным ситуациям. Еще 20 % опрошенных сказали, что им ИИ не интересен и не нужен. Оставшиеся 10 % примерно пополам разделились между поисковой и прогностической функциями ИИ, которые, например, в Соединенных Штатах являются главными функциями ИИ в судебной и правоохранительной сферах.

Учитывая, что служебные функции ИИ, по сути, выполняются традиционным интеллектуальным софтом, можно утверждать, что более 80 % судебных работников не видят необходимости в использовании ИИ в своей работе, а соответственно не видят необходимости в повышении уровня своих знаний в области информационно-коммуникационных технологий за пределами умения работать с поисковиками и традиционным аналитическим софтом.

Для достижения справедливого баланса между эффективностью правоохранительных и судебных систем – с одной стороны, и приватности – с другой, необходимо провести тщательнейший анализ целесообразности публикации в рамках судебных решений имен и фамилий свидетелей, их адресов, показаний и т. п. Ключевым вопросом, который предстоит разрешить системам ИИ для судебной отрасли, который неизбежно появится, является вопрос персональных данных.

К персональным данным в рамках европейского законодательства относятся привязанные к имени, фамилии номера телефонов, адреса места жительства и электронной почты, дата рождения, имена детей, имена и фамилии родственников, места работы, проведения отдыха и т. п. В большинстве стран запрещено не только бесконтрольное использование персональных данных, но и хранение личных данных на частных серверах, в базах данных без письменного согласия человека. Проблема заключается в том, что в решениях судов, а тем более в судебной документации все эти данные обязательно содержатся. Соответственно, используя самые простые методы анализа, из судебной документации могут быть извлечены огромные массивы персональных данных. Кроме того, некоторые персоналии могут быть идентифицированы по косвенным данным и анализу перекрестных ссылок.

Наряду с персональными данными, существуют особо чувствительные данные, которые в соответствии с европейскими конвенциональными требованиями не могут быть раскрыты ни перед кем, включая государственные органы, без специального решения суда. Речь идет об этническом или расовом происхождении, политических взглядах, членстве в профсоюзах, религиозных и иных убеждениях, любой другой информации, касающейся физического, психического здоровья, половой жизни и личных увлечений, которые по законодательству считаются нераскрываемыми интимными подробностями.

Проблема заключается в том, что эти нераскрываемые данные подчас содержатся в материалах судебных заседаний, составляют их важную часть и не защищены в текстах специальным образом. В соответствии с этим подавляющее большинство судей, прокуроров в государствах-членах ЕС выступают за законодательный запрет на уровне Европейской Комиссии, переводить судебную документацию, за исключением общедоступных судебных решений, в разряд открытых данных, и более того, требуют запретить пользоваться ими всем, за исключением специально поименованных категорий участников состязательных судебных процессов. Выбирая между ИИ и личной приватностью, по мнению судейских работников, необходимо выбрать приватность.

При этом более 80 % опрошенных судейских работников ЕС полагают необходимым законодательно ограничить или строго кодифицировать условия применения ИИ в правоохранительной работе с тем, чтобы избежать вторжения полиции в частную жизнь законопослушных граждан.