Московские юристы направили обращение в несколько государственных структур, потребовав начать более строго регулировать поведение искусственного интеллекта в некоторых сферах. По их мнению, плохо работающий ИИ может доставлять людям неудобства, к том числе в виде несправедливых штрафов.
Комиссия по правовому обеспечению цифровой экономики московского отделения Ассоциации юристов России направила письмо в Совет Федерации, Госдуму, Минцифры и Роскомнадзор. По мнению авторов обращения, простые граждане часто страдают из-за того, что искусственный интеллект просто плохо работает.
Юристы хотят, чтобы были внесены поправки в закон «О персональных данных». По их мнению, независимые эксперты и специалисты должны иметь возможность оценивать системы ИИ, и требовать от внедряющих ИИ-системы организаций иметь запасной план на случай сбоев и предупреждать граждан о том, что в той или иной системе используется ИИ.
В комиссии считают, что поправки необходимы, так как ИИ может дискриминировать граждан из-за некачественных алгоритмов и использования неполных данных. Но сегодня доступ сторонних экспертов к системам искусственного интеллекта закрыт, поэтому сейчас крайне сложно выявить промахи ИИ и обжаловать допускаемые им ошибки.
Например, подчеркивается в обращении, граждане страдают от штрафов, которые несправедливо выписывает искусственный интеллект на основе фото- и видеоданных — как это происходило в случае с режимом самоизоляции в 2020 году, когда к ответственности за выход на улицу привлекали парализованных граждан, не способных покинуть квартиры. Также из-за того, что ИИ неверно интерпретирует данные из-за сырых алгоритмов, люди часто не могут взять кредиты даже в тех случаях, когда у них хорошая кредитная история.
В разговоре с «Ведомостями» эксперты подчеркнули, что разработчики искусственного интеллекта будут всячески сопротивляться тому, чтобы ИИ определили объектом права. Потому что разработчикам придется нести ответственность за все ошибки, которые допускает ИИ, и им придется компенсировать убытки.
По мнению директора по стратегическим проектам Института исследований интернета Ирины Левовой, ужесточение регулирования ИИ со стороны государства только затормозит развитие рынка и не защитит граждан. Решать проблемы ошибок искусственного интеллекта, по мнению Левовой, нужно саморегулированием, как это делает, например, Ассоциация больших данных (куда входят «Яндекс», «Сбербанк», «МегаФон», «Ростелеком» , «МТС» и др. — «МБХ медиа»), у которой есть Кодекс этики и регулярно обновляющийся и дополняющийся набор лучших практик по использованию ИИ. Так сфера сможет эффективно регулировать сама себя и будет предлагать лучшие решения для пользователей.
Также излишняя регламентация может привести к тому, что в некоторых сферах ИИ и вовсе перестанет работать, как, например, при выдаче кредитов, считают эксперты.
Минцифры уже начало рассматривать обращение.
На данный момент объем рынка ИИ только увеличивается. Министерство цифрового развития предполагает, что в 2021 году объем этой сферы должен составить 48 миллиардов рублей, а в 2024 году и вовсе должен увеличиться до 160 млрд руб.
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.