Комиссия в своем заключении отмечает, что в настоящий момент рынок ИИ в России никак не отрегулирован, из-за чего граждане уже сейчас сталкиваются с различными проблемами, в частности – с дискриминацией. Риски дискриминации, по мнению авторов документа, возникают из-за заложенных, возможно, непреднамеренно, в алгоритмы ИИ предубеждений. Также угрозу «объективности» ИИ может нести использование некачественных или неполных данных при обучении системы или принятии решений в конкретной ситуации.
По словам собеседника «Ведомостей», знакомого с работой ИИ в крупных компаниях, ИИ-системы, к примеру, могут отказывать в выдаче кредита заемщикам с хорошей репутацией. Виной тому – некорректно интерпретированные данные и «сырые» алгоритмы.
Ассоциация юристов России предложила отрегулировать применение искусственного интеллекта, начав с госструктурВыявление же и обжалование ошибок ИИ на сегодняшний день могут вызывать сложности, так как доступа к ИИ-системам у сторонних экспертов нет, подчеркивают авторы документа из МО АЮР.
Начать следует с госоргановВ правом регулировании в первую очередь нуждается применение ИИ в госорганах, так как именно решения, принимаемые государством, оказывают существенное влияние на судьбу человека. Впоследствии, по итогам апробирования такого регулирования, стоит рассмотреть возможность проработки законодательства для коммерческих структур, считают в МО АЮР.
В качестве примера регулирования ИИ в областях, где его использование имеет юридически значимые последствия, авторы документа, обращаются к опыту Франции, где введен запрет на анализ и прогнозирование с помощью ИИ действий судей в ходе разбирательств.
По словам Бориса Едидина, зампредседателя комиссии по правовому обеспечению цифровой экономики МО АЮР, реализация предложений ассоциации не потребует серьезной переработки действующего законодательства. Как отмечает специалист, за основу можно взять закон «О персональных данных», который, к примеру, дополнить требованиями проводить экспертизу ИИ-систем независимыми экспертами, размещать на веб-сайтах госорганизаций предупреждения об использовании ими ИИ, а для структур, занимающихся внедрением ИИ-систем, – предусматривать наличие запасного плана на случай сбоев и других непредвиденных ситуаций.
Власти знают об инициативеПо заявлению представителя МО АЮР, в Минцифры знают о предложении ассоциации и в настоящее время заняты его изучением.
Получение заключения комиссии «Ведомостям» подтвердил председатель комитета по информполитике, информтехнологиям и связи Госдумы Александр Хинштейн, который пообещал «интегрировать лучшие практики в работу» комитета.
Мнения экспертовПо мнению руководителя Content-Review Сергея Половникова, разработчики несомненно будут против определения ИИ в качестве объекта права, поскольку в таком случае обязательно возникнет вопрос о компенсации убытков, возникающих из-за ошибочных решений ИИ.
Инвестиции в столичный финтех резко выросли после многолетнего спада Инновации и стартапыПравовое регулирование технических процессов в области ИИ, вероятно, окажет негативное влияние на развитие данного рынка, отметила в разговоре с «Ведомостями» директор по стратегическим проектам Института исследований интернета Ирина Левова. Не выиграют в такой ситуации и конечные пользователи систем на базе ИИ, защитить которых стремится МО АЮР, считает она. По мнению специалиста, отрасль нуждается в саморегулировании, которое выражается в выработке перечня лучших практик и добровольном «принятии его на вооружение» участниками рынка.
Определенные риски перегибов, сопряженные с воплощением в жизнь инициатив МО АЮР, видит руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры» Ярослав Шицле. Наиболее высокие из них связаны с административным согласованием и регламентацией использования персональных данных при их обработке ИИ, считает эксперт. По его мнению, регламентация обоснована, когда речь заходит про такие инструменты как, например, дорожные видеокамеры, на основании записей с которых автоматически выписываются штрафы. В случае же, когда дело касается, к примеру, банковских ИИ-систем, оценивающих заявки на выдачу займов, чрезмерная регламентация способна полностью лишить возможности применять подобные инструменты.
В компаниях, которые занимаются внедрением ИИ, в частности в Сбербанке и «Яндексе», на запросы «Ведомостей» не ответили или отказались от комментариев.
Как в России будет внедряться ИИ в рамках федпроекта «Искусственный интеллект»Как сообщил CNews в конце января 2021 г., российские власти определилось с методиками внедрения ИИ-технологий в сферах здравоохранения, транспорта, сельского хозяйства, в топливно-энергетическом комплексе и обрабатывающих отраслях промышленности. Они прописаны в рамках федерального проекта «Искусственный интеллект», расходы на который сократились втрое – до 36 млрд руб. – по сравнению с предусмотренными в первоначальной версии за авторством Сбербанка.
Для каждой из обозначенных сфер подготовят наборы данных и пользовательские решения, которые будут внедряться отраслевыми компаниями. В частности, проект предусматривает разработку стандартов и правовых основ применения ИИ в здравоохранении, порядка регистрации медицинских изделий на основе технологий искусственного интеллекта, создание методического центра Минздрава для поддержки и координации разметки медицинских документов и подготовки медицинских наборов данных.
Федпроект «Искусственный интеллект» также предполагает внедрение ИИ в повседневную деятельность российских органов власти. Например, с помощью автоматического анализа спутниковых снимков МЧС сможет выявлять аномалии, а Минприроды – находить факты нарушений природоохранного законодательства.