05.03.2021

«Правильный шаг» – эксперты о принятии Сбером принципов этики искусственного интеллекта

Правление Сбербанка одним из первых в России утвердило принципы этики, действующие при разработке и применении технологий искусственного интеллекта (ИИ). Как отмечается в сообщении на сайте Сбера, эти принципы были разработаны с учетом требований Национальной стратегии развития искусственного интеллекта и будут действовать для всех участников Группы Сбер.

По словам президента Сбербанка Германа Грефа, принимая эти принципы, корпорация следует международным стандартам. «Утверждая этические принципы разработки и применения технологий ИИ и создавая механизмы для их реализации, мы действуем в русле лучших мировых практик», – заявил Греф.

Выделяются пять принципов:

1. «Контролируемость и управляемость систем ИИ»

2. «Прозрачность и предсказуемость функционирования технологий ИИ»

3. «Стабильность и надёжность систем ИИ»

4. «Ответственное применение ИИ»

5. «Непредвзятый ИИ»

По мнению адвоката Валерии Голяновой, все пять принципов должны быть основополагающими в части развития технологии: «Это очень правильный шаг. Я хочу обратить внимание на два принципа. Первый– контролируемость. В этом случае позиция Сбербанка полностью соответствует позиции Евросоюза [в начале этого года ЕС принял стратегию развития ИИ – прим. ред.] Принцип контролируемости всех процессов человеком заложен в этой концепции как основополагающий.

Второй важнейший принцип, на который хотелось бы обратить внимание - принцип непредвзятости. Каждому из нас сложно признаться, что внутри нас есть предвзятость. Проблема ИИ в том, что он обучается у человека, а значит он тоже перенимает принципы нашей предвзятости. Например, мы предсказуемо относимся с предвзятостью к людям с наличием судимости, но машина может использовать в качестве критерия фамилию Иванов, только из-за того, что среди них большое количество осужденных. ИИ может неправильно сделать вывод, и конечно же подобная дискриминация недопустима.

Выводы искусственного интеллекта не должны быть цифровым приговором, который делают во время скоринга или оценки вашего резюме. Приговором, который невозможно юридически оспорить. Иначе из-за неверных алгоритмов мы можем прийти к ситуации, когда некоторые люди из-за ошибки в алгоритме не смогут взять кредит или устроиться на работу, и даже не смогут это оспорить. Кодекс этики Сбербанка – правильный шаг для недопущения подобной ситуации».

В свою очередь, член Совета Федеральной палаты адвокатов, советник ФПА Елена Авакян отметила: «Это очень радостный момент, в некотором смысле, судьбоносный в нашей истории. Впервые мы стали свидетелями того, как без видимых руководящих указаний со стороны государства крупнейший коммерческий игрок цифрового рынка добровольно накладывает на себя целый ряд ограничений. На первый взгляд невыгодных с коммерческой точки зрения, но необходимых с точки зрения репутации, для позиционирования себя в мировом цифровизационном мире. Принятые принципы однозначно созвучны Азиломарским принципам и отражают стремление Сбера занять достойное место за круглым столом великих разработчиков искусственного интеллекта».

 

 

 

Читайте также

Загрузить еще