Этику ИИ определит Кодекс

"Технологии искусственного интеллекта постепенно внедряются в самые разные сферы жизни, включая образование, здравоохранение, госуправление. По данным ВЦИОМа, около 48% россиян доверяют ИИ. Это достаточно высокая цифра. Но пока у части общества неоднозначное отношение к таким технологиям, и это то, над чем нам надо работать. Обществу нужен надежный ИИ с вероятностью ошибки ниже, чем у человека. Права и свободы граждан гарантированы Конституцией. Наша обязанность – реализовать механизмы по их защите, независимо от среды, в которой находится человек. Соблюдение этических норм при работе с ИИ позволит предотвратить их нарушение. Поэтому Правительство приветствует подписание профессиональным сообществом Кодекса этики ИИ, он позволит повысить уровень доверия граждан к новым технологиям. Опираясь на лучшие практики, Россия входит в десятку стран, для которых этичность развития важнейшей технологии XXI века имеет государственное значение", – отметил заместитель председателя Правительства России Дмитрий Чернышенко. Вице-премьер отметил, что указом Президента утверждена Национальная стратегия развития ИИ до 2030 года и работа над кодексом шла с учетом ее требований. Кодекс станет частью федерального проекта "Искусственный интеллект" и Стратегии развития информационного общества на 2017-2030 годы. Документ поделен на два раздела, куда входят в том числе такие темы, как стимулирование развития ИИ, повышение осведомленности об этике применения ИИ, идентификация ИИ в общении с человеком и информационная безопасность. К разработке кодекса было привлечено свыше 500 экспертов, получено и проработано более 300 различных предложений и замечаний. Организационно активно участие принимали Аналитический центр Правительства и Минэкономразвития. Документ охватывает не только разработчиков, но и ученых, потребителей, поставщиков ИТ-решений. Принципы и положения, которые удалось выработать, полностью соответствуют рекомендациям ЮНЕСКО в сфере ИИ и содействуют достижению целей устойчивого развития, определенных ООН. Событие прошло в рамках I международного форума "Этика искусственного интеллекта: начало доверия". Пленарная сессия, которая проходила под темой "Национальная концепция этического регулирования искусственного интеллекта", завершилась торжественной церемонией подписания вышеупомянутого кодекса этики ИИ. С помощью электронной подписи "Госключ" документ подписали Сбер, "Газпром нефть", "Яндекс" VK, МТС и Российский фонд прямых инвестиций, а также представители "Сколково", "Ростелекома", Росатома, InfoWatch и ЦИАН. "Сегодня организации-лидеры поставили свои подписи под кодексом. Ожидаем, что до конца года его подпишут более 100 организаций из государственного, коммерческого и научного секторов. Правительство приложит все необходимые организационные усилия, чтобы этические принципы ИИ нашли практическую реализацию в разных сферах: в госуправлении, здравоохранении, на транспорте, где благополучие людей в приоритете", – заключил Дмитрий Чернышенко, отметив, что система искусственного интеллекта должна быть абсолютно безопасна для человека. Кодекс этики устанавливает общие этические принципы и стандарты поведения, которыми могут руководствоваться участники отношений в сфере искусственного интеллекта. Он провозглашает человеко-ориентированный и гуманистический подход при развитии технологий ИИ, принципы недискриминации, безопасности работы с данными и информационной безопасности, идентификации ИИ в общении с человеком и уважения автономии воли человека, ответственности за последствия применения ИИ. "Многие считают, что технологии искусственного интеллекта неоднозначны: с одной стороны, это мощный драйвер развития для всего человечества, с другой – ИИ обладает некоторой степенью автономности в принятии им решений, и не всегда очевидно, как эти решения принимаются. Поэтому сегодня перед всеми нами стоит большая цель – выработать доверие к технологиям ИИ, а это невозможно без определения правил их этичного применения. Уверен, что принятый кодекс, в разработке которого активное участие принял Сбер, станет важным шагом в укреплении доверия граждан нашей страны к ИИ и, как следствие, в развитии всей отечественной отрасли искусственного интеллекта", - заявил первый заместитель председателя правления Сбера Александр Ведяхин. Приверженность Кодексу станет ключевым элементом социальной ответственности компаний, разрабатывающих и внедряющих технологии ИИ в России. Планируется, что Кодекс этики в сфере искусственного интеллекта станет рекомендательным документом по этике для всех участников рынка ИИ: государства, бизнеса, российских и иностранных разработчиков. Кодекс устанавливает общие этические принципы и стандарты поведения, которыми могут руководствоваться участники отношений в сфере искусственного интеллекта. Президент МТС Вячеслав Николаев отметил, что именно решения на основе технологии искусственного интеллекта уже в ближайшее время могут обеспечить настоящий прорыв в части цифровизации здравоохранения, образования, не говоря уже о решении повседневных задач. "Вместе с тем искусственный интеллект сегодня можно с уверенностью назвать технологией, которая вызывает наибольшую тревогу в обществе. Поэтому сейчас самое время определить принципы, которые помогут использовать технологии искусственного интеллекта с максимальной пользой для общества. В МТС этическим вопросам при разработке продуктов, в том числе на базе искусственного интеллекта, всегда уделялось повышенное внимание, и мы рады поделиться этим опытом в рамках разработки общероссийского кодекса этики ИИ", - подчеркнул Вячеслав Николаев. В пресс-службе МТС добавили, что высокотехнологичные компании, которые руководствуются этическими правилами при создании решений на основе ИИ, получат дополнительное конкурентное преимущество. В компании отметили, что вопрос касается и коммерческой успешности продуктов, особенно в таких чувствительных сферах, как персональные или медицинские данные. Обеспечение бизнесом открытости, связанной с решениями на основе ИИ информации, станет основой повышения доверия к технологии в целом. "Данный кодекс содержит все ключевые направления и необходимые инструменты эффективного этического регулирования: назначение уполномоченного по этике внутри компании, создание национальной комиссии по этике, разработку недискриминационных методик, утверждение лучших практик в сфере ИИ, процедуры этической оценки. Предусмотрено также сотрудничество разработчиков по обмену информацией о выявленных этических уязвимостях, о способах повышения качества и доступности ресурсов, создания условий для развития образования", - отметили в МТС. "Сам кодекс, по сути, является моделью угроз, в котором часть угроз попытались оценить и предотвратить. В частности, ответственность за принятие решений должно оставаться за человеком, есть обязательность уведомления человека о том, что в данный момент с ним общается система ИИ", - сообщила генеральный директор Infowatch Наталья Касперская. Начальник Управления Администрации президента РФ по развитию ИКТ и инфраструктуры связи Татьяна Матвеева подчеркнула, что кодекс открыт для подписания не только российскими компаниями, но и иностранными. По ее словам, тем самым будет сохраняться баланс, ведь кодекс позволит российским компаниям-разработчикам достаточно уверенно себя чувствовать в рамках различных международных площадок, уверенно выводить свои продукты на международные рынки, и продукты, которые соответствуют кодексу, будут приниматься в том числе и зарубежным сообществом. "Положения кодекса этики ИИ с течением времени должны пересматриваться в соответствии с возможными новыми вызовами, которые будут вставать в рамках развития новых технологий", - обозначила один из ключевых факторов Татьяна Матвеева. В качестве инструмента реализации вышеупомянутых принципов и положений кодексом предусмотрено создание Национальной комиссии по этике ИИ, назначение уполномоченных по этике, а также возможность создания коллегиальных отраслевых органов по этике. Альянс также займется разработкой методических рекомендаций и свода наилучших практик решения возникающих этических вопросов в жизненном цикле ИИ. "Формирование и развитие рынка ИИ-технологий требует эффективного взаимодействия его участников. Совместная подготовка, принятие и дальнейшее использование Кодекса этики – важный этап формирования ключевых инструментов инфраструктуры и создания историй успеха для разработчиков, пользователей и инвесторов в сфере искусственного интеллекта. РФПИ вместе с соинвесторами и портфельными компаниями фонда традиционно большое внимание уделяет вопросам этики и репутации, поэтому готов активно делиться собственным и перенимать передовые опыт и практики", - подчеркнул первый заместитель Генерального директора Российского фонда прямых инвестиций (РФПИ) Анатолий Браверман. Архитектор Softline digital Николай Князев отмечает, что кодекс содержит благие пожелания, подсвечивая вопросы, о которых много говорят во всех странах. Эксперт приводит в пример методы, внедреннные в Microsoft Azure, которые проверяют, не обучилась ли модель дискриминации по национальному или религиозному признаку, для чего используются инструменты отслеживания и контроля моделей ИИ. Он добавляет, что работы о контроле самообучения группы OpenAI были одни из самых обсуждаемых несколько лет назад, и обращает внимание, что на центральной конференции разработчиков нейронных сетей NeurIPS оценка социальных последствий - обязательный раздел любой научной статьи. "Данные пункты кодекса указывают разработчику модели машинного обучения неочевидные моменты куда стоит обратить внимание, и это безусловно разумно. Некоторые из пунктов явно инспирированы футурологами, более близкими к книгам, чем к практической науке, например пункт 2.4. о недопустимости использования систем, где есть возможность причинения вреда имуществу или окружающей среде. Это напоминает правила фантаста Азимова, однако такой подход абсурден, если говорить о прямом применении (любые устройства прямо или косвенно наносят урон окружающей среде). В любом случае в кодексе поднимаются темы, о которых нужно говорить и искать ответы на поставленные вопросы", - резюмирует Николай Князев, высказав мнение, что стоит уделять больше внимания интерпретируемости моделей, ведь все опасения появляются, когда мы видим в ИИ "черный ящик" и развеиваются, когда мы понимаем как он принимает решения. Директор по продуктовой стратегии Группы Т1 Сергей Иванов заметил, что вопрос зависимости человеческих жизней и здоровья от итогов работы тех или иных алгоритмов будет заостряться именно по причине отсутствия морали, этики и подобных человеческих качеств в автоматизированных решениях. "Принятие кодекса - правильный и во многом неизбежный шаг. Однако документ не имеет обязательного статуса, ограничиваясь только рекомендациями. Кроме того, любая передовая технология развивается и усложняется: зафиксированные сейчас в Кодексе подходы вряд ли будут отвечать вызовам и уровню технологии через 10 лет. Скорее всего мы увидим достаточно регулярный процесс верификации (актуализации), а не статический свод "правил", - заключил Сергей Иванов. Ссылка на источник