Новые методики помогут развитию доверенного ИИ

О создании документа для разработчиков систем ИИ на форуме "Технологии доверенного искусственного интеллекта" сообщил заместитель директора федеральной службы по техническому и экспортному контролю (ФСТЭК) России Виталий Лютиков: "Мы рассматриваем вопрос разработки документа с методическими рекомендациями для разработчиков и операторов систем ИИ. Это нужно для того, чтобы сформировать концептуальные подходы относительно специфичных угроз. Документ мы планируем сделать публичным, пока проект на стадии обсуждения". Также Виталий Лютиков рассказал, что в России пока нет доверенного ИИ в стандартном его понимании: "Доверенный ИИ должен соответствовать нескольким стандартам безопасности, разработанных с учетом объективности, непредвзятости, этичности и с учетом исключения применения для нанесения угрозы гражданам и государству. Пока мы не разработаем ИИ по этим составляющим и не сформируем методики подтверждения этим требованиям, то и говорить о существовании доверенного ИИ пока преждевременно". Директор по информационной инфраструктуре Госкорпорации "Росатом" Евгений Абакумов считает, что в стране не хватает вычислительных архитектур: "Есть один важный вопрос: на каких вычислительных архитектурах мы будем обрабатывать данные и получать результаты. В России таких вычислительных архитектур немного. Поэтому вопрос, связанный с инфраструктурной составляющей, а значит и понимание той вычислительной технологии, которую мы используем для ИИ, для нас выходит на первый план прежде всего в критической информационной инфраструктуре". Директор департамента международной информационной безопасности министерства иностранных дел (МИД) России Артур Люкманов рассказал о ситуации с доверенным ИИ в мире: "В мире очень много напускного шума. Исходя из того, что обсуждают на площадках ООН и международного союза электросвязи (МСЭ), можно суммировать, что идет столкновение подходов и попытка навязать интересы национальных производителей со стороны каждой страны. У подавляющей части государств-членов ООН нет даже четкого представления о том, что такое ИИ. Представители некоторых стран спрашивают у нас, что такое ИИ и как получить к нему доступ. Общение происходит скорее не на экспертном уровне, а на международно-правовом. Это ведет к тому, что ведущие разработчики систем ИИ хотят поскорее застолбить внешние рынки. В первую очередь, США и их страны-союзники. Они считают, что в основе регулирования доступа к системам ИИ должны быть права человека. Но они это понимают по-своему в отличие от многих других стран. И продвигая этот подход, авторы таких решений стараются застолбить большую часть рынка, привлекая повышенное внимание. В этой сфере нужно, чтобы было поменьше политики и побольше технической экспертизы, которой явно не хватает". Кроме того, Артур Люкманов напомнил об успехах России в этом направлении: "К сожалению, западные страны обладают существенными технологическими преимуществами в сфере ИИ. Тем не менее Россия предприняла много усилий для разработки новых правил использования информационно-коммуникационных технологий (ИКТ), включая ИИ, еще в 2018 г. Тогда мы приняли резолюцию генассамблеи ООН, которую поддержали 109 государств. Она направлена на преодоление цифрового разрыва. Это нормы, правила и принципы поведения государства в информационном пространстве. Если коротко, то государства обязуются не использовать ИКТ для атак, сотрудничать друг с другом в расследовании инцидентов, не допускать монополий в этой сфере. И до сих пор резолюция продолжает действовать". Директор института системного программирования Российской академии наук (РАН) Арутюн Аветисян напомнил о создании центра доверенного ИИ: "Пока мы не достигнем разработки доверенного ИИ, мы не сможем внедрять технологии в отрасли экономики. Поэтому мы создали центр доверенного ИИ. В тот момент мы наблюдали непонимание со стороны ИТ-сообщества и бизнеса, для чего это нужно. Но в этом центре мы начали создавать научно-технологическую базу на основе доверенности. Никакой регуляторики мы вообще не задумывали. И за годы существования центра мы получили международное признание. Наш центр не строился по принципу "мы все сделаем сами". Наоборот, мы находимся в партнерстве с другими игроками рынка. Нужно понимать, что масштаб проблемы отсутствия доверенного ИИ огромен, и в одиночку ее не решить. У нас есть, например, большое отставание в области микроэлектроники, поэтому в ближайшие два-три года мы должны решить эту проблему". Ссылка на источник