YandexGPT отказался отвечать на вопросы пользователей

Заместитель председателя Совета Безопасности РФ Дмитрий Медведев в telegram-канале опубликовал пост о том, что YandexGPT, встроенный в умную колонку с голосовым помощником "Алиса", не может ответить на некоторые простые вопросы. Политик отметил, что "Алиса" игнорирует пророссийские политические вопросы, но при этом быстро отвечает на все остальные. "Когда в США был принят закон об изъятии российских активов? Ответ: "Я еще только учусь и не хочу выглядеть глупо". Но задаешь колонке вопрос про любой российский закон - отвечает с блеском", - привел в публикации пример одного из запросов Дмитрий Медведев. Также политик порассуждал на тему честности и предвзятости искусственного интеллекта (ИИ) на примере YandexGPT: "С одной стороны, это сильно подрывает доверие к "Яндексу" и его продуктам. А с другой - дает основания не только для того, чтобы признать сервисы "Яндекса" неполными, но даже нынешних менеджеров иноагентами". Коммерческий директор системного интегратора X-Com Сергей Косецкий поразмышлял о причинах такой работы YandexGPT: "Прежде всего необходимо понимать, что искусственный интеллект называть "искусственным" на данном этапе его развития можно лишь условно. Он работает и развивается на основе исходных данных, закладываемых человеком, и результаты его работы зависят прежде всего от полноты и качества этих данных. Поскольку ни наборы данных, ни сама технология все еще не совершенны, случаи некорректной работы сервисов ИИ не редки. Что касается ответов на "скользкие" вопросы, о которых упомянул Дмитрий Медведев, то они скорее всего вызваны сознательно внесенными в алгоритмы YandexGPT ограничениями. Не берусь судить об их причинах, но не понимаю, как они определяют "гражданство" самой компании". Преподаватель образовательной платформы Moscow Digital School Борис Едидин рассказал корреспонденту ComNews, что действующее законодательство не содержит требований к работе голосовых помощников, использующих технологии ИИ: "Несмотря на отсутствие подобных требований, следует иметь ввиду, что формально у любой программы есть владелец и разработчик, который несет ответственность за безопасность и соответствие законодательству разработанного или распространяемого программного обеспечения. В этом контексте на первый план выходят как правовые, так и этические требования к разработчикам сервисов. Поэтому здесь необходима разработка профессиональных и этических стандартов, а также внедрение специальных образовательных программ для создателей сервисов на основе ИИ". Старший партнер коллегии адвокатов Pen & Paper Константин Добрынин считает, что нет никакого смысла в регулировании "образовательного процесса" нейросетей: "Сама попытка зарегулировать общественные отношения в сфере ИИ мне представляется опасной и бессмысленной. Во-первых, человеческий интеллект будет играть в догонялки с искусственным, причем вторым номером. Это соревнование будет требовать непрерывного законодательного обновления, что исходя из нашего законодательного процесса, обречено на проигрыш. Во-вторых, в попытке законодательно что-то запретить или чрезмерно ограничить мы рискуем просто затормозить на какое-то время развитие общественно полезных технологий ИИ, но остановить не сможем". Главный юрисконсульт практики интеллектуальной собственности юридической компании "ЭБР" Кирилл Ляхманов уверен, что регулирование в таком вопросе ввести невозможно: "Генеративная нейросеть - это самостоятельный агент, ответы которого в известной степени не зависят от человека. Поскольку человек не может контролировать ответ нейросети, а сама она не обладает правосубъектностью, то любой юрист понимает, что привлечь нейросеть к ответственности не получится". В telegram-канале под публикацией Дмитрий Медведев провел опрос среди подписчиков на тему честности любого ИИ на примере YandexGPT. По его результатам из почти 300 тыс. проголосовавших 69% считают, что ответ ИИ на любой вопрос пользователя должен быть прямой и точный. 19% ответили, что им проще напечатать запрос вручную в поисковике или прочитать в книжке. Лишь 6% участников опроса допускают вариант, что ИИ может уклониться от ответа на вопрос, чтобы не обидеть кого-то из пользователей. Ссылка на источник