Финтех-компании не в силах тягаться с ИТ-гигантами в разработке LLM

На пресс-конференции 4 октября 2023 г., посвященной исследованию Ассоциация ФинТех (АФТ) о применении искусственного интеллекта (ИИ) на финансовом рынке, генеральный директор ассоциации Максим Григорьев заявил, что драйвером развития 2023 г. в финтехе стали большие языковые модели (large language models, LLM), однако, поскольку их создание требует значительных ресурсов и доступа к большому объему данным, они есть лишь у нескольких организаций в России: YandexGPT у "Яндекса", FRED-T5, ruGPT-3 и NeONKA у "Сбера". "В результате 82% респондентов обеспокоены "смещением сил" в сторону крупных игроков и заинтересованы в создании равноудаленных отраслевых больших языковых моделей", - отметил Максим Григорьев. По данным исследования ассоциации, крупнейшие по величине активов на конец 2022 г. банки России - Сбербанк, Банк ВТБ, Газпромбанк, Альфа банк, Россельхозбанк - инвестировали в развитие всех ИИ-решений суммарно около $1 млрд за год, что составляет около 80 млрд руб. по состоянию на июль 2023 г., в то время как средние и небольшие российские финансовые компании вкладывали в реализацию портфеля проектов с искусственным интеллектом в среднем 100-300 млн руб. в год. По словам Максима Григорьева, в будущем огромное конкурентное преимущество получат компании, которые могут себе позволить разработать LLM, и это неравенство будет расти. "Создание равноудаленной специализированной языковой модели для финансового сектора, например, консорциумом финансовых организаций и технологических компаний позволит сохранить конкуренцию и обеспечит развитие финансового рынка", - заявил глава Ассоциации ФинТех. Григорий Грязнов, руководитель подразделения "Аналитические сервисы" АО "ДОМ.РФ", отметил, что у небольших компаний нет возможности инвестировать в создание больших языковых моделей, поскольку для этого нужно иметь дорогостоящие центры обработки данных (ЦОДы). По его словам, чтобы внедрить LLM в процессы, финтех-компании пока должны смириться с олигополией и научиться встраивать такие модели в виде SaaS-сервисов. "Мы в рамках трехстороннего соглашения на площадке Ассоциации ФинТех с "Яндексом" реализуем пилотный проект по внедрению YandexGPT для решения внутренних задач", - сообщил Григорий Грязнов.\[quote\] https://www.comnews.ru/content/229048/2023-09-27/2023-w39/1008/razrabot… \[/quote\] Анализ практических кейсов применения ИИ в российском финтехе показал, что 87% используемых решений на базе ИИ направлены на анализ данных и 63% решений на работу с текстом: чаще всего финансовые компании используют технологии ИИ для управления рисками и скоринговой оценки, в рекомендательных системах в розничных продажах, а также в системах поддержки принятия решений для клиентского сервиса, включая чат-боты и базы знаний в колл-центрах. По данным АФТ, 84% опрошенных компаний отметили, что на текущий момент используют деревья решений, а 63% сверточные нейронные сети. "Мы наблюдаем тренд на переприоритизацию используемых технологий и методов ИИ в российском финтехе. До конца 2023 г. 47% участников исследования планируют внедрить генеративные предобученные трансформеры, а 37% графовые нейронные сети", - отметила руководитель управления исследований и аналитики Ассоциации ФинТех Марианна Данилина. Опрос, проведенный АФТ, выявил, что несмотря на то, что большинство финтех-компаний внедрили решения на базе ИИ, только 35% опрошенных компаний имеют утвержденную стратегию по ИИ, еще 12% включили вопросы применения ИИ в другие стратегические документы организации. "Ключевой барьер развития ИИ в финтехе России - кадровый голод", - подчеркивают аналитики ассоциации. По их данным, 84% опрошенных компаний столкнулись с недостатком профильных специалистов по ИИ. Следующие по популярности проблемы, согласно данным исследования, - долгие сроки реализации проекта (67%) и недостаток данных для обучения моделей (61%). Исследование охватило 75% из топ-20 крупнейших банков РФ: Ассоциация ФинТех провела 45 глубинных интервью и изучила более 100 кейсов применении ИИ в финтехе. Ссылка на источник