Fujitsu разработал технологию для быстрой обработки данных в процессе глубинного обучения

Компания Fujitsu объявила о разработке программной технологии, которая объединяет несколько графических процессоров (GPU, Graphics Processing Unit) для реализации преимуществ высокоскоростного глубинного обучения. Об этом говорится в заявлении Fujitsu, поступившем в редакцию CNews. Для обеспечения высокой точности распознавания с помощью технологии глубинного обучения требуется постоянный анализ больших массивов данных. Для этого использовались графические процессоры, которые лучше подходят для высокоскоростных операций по сравнению с обычными центральными процессорами (CPU), рассказали в компании. Как правило, для ускорения глубинного обучения требуется несколько компьютеров с мощными GPU, которые объединены в сеть и работают параллельно. Недостатком этой методики является то, что при объединении более 10 вычислительных машин увеличивается время обмена данными между компьютерами, и специалистам все труднее добиться эффекта параллелизма. Fujitsu заново разработала технологию параллелизации, которая обеспечивает быстрый обмен данными между компьютерами. Новая технология была протестирована в рамках платформы глубинного обучения Caffe. В рамках теста, измеряющего время обучения с помощью многоуровневой нейронной сети для распознавания изображений AlexNet и сети компьютеров с 64 GPU, новая разработка продемонстрировала скорость обучения, которая в 27 раз выше, чем при работе одного компьютера с одним GPU. По сравнению с результатами без использования новой технологии скорость обучения была увеличена на 46% для сети с 16 GPU и на 71% для 64 GPU, заявили в Fujitsu. С помощью новой технологии задачи машинного обучения, для выполнения которых раньше требовался один месяц, теперь могут быть выполнены примерно за день в параллельном режиме работы 64 GPU. По информации компании, в рамках разработки и внедрения двух новых технологии Fujitsu удалось увеличить скорость обработки данных при глубинном обучении. Технология установки очередности обмена данными Эта технология автоматически контролирует приоритет обмена данными для того, чтобы данные, необходимые для начала следующей сессии обучения, обменивались между несколькими компьютерами заблаговременно. В существующих технологиях обработка задач по обмену данными первого уровня, которые нужны для начала следующего процесса обучения, выполняется последней, что увеличивает задержку. В новой технологии за счет выполнения обработки задач по обмену данными первого уровня во время обработки задач по обмену данными второго уровня время ожидания сокращается, пояснили в компании. Технология оптимизации рабочих операций в соответствии с размером данных Для обработки данных, при которой результаты операций передаются всем компьютерам, и изначальный объем данных небольшой, каждый компьютер обменивается данными и затем выполняет такую же операцию, что позволяет сократить время, необходимое для передачи и получения результатов. Когда объем данных большой, обработка распределяется, и результаты обработки передаются другим компьютерам для последующих операций. За счет автоматического выбора оптимального метода на основе размера данных эта технология увеличивает общую скорость работы. По мнению представителей Fujitsu, с помощью новой технологии можно сократить время исследований и разработок в области глубинного обучения, включая разработку уникальных моделей нейронной сети для автоматизированного управления роботами, автомобилями и пр. Кроме того, возможности новой разработки можно применить в сфере финансов и здравоохранения, включая задачи по классификации патологий и прогнозирование биржевых курсов. Fujitsu планирует уже в 2016 г. начать извлекать коммерческую выгоду из новой разработки в рамках проекта искусственного интеллекта Human Centric AI Zinrai. Ссылка на источник