Исследование эффективности обучения больших нейронных сетей

Авторы представляют систематический обзор подходов, позволяющих повысить эффективность обучения глубоких нейронных сетей. В обзоре анализируются методы, которые позволяют экономить память и эффективно использовать вычислительные и коммуникационные ресурсы на архитектурах с одним или несколькими GPU, обобщаются основные категории стратегий, сравниваются стратегии внутри категорий и между собой. Наряду с подходами, предложенными в литературе, обсуждаются доступные реализации.

Читать еще

Центр робототехники • Управление исследований и инноваций
Управление исследований и инноваций
30 августа 23
Science at Sber 2022
Управление исследований и инноваций • Управление внутрибанковской безопасности
17 апреля 23
Создание инструмента второго мнения для классического полиграфа
Асонов Дмитрий Валерьевич, Крылов Максим Андреевич, Омелюсик Владимир Степанович, Рябикина Анастасия Евгеньевна, Литвинов Евгений Вячеславович, Митрофанов Максим Алексеевич, Михайлов Максим Алексеевич, Ефимов Альберт Рувимович

Мы используем cookies и аналогичные технологии для улучшения работы сайта и повышения удобства его использования.
Условия использования описаны в Уведомлении об обработке персональных данных сайтом и Политике в отношении Сookies и аналогичных технологий для сайта.