Тюнинг затравок для детоксификации текста

Авторы представляют эффективный метод, основанный на недавно предложенной технике автоматического подбора затравок. Используя RuGPT3-XL (Generative Pretrained Transformer-3 for Russian) как неизменяемую предобученную модель, обучается только последовательность непрерывных векторных представлений, вставляемых до и после входного текста. Этот метод достигает сравнимого качества относительно методов, включающих в себя дообучение всей модели, и занимает 4-е место в соревнованиях RUSSE Detox.

Читать еще

Управление исследований и инноваций • Управление внутрибанковской безопасности
17 апреля 23
Создание инструмента второго мнения для классического полиграфа
Асонов Дмитрий Валерьевич, Крылов Максим Андреевич, Омелюсик Владимир Степанович, Рябикина Анастасия Евгеньевна, Литвинов Евгений Вячеславович, Митрофанов Максим Алексеевич, Михайлов Максим Алексеевич, Ефимов Альберт Рувимович
Управление исследований и инноваций
Управление исследований и инноваций
08 февраля 23
Наука в Сбере 2022

Мы используем cookies и аналогичные технологии для улучшения работы сайта и повышения удобства его использования.
Условия использования описаны в Уведомлении об обработке персональных данных сайтом и Политике в отношении Сookies и аналогичных технологий для сайта.