"Записки научных семинаров ПОМИ"
Том 530, стр. 68-79
Автоматическая оценка методов интерпретации в категоризации текстов
А. Рогов, Н. Лукашевич
Bauman Moscow State
Technical University,
Moscow, Russia
rogov.alisher@gmail.com
Lomonosov Moscow State University, Moscow, Russia
louk_nat@mail.ru
- Аннотация:
Искусственные нейронные сети начали все больше захватывать повседневную жизнь человека,
а сложность нейронных сетей только возрастает. При тестировании на собранных тестовых
данных модель может показать вполне приличную производительность, но при использовании
в реальных условиях может дать совершенно неожиданные результаты. Чтобы определить причину ошибки,
важно знать, как модель принимает решения. В данной работе мы рассматриваем различные
методы интерпретации модели BERT в задачах классификации, а также рассматриваем метод
оценки методов интерпретации с использованием векторных представлений fastText и GloVe.
Библ. -- 15 назв.
- Ключевые слова: интерпретируемость, BERT, классификация
[interpretability, BERT, classification]
Полный текст(.pdf)