Automatic evaluation of interpretability methods in text categorization

Искусственные нейронные сети начали все больше захватывать повседневную жизнь человека, а сложность нейронных сетей только возрастает. При тестировании на собранных тестовых данных модель может показать вполне приличную производительность, но при использовании в реальных условиях может дать совершенно неожиданные результаты. Чтобы определить причину ошибки, важно знать, как модель принимает решения. В данной работе мы рассматриваем различные методы интерпретации модели BERT в задачах классификации, а также рассматриваем метод оценки методов интерпретации с использованием векторных представлений fastText и GloVe. Библ. – 15 назв.