Топология и геометрия для доверенного ML

Доклад предлагает новый подход к доверенному машинному обучению, основанный на многомасштабной топологии и «геометрии взаимодействий» трансформеров. Цель — делать модели надёжнее и понятнее для человека.
Топология:

• RTD — сравнение разных представлений одного и того же датасета.
• RTD-AE — автоэнкодер, сохраняющий общую форму данных и геометрию кластеров.
• SFTD — инструмент для диагностики и обучения: помогает улучшать 3D-реконструкцию в микроскопии и находить ошибки сегментации.
• RTD-Lite — облегчённая версия для больших графов, сохраняющая ключевые сигналы связности.

Геометрия взаимодействий:
Анализ графов внимания и QK-alignment показывает, когда модель «знает» правильный ответ, но не выбирает его, повышая интерпретируемость и точность в задачах с выбором из нескольких вариантов.
Дополнительно вводится оценка внутренней размерности как универсальный сигнал для установления происхождения текста. Подход переносится и на задачи речи.
В итоге формируется практичный и интерпретируемый метод, который даёт быстрые, переносимые и надёжные диагностические и обучающие сигналы.