Python fuzzing for trustworthy machine learning frameworks

Обеспечение безопасности и надежности сред машинного обучения имеет решающее значение для создания надежных систем на базе искусственного интеллекта. Фаззинг – популярная техника в жизненном цикле разработки безопасного программного обеспечения (SSDLC), которая может использоваться для разработки безопасного и надежного программного обеспечения. Популярные платформы машинного обучения, такие как PyTorch и TensorFlow, сложны и написаны на нескольких языках программирования, включая C/С++ и Python. Мы предлагаем конвейер динамического анализа для проектов Python с помощью набора инструментов Sydr-Fuzz. В нашем конвейере есть фаззинг, минимизация корпуса, сортировка сбоев и сбор покрытия. Классификация сбоев и оценка их серьезности являются важными шагами, гарантирующими, что наиболее критические уязвимости будут устранены оперативно. Кроме того, предлагаемый конвейер интегрирован в GitLab CI. Чтобы выявить наиболее уязвимые части фреймворков машинного обучения, мы проанализировали их потенциальные поверхности атаки и разработали цели фаззинга для PyTorch, TensorFlow и связанных с ними проектов, таких как h5py. Применяя наш пайплайна динамического анализа к этим целям, мы смогли обнаружить 3 новые ошибки и предложить исправления для них. Библ. – 35 назв.