Translate your gibberish: black-box adversarial attack on machine translation systems

Нейронные сети широко применяются в задачах обработки естественного языка в промышленных масштабах и, возможно, чаще всего они используются в составе систем автоматического машинного перевода. В этой работе мы представляем простой способ обмануть современные инструменты машинного перевода при переводе с русского языка на английский и наоборот. Используя новый безградиентный тензорный оптимизатор в модели черного ящика, мы показываем, что многие инструменты онлайн-перевода, в частности Google, DeepL и Яндекс, могут как производить неправильные или оскорбительные переводы для бессмысленных состязательных входных запросов, так и отказываться переводить, казалось бы, безобидные фразы. Эта уязвимость может помешать пониманию нового языка и просто ухудшить опыт пользователя при использовании систем машинного перевода, и, следовательно, для улучшения перевода необходимы дополнительные улучшения этих инструментов. Библ. – 33 назв.