亚马逊翻译和谷歌翻译易受攻击

据MultiLingual报道,墨尔本大学的一组研究人员发现，像亚马逊和谷歌的翻译引擎易受居心不良人士的恶意攻击。他们认为这些神经机器翻译引擎易受所谓“回译攻击”的破坏，当攻击者操纵神经网络翻译系统的回译训练过程，以实现有害的结果时，就会发生这种攻击。他们通过设计少量看似无害的单语句子或数据，就足以破坏最后翻译结果。

“这是部署神经机器翻译系统的一大问题，特别是因为我们的防御尝试仅部分有效，并且会导致翻译质量方面的大量成本。如何建立更有效的防御，显然十分关键。”研究人员总结道。