在《纽约时报》于当地时间周四发表的一篇报道中,来自加州大学伯克利分校和乔治城大学的一组学生详细阐述了一项令人不安的研究:他们是如何智胜语音助手的。
这个团队将人类所听不到的声音嵌入到能令人心平气顺的白噪音音乐中。当一个普通人可能什么都没有听到时,Siri或Alexa却能对之做出反应。在团队的研究中,这一隐藏的阈下知觉信息可以将设备转换成飞行模式,打开网页,或者偷偷地将物品添加到购物清单中。
“我们想要证明这是可行的,”加州大学伯克利分校的博士生尼古拉斯·卡里尼告诉《泰晤士报》,“然后我们希望其他人会说,‘好吧,这是可能的,现在让我们试着修复它。’”
潜意识的攻击可能是危险的,想象一下:如果给智能家居灌输这种让人困惑的命令,让它们去锁住或打开车门、或是打开灯,请记住人工智能的Siri和Alexa可能并没有被“黑”,它们只是被愚弄了。网络安全专家用“对抗的例子”这一术语来指代故意欺骗人工智能的潜在危险。尽管卡里尼和他的团队的研究成果可能令人不安——尤其是当人们求助于语音助手来管理他们的家时,其他研究人员已经展示了其他的一些“对抗的例子”——包括如何使用化妆品或是眼镜来愚弄面部识别软件。