亚马逊 AI 语音新技术引担忧，官方称主要目的不是模拟死者声音

当这项技术研发的消息公布时，人们只是简单地想到了它的好处。在周三的公司演示中，Alexa首席科学家RohitPrasad也充分展示了数字助理的人性化，并展示了Alexa假扮祖母阅读《绿野仙踪》摘录的画面。他说，同理心和情感等人类特征是与人建立信任的关键。当疫情持续时，当我们失去亲人时，这些属性变得更加重要。虽然人工智能无法消除失去的痛苦，但它绝对可以让他们的记忆永存。这个演示给人的印象是，该技术被用作数字死者复活的工具。
但是普拉萨德后来在拉斯维加斯举行的亚马逊技术会议上说，这项服务的主要目的不是模拟死者的声音。
随着演示在互联网上的发酵和讨论，引起了巨大的轰动。与此同时，有一些令人担忧的声音——他们是否会使用合法的录音来模仿人们说他们实际上没有发出声音的话。布法罗大学计算机科学与工程学教授SiweiLyu的研究涉及深度伪造和数字媒体证据收集。他说，他担心这一发展。亚马逊开发的语音转换技术当然是好的，但我们应该意识到潜在的误用，例如，绑匪可以在电话中伪装成家人或朋友来引诱不知情的受害者，或者高级管理人员在谈论公司的财务状况时伪造录音，这可能会导致股市出现问题。
虽然亚马逊没有透露Alexa的新功能何时推出，但类似的技术可能会让这种恶作剧变得容易得多。普拉萨德说，亚马逊已经学会了在不到一分钟的时间里模拟人们的声音，并且过去需要在工作室里完成这。