AI 技术日新月异，虽然提升了工作效率，却也成为有心人士用来诈骗 的工具。
据“太阳报”（The Sun）报道，AI风险评估公司Blackbird.AI共同创办人哈利德（Wasim Khaled）表示，目前有诈骗集团利用AI技术，复制他人声音进行“语音诈骗”，这种诈骗技巧称之为“AI语音复制人”，通常被用来窃取使用者的银行资讯、身份或密码 。
哈立德说，“AI语音复制人”的声音不只跟真人难以区别，政商名流等公共人物更容易陷入被复制的危机。因为公共人物的语音样本较多，让AI更能透过深度学习做出真假难辨的音档。
不仅如此，由于AI技术发展神速，只要在网络上搜寻就能找到许多低成本甚至免费的供应商。防毒软体McAfee 的研究人员也发现，诈骗集团只需要花3秒钟，就有办法复制真人的声音，利用这种技巧打给家人朋友来骗人。
哈立德说表示，如果能够使用AI检测技术来侦测音档，就可能避免这类的诈骗发生，但短期内应该无法开发出可靠的检测技术。
要避免语音诈骗，在亲朋好友打电话紧急要求汇款、给予物品或其他金援时，应进一步跟本人确认。除此之外，民众也应避免在网络上分享个人资讯，以避免遭诈骗集团利用。
