快科技8月17日消息,随着AI人工智能的快速发展,网络上出现了各种各样逼真的篡改视频,而这也被不法分子利用,开始进行网络诈骗。
据纽约时报近日报道,AI生成的埃隆马斯克形象已经出现在数千条虚假广告中并导致数十亿美元的诈骗,并且已有人因此上当受骗。
报道指出,去年底,82岁的退休老人蒂夫博尚普在网络上看到了一段有关马斯克的真实采访”,视频里,马斯克支持一项承诺快速回报的激进投资机会。
这段采访非常真实,甚至连口型都对的上,信以为真的老人最终联系到该广告背后的公司,并按照指导开设了账户。
接下来几周的一系列交易中,老人花光了自己的退休资金,最终投资了超过69万美元(约495万人民币),当然,这笔钱全被骗子卷走了。
类似的情况还有很多,诈骗犯通常会从寻找一个真实的视频,使用人工智能工具将他的声音替换成了复制品,并利用口型同步技术编辑马斯克的口型,让视频看起来更加真实。
监测深度伪造视频的机构Sensity近日做了一项调查,通过分析2000多段深度伪造视频,发现马斯克已经成为这类视频中最常见的发言人”。
自去年年底以来,马斯克出现在近1/4的深度伪造诈骗视频中,其中针对加密货币的视频他的出现率更是达到90%。
除了马斯克之外,还有其他的名人也被骗子利用,包括沃伦巴菲特、杰夫贝索斯等。