你见过巴拉克·奥巴马称唐纳德·特朗普为“十足的笨蛋”吗?或者马克·扎克伯格吹嘘自己“完全控制了数十亿人被窃取的数据”,或者琼恩·雪诺为《权力的游戏》令人失望的结局道歉吗?如果是,那你就见证了一场深度造假。
Deepfake技术是21世纪对ps的回应,它可以使用新的自动计算机图形或机器学习算法,将任何人完美地拼接到他们从未真正参与过的视频或照片中。
DeepFaceLive现在允许你通过视频会议和流媒体平台把自己的脸变成别人的。它是由一个叫做Iperov的在线开发者设计的。据俄罗斯youtube用户Vladislav Pedro称,主播已经开始在Twitch等网站上使用这一功能。
“DeepFaceLive有很大的潜力,”佩德罗对The Daily Dot说。“这款软件可以被播放者和任何其他媒体内容的创作者使用。”
虽然听起来令人兴奋,但它引发了一系列复杂的伦理和潜在的犯罪后果。毕竟,在错误的人手中,一个让你看起来像其他人的仪器可能是相当有害的。
人工智能技术公司Deeptrace的通信和研究分析主管亨利·阿杰对《每日Dot》说:“许多人将DeepFaceLive视为Twitch直播或荒谬的TikTok视频的有趣工具,但我对深度造假的研究始终表明,还有很多人会试图滥用它。”
他补充说:“这可能包括成人主播在未经同意的情况下戴上‘名人’的脸,以及欺骗面部识别和活体检测系统等生物特征欺骗。”
虽然在TikTok视频中假装自己是阿诺德·施瓦辛格(Arnold Schwarzenegger)或汤姆·克鲁斯(Tom Cruise)很有趣,但深度伪造技术也有很大的风险。毫无疑问,随着它变得越来越复杂,我们将看到越来越多的坏人从阴影中出现。