快科技3月23日消息,据媒体报道,霍启刚在个人社交账号上发文,表示自己的形象遭到AI盗用。
他透露,刚刚过去的周末又发现大量利用其形象生成的AI视频,这些内容提取了他的声线、样貌,但所传达的观点完全与他无关,甚至同事看了一段时间才意识到是AI合成,这样的信息极易误导公众。
霍启刚还表示,自己已处理数千条相关虚假内容,并安排同事专职跟进,每天持续投诉反馈,但仍有大量类似内容不断出现,令人十分困扰。
在AI时代,眼见未必为实,一些不法分子利用AI换脸等技术实施诈骗,已成为新型骗局。
平台层面也需严格规范技术的开发与应用,完善授权机制。对于社交媒体账号被诈骗分子盗用进行网络诈骗的情况,可依据IP地址变化及账号活动规律向用户发出提醒,甚至考虑强制退出账号,从而减少此类诈骗的发生。
