一张照片可实时视频换脸！警惕AI合成这种新型网络诈骗手段 天翼爱音乐发布AI视频彩铃 加速进入5G+AI数字化时代
一张照片可实时视频换脸！警惕AI合成这种新型网络诈骗手段 天翼爱音乐发布AI视频彩铃 加速进入5G+AI数字化时代，
一张照片可实时视频换脸！警惕AI合成这种新型网络诈骗手段
转自：中工网
原标题：一张照片可实时视频换脸！警惕AI合成这种新型网络诈骗手段
为保护用户权益，防止账号被盗，很多社交软件都设置了人脸识别的登录验证环节。然而，这一验证环节可能并不需要本人来操作，在湖北黄石就刚刚破获一起用AI换脸技术解锁社交账号并倒卖获利的诈骗案。
前段时间，湖北黄石的王先生偶然进入某炒股直播间，王先生添加了直播间推送的社交账号后，跟对方一起进行股票投资。随着投资金额不断增加，当王先生想要提现时，发现对方的社交账号因涉嫌诈骗已被冻结，资金无法取出。
受害人 王先生：一直取不出来，这个时候就发现了不对，因为他老是找各种理由让你取不了钱。后来我发现他的社交账号被冻结了。
警方在侦办案件过程中，意外发现该涉案社交账号突然解冻并重新登录，推测可能有团伙帮助诈骗嫌疑人解封了账号。调查发现账号IP所在地在河南，黄石警方在当地配合下，很快抓获三名嫌疑人，现场查获13台电脑、9部平板、119部手机和80张电话卡。经讯问，高某与许某2023年9月底开始在网上贩卖和帮他人解锁社交账号，通过AI换脸融合的动态视频帮人解锁一些被平台冻结的交友账号。
湖北省黄石市公安局下陆分局指挥中心民警 王楚奇：他通过自己在网上购买的一款视频合成软件，按照社交账号要求解封作认证的这些规定动作，利用他自己的人脸和他合成的那个视频，生成的AI视频上传到社交账号的后台，来进行认证。
据了解，这个团伙每解锁一个账号收费15元至30元不等，其中许多账号是因涉嫌诈骗被冻结的账号。该团伙共解冻了2107个账号，从中获利40万元。民警告诉记者，AI合成视频已经成为新型网络诈骗的重要手段。
湖北省黄石市公安局下陆分局新下陆派出所治安巡防副队长 张军：不要将自己的身份证号、身份证头像、手机号等等自己的隐私信息在网上进行暴露，加强自己的隐私信息的保护。
眼见不一定为实
单张照片可实时视频换脸
我们常说“眼见为实”，但在AI时代，肉眼所看见的也不一定是真相。一些不法分子利用“AI换脸”技术实施诈骗，已成为一种新型骗局。一张“肖像照片”、一段“貌似熟人的视频”，都可能被不法分子利用作为诈骗的手段和工具。
在工业和信息化部反诈专班的实验室里，技术人员向记者演示了两种常用的AI换脸技术。通过一张事先从网络上公开获取的记者本人照片，经过一段时间的模型训练。这张照片就能在演示者的控制下像真人一样做出转头、张嘴、眨眼、微笑等表情和动作。
工业和信息化部反诈工作专班专家 李坤：不法分子首先会通过各种公开的渠道获取受害人的个人肖像或视频，然后利用AI技术，对这些照片中的面容特征进行学习，从而模仿眨眼、摇头等动作，实现以假乱真的效果。
李坤表示，除了让照片上的人像活化，AI换脸技术还能实现在即时视频通信状态下的实时换脸。技术人员也通过AI换脸技术让记者体验了一下与另一个“自己”视频对话的效果。
工业和信息化部反诈工作专班 技术人员：主要找了一些公开的社交媒体平台，去拉取一些公共的视频。拿了这些数据，整体的训练时间差不多花了1天，24小时达到目前这个效果。 如果时间长点的话，我们画面的清晰会有所提升。
技术人员告诉记者，所有用于AI换脸训练的记者照片和视频都是从网上公开收集的，总共只用了四五张照片和不到五分钟的素材。如果有充足的训练时间，仿真效果会更好。除了面容以外，声音也可以通过同样的技术来仿冒。专家指出，虽然目前AI换脸和仿声有一定的技术门槛和较高的实现成本，但如果被不法分子掌握，就可能在即时通信或者社交软件上伪装成他人，开展相应的诈骗活动。
AI换脸诈骗检测与预警技术正在测试中
利用AI技术制作换脸视频或合成声音来实施诈骗的确让人防不胜防，那么如何防范这种风险呢？有关部门正在开发相关的反制技术和手段。
工业和信息化部反诈专班专家 李坤：我们正在会同行业内的手机终端企业，将推出AI换脸诈骗风险提醒功能。这项功能仅在手机端来本地运行，能够有效保护用户数据不泄露，经过用户授权后，可为用户提供AI换脸诈骗风险预警提醒。
记者在反诈专班的实验室现场体验了正在测试中的AI换脸诈骗检测与预警技术。当用AI换了脸的技术人员与记者发起视频通话时，测试手机终端提示“对方疑似假冒身份”。点击检测按钮，经过图像扫描，系统提示“AI换脸合成概率93%”。
据了解，AI换脸主要是使用深度合成技术。《互联网信息服务深度合成管理规定》提出了算法备案、安全评估的手段，要求深度合成服务提供者对深度合成的内容添加显式或隐式水印。
中国信通院人工智能所安全与元宇宙部专家 陈文弢：要对生成合成的内容去添加一些水印，这个水印的本质其实就是要一方面去提示公众这个内容是由AI生成或者合成的，另一方面也是要追溯它的来源。
专家提醒，AI诈骗是隐私信息泄露与诈骗陷阱的结合，要加强对个人隐私的保护，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等，尤其涉及“朋友”“领导”等熟人要求转账、汇款的，务必通过多种途径核实确认，不要未经核实随意转账汇款。
（总台记者 孙蓟潍 唐志坚 徐之昊 孙丽鹏 黄石台）
天翼爱音乐发布AI视频彩铃 加速进入5G+AI数字化时代
数字经济已成为引领经济社会变革、推动经济高质量发展的重要引擎。在数字经济浪潮的背景下，中国电信旗下全资子公司天翼爱音乐推出的“元素”实验室，以5G+云+AI等前沿科技赋能视频彩铃，打造人工智能+5G应用创新新范式。
4月28日，天翼爱音乐启动AI视频彩铃发布仪式，活动现场发布了AI视频彩铃创新应用的最新成果：启动“穿越山海 一路生花”AI视频彩铃小程序并进行了产品演示。作为2022年爱音乐 AI视频彩铃产品系列的首个主题，天翼爱音乐将持续探索AI落地全新场景，通过技术创新，打造视频彩铃内容新生态。
着眼数字化经济 推动云网融合创新化应用
作为5G以及未来6G网络的基础运营商，中国电信结合“云改数转”发展的主要战略方向，努力实现云网融合，全面推进数字化改革。天翼爱音乐通过元素实验室，发挥自身人工智能技术优势，探索数字经济与技术创新上的更多可能。
在元素实验室中，天翼爱音乐主要运用AI技术，基于未来的元宇宙体验，降低AI使用门槛，用“视频影像处理技术”促进用户玩法升级，高效提升DIY视频彩铃应用解决能力，积极推进5G技术与人工智能等前沿技术融合，用数智化技术开启美好生活。
5G+AI技术加持 视频彩铃智能化升级
天翼爱音乐本次推出的全新AI视频彩铃产品，结合智能换脸等技术，提供花海、竹林、骑行、露营等美轮美奂的场景，用户可一键DIY专属的AI视频彩铃写真，穿越山海，见证一次诗与远方的旅行。
此次AI视频彩铃产品的发布，让用户足不出户便能一键“云游世界”成为可能；而AI能力的升级，也给用户带来了趋于完美的DIY体验和沉浸式的场景感。
使用者进入【热门视频彩铃】小程序后，只需选择相应场景模板，并上传一张自己个人照片，即可与场景完美融合，一键化身“画中人”，在天翼爱音乐音视频合成能力加持下生成精美的短视频，电信用户还能一键设置成视频彩铃。这一气呵成的动作如行云流水，用户在体验AI技术带来的乐趣的同时，也完成了一次自我风采和个性的展示。
此外，天翼爱音乐【元素实验室】在AI领域持续探索，聚焦“视频模板特效、AI资产跨场景投放、AI图像处理”三大核心能力，提供自有音视频内容、模板创作体系服务，利用人像抠图、画质增强、动漫化、风格迁移、唇部/面部动作驱动等处理能力，提供视频彩铃DIY应用解决方案。
基于自研音/视频编辑处理、音视频合成、AI视觉技术，为线上信息流内容展示、广告素材投放，提供端到端的自动化短视频生成能力。
web3.0时代 AI视频彩铃为个性展示提供更多可能
《黑客帝国3》说：没有使命，人类将不复存在，是使命创造了我们，但使命联系着我们、牵连着我们、指引着我们、推动着我们、约束着我们。
天翼爱音乐团队曾表示：“彩铃是手机BGM(背景音乐)。当元宇宙时代来临，当手机消失后，代表个性化的BGM又将是什么呢?元素实验室将带着这个问题和使命继续探索。”
凭借彩铃业务相关的音、视频、图片等处理能力以及云网融合相关技术基础，中国电信天翼爱音乐正致力于为用户提供更个性化的短视频服务,甚至使创建收藏意义的NFT视频彩铃成为现实，为视频彩铃的创新应用提供了标杆示例。
AI技术加持下，视频彩铃将精准契合用户通话场景下的不同需求，将通话的过程，变成用户的智能化个性名片。
我们可以畅想：当妻子拨打丈夫的电话，屏幕会出现精心制作的AI视频彩铃，闪动甜蜜旅行的照片集锦，让等待的一刻变成幸福的瞬间；
当客户拨打电话给一家创意工作室，看到的视频彩铃是该工作室最新的创意作品，而且这些作品还是NFT数字藏品……
未来，天翼爱音乐将充分发挥自身的AI开发能力，推动视频彩铃不断发展，给用户带来更花样的玩法体验和个性的展示同时也为人工智能领域发展注入更多活力。[db:内容]?