图片视频都能造假 AI深度伪造是怎么回事?

分享到:

图片视频都能造假 AI深度伪造是怎么回事?

2024年06月10日 08:17 来源:人民日报海外版
大字体
小字体
分享到:

  AI发展快,系紧“安全带”(“融”观中国)

  ——“人工智能与信息?;ぁ毕盗斜ǖ乐?/strong>

  AI“换脸”实施诈骗、AI伪造图片传播谣言、AI“复活”逝者引发争议……随着人工智能技术的不断发展,AI深度伪造的例子屡见不鲜。不少网民惊呼,以前总说“有图有真相”,如今我们连图片和视频也不敢轻易相信了。

  AI深度伪造是怎么回事?该如何防范相关风险?用户、平台、监管、司法等社会各界该如何形成合力,建立生成式AI信息安全规范? 我们对此进行了采访。

  “眼见不一定为实”

  关于AI深度伪造的热点事件,正引发全世界广泛关注。

  今年1月,美国一位流行歌手被人用AI恶意生成虚假照片,在社交媒体迅速传播,给歌手本人造成困扰。2月,香港一家公司遭遇“AI变脸”诈骗,损失高达2亿元港币。据悉,这家公司一名员工在视频会议中被首席财务官要求转账。然而,会议中的这位“领导”和其他员工,实际都是深度伪造的AI影像。诈骗者通过公开渠道获取的资料,合成了首席财务官的形象和声音,并制作出多人参与视频会议的虚假场景。

  基于深度合成技术引发的侵权案例,常见的手法是冒充熟人实施电信诈骗。不久前,江苏句容的杨女士,在收到自己“女儿”多条要求缴纳报名费的语音后,向骗子账户转账3.5万元。相关办案民警反复提醒:“遇到转账一定要慎之又慎,眼见不一定为实?!?/p>

  “深度伪造技术利用AI深度学习功能,实现图像、声音、视频的篡改、伪造和自动生成,产生以假乱真的效果?!鄙虾H斯ぶ悄苎芯吭涸撼に魏L胃谟Χ陨疃任痹熘Я巳校阂皇钦莆照绫餉I“换脸”的简单技巧,比如要求对方在视频对话时在脸前挥挥手,看是否出现图像扰动等;二是学会使用检测深度伪造的工具和软件;三是保持合理怀疑?!氨3纸魃骱途?,是公众应对AI造假的第一道防线?!彼魏L嗡?。

  “用技术治理技术”

  如何把生成式AI的强大能力用于建立信息安全规范,将制约行业发展的“绊脚石”变为“压舱石”?业界一直在探索“用技术治理技术”的方案。

  瑞莱智慧是清华大学人工智能研究院孵化的企业,专攻人工智能安全领域。瑞莱智慧总裁田天介绍,其公司研发的生成式人工智能内容检测平台,支持多种合成类型的图片、视频、音频、文本的真伪检测,应用场景包括打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。

  “利用AI技术治理AI犯罪,本身也是一个不断博弈的过程?!碧锾旖樯?,“红队测试”是目前生成式AI治理的重要手段,旨在通过模拟攻击者行为,对目标系统进行全面网络攻击,针对性地发现、修补潜在系统漏洞,使模型在面向公众开放前,充分接受安全技术检验。视频合成AI平台Sora,在上市前就曾邀请数名从事信息安全漏洞研究的专家充当红队进行对抗测试,找出相当数量的安全漏洞。

  此外,业界也在推动落实AI生成内容标识制度。中国政法大学数据法治研究院教授张凌寒表示,全国信息安全标准化技术委员会在《网络安全标准实践指南——生成式人工智能服务内容标识方法》中给出了内容标识方法:通过在交互界面中添加半透明文字的方式显示水印标识,或通过人类无法直接感知但可通过技术手段从内容中提取的隐式水印标识,提示内容由人工智能生成?!氨晔吨贫瓤梢蕴嵘鼳I信息内容治理能力,减少虚假信息生成,防止虚假信息污染下一代训练数据,营造良好的网络信息生态环境?!闭帕韬?。

  国际测试委员会创始人、中国科学院计算所研究员詹剑锋建议,应将AI深度伪造纳入监测机制,遇到负面影响较大的造假行为,第一时间快速反应。通过建立针对深度伪造有害内容的群众举报机制,提高公众的判断力、鉴别力。

  “制度引导技术向善”

  生成式AI技术是一把双刃剑,如何在释放创新活力的同时,有效防范信息安全风险?

  不少专家表示,尽快建立健全相关治理规范至关重要?!罢庖涣煊虻闹卫聿荒芡耆南M谄笠底灾?,更需要法律硬性监管?!倍酝饩妹骋状笱志糜敕纱葱卵芯恐行闹魅握判辣硎?,“通过立法为AI开发划定基本底线,明确合规义务,可以从源头防范风险,避免‘先污染后治理’的被动局面?!?/p>

  去年国家网信办等部门发布的《生成式人工智能服务管理暂行办法》标志着生成式AI有了专门性行政法规。2023年1月施行的《互联网信息服务深度合成管理规定》明确提出,“任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息”“可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识”,等等。

  在法律层面,中国已经出台了《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息?;しā返确?,但针对AI领域的司法治理仍有进一步细化的空间?!跋钟蟹煞ü娑允萑ㄊ?、?;し段У任侍庠菸蘧咛骞娑?。在人工智能生成结果的?;し矫?,《民法典》的原则性条款在具体适用方面还有一定难度?!北本┗チㄔ鹤酆仙笈腥ジ涸鹑搜站ㄒ?,要进一步加快人工智能方面的法律供给,推动国家层面生成式人工智能规范的确立。对已有案例出现的疑难法律问题,要通过学术讨论和司法实践,逐步形成共识,总结确立法律适用规则,推动《人工智能法草案》的立法进程。

  在伦理层面,AI“复活”等行为引起部分用户的反感和恐惧。对此,科技部等10部门印发《科技伦理审查办法(试行)》,列出了需要开展伦理审查复核的科技活动清单,其中就包括具有社会动员能力和社会意识引导能力的算法模型、应用程序及系统研发等。

  “我们要正确看待新业态带来的可能性,但也不能让其偏离合法性、合理性轨道。无论是技术开发者、使用者还是监管者,都有必要用类似的伦理视角来审视技术发展。在追求科技进步的同时,确保AI技术循着以人为本和技术向善的理念发展?!闭帕韬?。(人民日报海外版)

【编辑:刘欢】
发表评论 文明上网理性发言,请遵守新闻评论服务协议
本网站所刊载信息,不代表中新社和中新网观点。 刊用本网站稿件,务经书面授权。
未经授权禁止转载、摘编、复制及建立镜像,违者将依法追究法律责任。
Copyright ©1999-2024 chinanews.com. All Rights Reserved

评论

顶部

乐发彩票官方网站 大发app 凤凰彩票app 乐发iv游戏平台 凤凰彩票大厅 乐发彩票 乐发彩票app下载 大发彩票 乐发v官网 乐发lll 乐发lv入口 乐发iv首页 乐发ll登录 凤凰彩票大厅 乐发官网 乐发ii下载入口 乐发ll 乐发v平台 乐发v官网 乐发lll 乐发lv入口 乐发iv首页 乐发ll登录 乐发lv 乐发lll安装 乐发lv 乐发登录入口 乐发iv游戏平台 凤凰彩票登录 网信彩票 彩神 彩神彩票官方网站 彩神彩票官网首页 彩神官方app下载安卓版 凤凰彩票登录 彩神v3 凤凰彩票app下载 彩神官方app下载安卓版 网信快三 一分快3 快三彩票购彩平台 凤凰彩票官方 快3官网 网信彩票 快3app 网信彩票平台 百姓彩票平台 网信平台官网 快3app下载 百姓彩票 每日彩票 快3app 百姓彩票 每日彩票 快3app 百姓彩票平台 幸运5分彩快3 快3彩票app下载 百姓彩票网站网址 大发10分PK10 快3下载 网信彩票平台 网信平台官网 快3彩票官网app 凤凰彩票官方 彩神彩票 大发10分PK10 彩神v3 大发彩票app下载 百姓彩票网站网址 彩神购彩平台 每日彩票 官方正规快三彩票平台 彩神彩票购彩平台 百姓彩票 凤凰彩票购彩平台 凤凰彩票app下载 彩神官方app下载安卓版 网信快三 一分快3 快三彩票购彩平台 凤凰彩票官方 彩神彩票 大发10分PK10 彩神v3 凤凰彩票登录 乐发lv 乐发∨Il 百姓彩票网站网址 乐发彩票 乐发彩票官方网站 乐发lll安装 百姓彩票网站网址 凤凰彩票app下载 大发10分PK10 乐发2 乐发app 凤凰彩票 大发彩票app 乐发登录入口 乐发ll登录 乐发v官网 乐发官网 大发彩票app下载 凤凰彩票购彩平台 彩神彩票 官方正规快三彩票平台 一分快3 百姓彩票网站网址 凤凰彩票app下载 大发10分PK10 乐发2 乐发app 凤凰彩票 大发彩票app 乐发登录入口 乐发ll登录 乐发v官网 乐发官网 大发彩票app下载 凤凰彩票购彩平台 彩神彩票 官方正规快三彩票平台 1分快三平台 百姓彩票平台 凤凰彩票登录 幸运5分彩快3 彩神 乐发彩票 乐发 大发彩票 乐发iv游戏平台 乐发lv 乐发lll 乐发ii下载入口 乐发彩票官方网站 凤凰彩票官方网站 凤凰快3 彩神彩票官网首页 1分快三平台 百姓彩票平台 凤凰彩票登录 幸运5分彩快3 彩神 乐发彩票 乐发 大发彩票 乐发iv游戏平台 乐发lv 凤凰彩票app 乐发app 网信彩票平台 网信彩票平台 乐发iv游戏平台 凤凰彩票app 乐发lv 乐发彩票app下载 凤凰彩票app 网信彩票平台 乐发彩票app下载 乐发lv 乐发app 大发彩票安卓下载 大发彩票安卓下载 大发彩票 乐发彩票app下载 网信彩票平台 乐发iv游戏平台 彩神彩票 乐发彩票中心 极速快3彩票平台 人人快三凤凰 大发彩票app 大发彩票大全 乐发彩票 彩神彩票官方网站 乐发app 酷天堂彩票平台 凤凰彩票app下载 凤凰彩票大厅 凤凰彩票app 极速快3彩票平台 凤凰彩票 凤凰快3 乐发ll官网 乐发彩票中心 正规快三送彩金平台 凤凰彩票官方 乐发ll 乐发 网信彩票 彩神彩票 彩神彩票官方网站 大发彩票app 网信彩票用户 百姓快三 百姓彩票平台 乐发lv 乐发彩票app下载 彩信平台 网信彩票 乐发彩票官方网站 乐发∨Il 人人快三凤凰 凤凰彩票 凤凰快3 乐发ll官网 乐发彩票中心 正规快三送彩金平台 凤凰彩票官方 乐发ll 乐发 网信彩票 彩神彩票 彩神彩票官方网站 人人快三凤凰 乐发彩票 彩神彩票 乐发iv游戏平台 乐发彩票 大发彩票中心 凤凰彩票登录 凤凰彩票app 彩神彩票 大发彩票 乐发ll 大发彩票app 凤凰快3 凤凰彩票 彩神彩票 乐发ll 凤凰彩票 乐发lll 凤凰彩票大厅 网信彩票 彩神彩票 乐发lv 快盈彩票 乐发彩票官方网站 盈彩网投资平台 大发官网 一分时时彩 乐发lv 快3平台 凤凰快3 乐发ll 全民彩票 乐发彩票官方网站 百姓彩票 乐发彩票 大发彩票 极速快3 乐发app 大发官网 乐发lll 快3平台 凤凰快3 乐发ll 全民彩票 乐发彩票官方网站 百姓彩票 乐发彩票 大发彩票 极速快3 乐发app 彩神iv 大发彩票app 大小单双平台 一分pk10 乐发lv 快盈彩票 乐发官网 快彩彩票 百姓彩票 凤凰彩票大厅 网信彩票 乐发彩票中心 网信快3 乐发 彩神xl 三分快3 大发彩票 大发官网 乐发lll 快3平台 凤凰快3 乐发ll 全民彩票 乐发彩票官方网站 百姓彩票 乐发彩票 乐发彩票官方网站 大发彩票 乐发 分分快3 彩神vl 55世纪 55世纪 凤凰快3 乐发彩票 乐发lv welcome凤凰彩票 乐发ll 1分快3 彩神 彩神ll 1分快3官网 1分快3的平台 welcome凤凰彩票 三分快3 彩神x 彩神vl 凤凰彩票 彩神xl 大发彩票 凤凰彩票大厅 乐发官网 乐发ll 乐发lll 乐发lv 大发彩票app 大发彩票 乐发 乐发彩票 乐发彩票中心 凤凰快3 乐发彩票 彩神xl 腾讯快3 大发彩票 彩神xl 大发彩票 乐发彩票 大发彩票app 快3平台 乐发 1分快3 乐发彩票 彩神x 凤凰快3 彩神xl 彩吧助手 大发彩票app 快3平台 大发排列3 彩神iv 彩神vl 乐发IV 彩神x 一分pk10 大发排列3 乐发lv 快3彩票 乐发app下载 三分快3 快三平台助手 乐发彩票ll 彩神iv 乐发lll下载 盈彩网投资平台 乐发Ⅲ 一分pk10 凤凰彩票 乐发Vll 大发官网 乐发ll 大发彩票 乐发1 凤凰快3 彩神vl 乐发lx 百姓彩票 乐发VI 彩神x 乐发IV 极速快3 乐发 凤凰快3 网信快3 乐发lv 快3彩票 乐发app下载 三分快3 快三平台助手 乐发彩票ll 彩神iv 乐发lll下载 盈彩网投资平台 乐发Ⅲ 凤凰彩票大厅 乐发lv 乐发lv 乐发lv 凤凰彩票 大发彩票 大发彩票 凤凰彩票 乐发lv 凤凰彩票 凤凰彩票 乐发lv 乐发ll 凤凰彩票app下载 凤凰彩票 凤凰彩票 乐发lv 乐发ll 凤凰彩票app下载 凤凰彩票 凤凰彩票 乐发lv 彩神x 乐发 乐发ll 极速快3 乐发lv 乐发彩票中心 快3彩票 凤凰彩票大厅 彩神x 凤凰彩票app 分分快3 网信彩票 网盟彩票 凤凰彩票 百姓彩票 乐发 快彩彩票 乐发彩票 快3平台 百姓彩票 大小单双平台 凤凰快3 彩神xl 一分pk10 乐发lv 三分快3 大发彩票 乐发彩票 快3平台 百姓彩票 大小单双平台 凤凰快3 彩神xl 一分pk10 乐发lv 三分快3 大发彩票 极速快3 乐发ll 网信彩票 乐发lv 全民彩票 凤凰彩票app下载 快盈彩票 大发彩票app 大发官网 凤凰彩票 彩神iv 大发彩票 网信快3 凤凰彩票 百姓彩票