okx

元宇宙合规报告(十二)深度合成技术

时间:2022-02-22|浏览:350

欧易

欧易(OKX)

用戶喜愛的交易所

币安

币安(Binance)

已有账号登陆后会弹出下载

毫无疑问,人工智能(AI)、大数据、区块链时间里,大数据、区块链和其他技术已经深刻地改变了我们的生活方式。在这个日益虚拟和现实的世界里,新事物不断被创造,并逐渐与旧事物形成了一个更大、更复杂的关系网络。
深度合成,Deep Synthesis(以前也叫过Deepfake,即深度伪造)AI近年来,技术的新应用和新实践备受关注。一方面,深度合成技术可以自动生成文本、语音、图像、视频等数字内容,成为元宇宙发展的关键技术;另一方面,近年来技术发展迅速,深度合成技术门槛迅速降低,导致技术滥用频繁,造成各种风险。
因此,迫切需要以立法的形式规范深度合成技术的应用,特别是对深度合成内容的使用、标记、使用范围和滥用技术的处罚,明确责任主体,真正实现技术进步。
2022年1月28日,国家网络信息办公室最新发布了《互联网信息服务深度合成管理条例(草案)》(以下简称《深度合成草案》),对作为元宇宙基石的深度合成技术作出了一系列明确的规定和指导。所以,今天沙姐妹团队将与您讨论如何使用深度合成技术来遵守。
1.深度合成技术及其在元宇宙中的实际应用
从技术上讲,深度合成技术本质上是通过深度学习算法实现的。它主要使用两种技术:自动编码器和 生成对抗网络(GAN)。一个用于生成新数据,另一个用于识别生成数据。经过无数次的合作,最终生成了具有真实感的合成数据。目前,我们都很熟悉AI换脸是由深度合成创造的。
根据《深度合成草案》第二条,深度合成技术是指利用以深度学习和虚拟现实为代表的合成算法制作文本、图像、音频、视频、虚拟场景等信息的技术,包括但不限于:
(1)生成或编辑文本内容的技术,如篇章生成、文本风格转换、问答对话等;
(2)文本转换语音、语音转换、语音属性编辑等生成或编辑语音内容的技术;
(3)音乐生成、场景声编辑等非语音内容生成或编辑技术;
(4)生成或编辑图像、视频内容中人脸等生物特征的技术,如人脸生成、人脸替换、人物属性编辑、人脸物特征的技术;
(5)编辑图像和视频内容中非生物特征的技术,如图像增强和图像修复;
(6)三维重建等生成或编辑虚拟场景的技术。
按照这个定义,AI语音,NFT创作艺术,虚拟音乐会,全息肖像投影,虚拟数字人,AR购物和其他元宇宙的重要组成部分属于深度合成技术的具体应用。只要深度合成技术应用于中华人民共和国提供互联网信息服务或为深度合成服务提供技术支持的活动,就在《深度合成草案》的规范范围内。
随着深度合成技术的逐步成熟和商业应用阶段,其巨大的经济价值逐渐向世界展示。目前,深度合成已在音乐、影视、综合娱乐、社交网络等行业得到推广和应用。
例如,它在电影大片制作中的应用是最成熟的。它不仅可以提高音频和视频制作的效率和质量,显著降低电影制作的成本,而且可以给艺术创作者更多的想象空间。即使是深度合成技术也可以使一些死去的演员以虚拟数字人的形式复活,
在综合娱乐方面,深度合成也表现良好。大型互联网制造商常用的面部特效和短视频在我们的生活中很常见。虚拟偶像、虚拟锚,甚至有能力为消费者提供娱乐、购物、指导和其他服务。此外,在教育、艺术、医学和科学研究领域,深度合成技术可以为这些行业带来新的应用。

元宇宙合规报告(十二)深度合成技术
二是深度合成技术存在的风险
自从2017年Deepfake(深度伪造)出现后,AI造假技术的潜力令世人惊叹。从那以后,GAN算法的突飞猛进不仅可以实现AI换脸,甚至自动生成文本、人工语音、图像等数字内容。
在为我们的生活提供便利的同时,深度合成技术也带来了一系列的风险。AI大量的色情视频在我的网络上泛滥,不仅严重侵犯了他人的肖像权、隐私权、声誉权、个人信息安全等个人利益,而且严重侵犯了社会公共秩序和良好习俗。一些罪犯甚至使用它AI变脸、合成声音等技术实施欺诈等犯罪活动。
2021年,山东省公安厅网络安全总队公布了几起利用深度合成技术实施诈骗的真实案例。2020年12月,某公司财务接到领导电话,要求立即向供应商转账2万元,以避免缴纳滞纳金为由,将转账信息以邮件形式发送至对方邮箱。由于电话里老板的口音很逼真,公司财务毫无疑问在一个小时内完成了转账。
更重要的是,在山东网络安全团队公开的第二起案件中,犯罪分子利用社交媒体视频进行欺诈。首先,通过窃取他人的社交媒体账户,获取他人的面部信息,要求亲戚和朋友通过视频电话转移到指定的账户,成功地获得了受害者的信任,骗取了很多钱。
利用深度合成技术实施非法犯罪活动是其风险的表象,而深度合成技术真正危险的是对社会信任关系的严重破坏。信任对任何个人和社区都非常重要。一些学者甚至认为,信任是自古以来人类社会存在的基础之一。无论人与人之间信任关系的重要性有多高,评价都不过分。
张康志先生认为,在人类历史的农业社会阶段,人们之间的信任是以传统习俗的形式表达的,而现代工业社会中人们之间的信任是合同信任。虽然社会信任的形式会随着时代的变化而变化,但无论如何,社会的维护必须以社会信任为基础
深度合成技术有破坏社会信任的潜力。俗话说,眼见为实,但当眼见耳闻不再真实,谎言和欺骗猖獗时,社会信任就会消失。康德在《实践理性批评》中论证了不信任社会的可怕性。根据康德的理论,如果谎言是社会的普遍规律,那么每个人都可以撒谎。在这种情况下,作为一个有正常理性的人,我们不再相信撒谎的人,也不再相信世界上的每个人。不相信的谎言不再有意义,这形成了一个悖论。康德也相应地推动,不撒谎和社会信任是社会存在和发展的正常形式,因为只有在社会信任中,撒谎者才能从谎言中获利。
如今,信息网络已经渗透到我们生活的各个角落,滥用深度合成技术将不受控制地给我们带来一个价值混乱、信任丧失和崩溃的社会。因此,以法律的形式进行合理的监管是紧迫和必要的。

热点:NFT 元宇宙 区块链 大数据 数据

« 上一条| 下一条 »
区块链交流群
数藏交流群
区块链币圈-全球区块链数字货币行情、比特币虚拟货币资讯,狗狗币以太坊环保币柚子币莱特币瑞波币等加密数字货币价格非交易行情查询,金色财经巴比特范非小号快讯平台。
趣开心资讯 Qukaixin.cn ©2020-2024版权所有 桂ICP备19010284号-1