研究|如何解决数字人监管难题?

来源:澎湃新闻

作者:许鑫 朱奕帆

近几年,国家陆续发布多项关于大力培育数字经济,加强数字中国建设整体布局的政策。其中2021年10月国家广播电视总局发布的《广播电视和网络视听“十四五”科技发展规划》首次明确鼓励和支持虚拟数字人技术发展,推动虚拟主播、动画手语广泛应用于新闻播报、天气预报、综艺科教等节目生产,创新节目形态,提高制播效率和智能化水平。《虚拟数字人深度产业报告》显示,到2030年中国虚拟数字人市场规模预计将达到2700亿元,其中数字人被认为是元宇宙的入口和目前最确定的赛道之一。

时至今日,数字人作为数字经济细分领域之一,已经历了多轮发展迭代,凭借高效、高质的特征,应用场景从游戏、影视、娱乐业逐渐向传媒、政务、医疗、教育、金融、养老等多个领域渗透。 


一、 数字人与数字人测评


在正式讨论数字人权利风险和监管问题前,首先要界定和了解何为“数字人”?虚拟分身(Avatar)是《雪崩》中创造的一个概念,发展至今,拥有了更为广泛的称呼:虚拟数字人(Metahuman),通过动作捕捉、面部捕捉、三维建模、语音合成等技术,借助AR/VR/MR等终端,呈现出虚拟立体的人。它有三大特征:具有“人”的形象、具备“人”的性格和行为特征、具备类“人”的互动能力,被视为未来人们进入元宇宙的入口。

对数字人而言,经历了以“二次元”为代表的1.0阶段,此阶段通过专业工具建模或人工绘画构建人物形象,配合人工配音,成本高、生产力低下;以虚拟主播为代表的2.0时代,由真人动作和表情捕捉并实时渲染;目前正向3.0阶段进化,具备模型高精、人工智能驱动等特点,并具备一定的交互能力。也有研究者认为,数字人的最终形态是“超人化”,即随着AI技术发展,数字人能力超过真实人,并通过机器人承载虚拟意识回归现实世界。

伴随虚拟数字人应用逐渐深入,各类问题和相关讨论越来越受到关注。首先是如何评价虚拟数字人的话题,笔者撰写的《勘破我相:“数字人”测评模型构建与应用》一文,选取市场上颇具代表性的虚拟数字人,通过对视频网站用户评论信息的采集,在此基础上对评论进行数据清洗、分词、筛选特征词、情感分析等处理,基于感知价值理论构建了数字人测评模型,从技术性、功能性、交互性、情感性和社会性五个维度给数字人打分,试图从用户感知视角评价数字人,一窥数字人当前发展现状。

研究发现:各类数字人之间差异显著,用户对功能型数字人的期待更高,更看好功能型数字人的社会价值,超写实技术和卡通技术也都受到用户喜爱。在研究过程中,笔者还发现数字人华智冰因容貌过于真实,受到用户质疑。有用户提出华智冰是由真人建模所得,因此外貌十分像真实存在的人,与宣传的人工智能不符,进而有用户提出了肖像权的问题。 


二、 数字人监管的困难与挑战


(1) 数字人法律主体属性不明朗

成文法制定的重要任务之一,就是将真实人转化为法律人,由此使得生活中现实存在、各具特性的个人,在法律上以统一的标准人、制度人的方式出现。这种经法律抽象而形成的人,也就是法学上所称的“法律主体”。而虚拟数字人不同于医学意义上的碳基人,它是由0和1构成的硅基人,且暂不具有实体,在法律上尚未明确定义。目前来自业界对数字人的通识过于宽泛和多义,比如没有真实外貌的二次元洛天依、初音未来是否要纳入考虑;由中之人(指操纵虚拟主播进行直播的人)参与的数字人法律主体如何界定等等。

(2) 数字人涉及权利复杂

目前数字人应用广泛,从功能维度对其分类,主流思想认为可分为偶像娱乐、专业服务和情感陪伴三大类。偶像娱乐数字人包括抖音美妆博主柳夜熙、哔哩哔哩二次元歌手洛天依、哈啤歌手哈酱、重生邓丽君等;专业服务数字人有央视AI手语主播、百信银行虚拟员工AIYA、万科虚拟新人崔筱盼等;情感陪伴数字人包括微软小冰、小爱同学等虚拟助手。从上述应用来看,数字人涉及的权利已十分庞杂,超写实数字人若使用真人面部、声音、姓名等不可避免涉及肖像权,在“虚拟邓丽君”活动中,近亲属是否有权代为同意他人使用其姓名权、肖像权等人身权利,在实践中存在非常大的法律争议。此外,创作类数字人的歌曲、诗集、图画等或许涉及知识产权。进一步思考,当数字人产生一定自主意识时,会产生不受生产者控制的内容,若在此过程中发表不当言论,甚至可能产生侮辱罪、诽谤罪等刑事风险。

(3) 数字人追责困难

数字人应用过程中仍涉及多个主体,包括数字人本身、生产厂商、实际运营人、中之人等等。当发生侵权事件时,各主体责任如何鉴定,如何避免踢皮球事件仍需要着重考量。 “产品责任说”是各国司法实践处理人工智能、机器人等侵权案件较为通用的思路,但未来当产品为有独立思维的数字人时,如何界定侵权事件是数字人自身行为还是预设行为成为难题。 


三、 数字人监管的思路与建议


(1)确立数字人主体概念

2021年3月中国人工智能产业发展联盟总体组和中关村数智人工智能产业联盟数字人工作委员会发布的《2020年虚拟数字人发展白皮书》指出,虚拟数字人应具备以下三方面特征:一是拥有人的外观,具有特定的相貌、性别和性格等人物特征;二是拥有人的行为,具有用语言、面部表情和肢体动作表达的能力;三是拥有人的思想,具有识别外界环境,并能与人交流互动的能力。《白皮书》从不同方面抽象化数字人概念,但从法律和监管角度看仍存在模糊之处,比如虚实共生(真实人在元宇宙的数字投影)和虚拟原生(AI生成)的数字人如何区别对待;二次元形象是否为数字人;在数字人从中之人、动作捕捉到AI驱动发展过程中,法律主体是否转移等。这些都需要在监管实践中进一步明晰。

(2)建立数字人测评机制

元宇宙概念下数字人百花齐放,如何比较数字人、如何对数字人能力评估,成为数字人监管的首要问题。中国信息通信研究院云计算与大数据研究所已牵头在国际电信联盟和中国通信标准化协会完成多项全球范围内首创的数字人国际标准及行业标准的研制,从基础技术能力、基础工程化能力、基础安全保障能力三个方面共计48个测试项对数字人系统基础能力评测。当然,前文中从用户感知视角构建测评模型来评价和解读数字人的发展现状也是一种另辟蹊径的做法。未来,政府应积极主导,联合各方建立完善科学的数字人评价机制,为数字人权利的进一步探讨打下基础。

(3)界定数字人行为边界

随着数字人应用发展,数字人涉及肖像权、名誉权、知识产权等权利风险,甚至会借助数字人的技术和手段,形成非接触式的新型犯罪手段。“行为边界”是我们在日常行为处事中的一条“红线”,不可跨越、不可违犯。如何界定数字人行为边界将是数字人监管的重要手段,政府应提前做好监管布局,制定不同类型数字人的行为规范守则和惩罚措施,以促进行业健康发展。

(作者许鑫系华东师范大学经济与管理学部、上海智能教育研究院教授、博士生导师,上海高校智库华东师范大学电竞产业发展研究中心主任;朱奕帆系上海公安学院图书馆馆员。许鑫教授持续关注新技术、新产业、新业态、新模式等新型经济形态,关心新兴技术治理,本专栏以“产业与治理”为主题,探讨科技创新在经济社会发展中的前瞻性问题。)