专家解读｜推动生成式日日盈人工智能精细化治理

当时，生成式人工智能正在加速展开，不断催生新场景、新业态、新模式和新市场，赋能千行百业。与此一起，其暴露出的安全危险也引发了各国监管部门的广泛注重，意大利、德国、法国、西班牙等多个国家的数据维护监管安排对ChatGPT表达忧虑或建议查询。近来，国家网信办联合国家有关部门发布了《生成式人工智能服务办理暂行方法》。《方法》是我国促进生成式人工智能健康展开和标准运用的专门立法，界定了生成式人工智能技能的基本概念，规矩了生成式人工智能服务供给者的准则要求，为生成式人工智能的健康展开指明晰方向。

一、促进展开，鼓舞生成式人工智能研制立异

新一代人工智能是推进科技跨过展开、工业优化晋级、生产力全体跃升的驱动力气。习近平总书记高度注重人工智能技能展开，指出要加速新能源、人工智能、生物制作、绿色低碳、量子核算等前沿技能研制和运用推行。中共中央政治局4月28日召开会议着重，“要注重通用人工智能展开，营建立异生态，注重防备危险”。

《方法》立足于促进生成式人工智能健康展开和标准运用，在总则中明晰了国家坚持展开和安全偏重、促进立异和依法办理相结合的准则，并在技能展开与办理一章中提出了一系列鼓舞方法。

一是鼓舞立异运用。生成式人工智能运用场景丰厚，能够与各职业深度结合，助力完成各职业智能化革新。《方法》明晰提出鼓舞生成式人工智能技能在各职业、各范畴的立异运用，有助于生成式人工智能赋能千行百业。

二是鼓舞多方协作。生成式人工智能在技能立异、数据资源建造、转化运用、危险防备等方面触及多方主体，为此，《方法》鼓舞职业安排、企业以及各个有关安排之间展开协作。

三是鼓舞自主立异与国际协作。生成式人工智能尚处于展开阶段，而我国在生成式人工智能有关算法、芯片等技能研制方面起步相对较晚。《方法》一方面鼓舞生成式人工智能有关根底技能的自主立异，另一方面鼓舞平等互利展开国际交流与协作，然后促进我国人工智能技能展开。

四是鼓舞资源同享。算力是支撑数字经济蓬勃展开的重要“底座”，数据是生成式人工智能的重要资源。为此，《方法》提出推进生成式人工智能根底设施和公共练习数据资源渠道建造的方法，促进算力资源协同同享，进步算力资源运用效能。

二、划定底线，推进生成式人工智能向上向善

以ChatGPT为代表的生成式人工智能在社会革新中的具有重要作用，但其或许存在的数据违法搜集、知识产权侵权、生成虚伪信息等问题相同不容忽视。

《方法》活跃回应生成式人工智能带来的社会问题，明晰供给和运用生成式人工智能服务的法令底线。

一是不得生成违法内容。《方法》执行《网络安全法》等法令的规矩，着重供给和运用生成式人工智能服务应当坚持社会主义中心价值观，不得生成法令、行政法规制止的内容。

二是避免轻视。练习数据自身存在轻视内容、算法更倾向于某些特征值、标示人员的片面判别等要素或许导致轻视问题，给社会带来不良后果，如边缘化弱势人群或许鼓动仇视与暴力。为削减轻视现象发生，《方法》要求在算法规划、练习数据挑选、模型生成和优化、供给服务等过程中，采纳有用方法避免轻视。

三是尊重知识产权和别人合法权益。生成式人工智能在个人信息的处理过程中，或许存在违法搜集、运用个人信息等危险；生成式人工智能的练习数据中如包含别人已宣布并享有著作权的著作，也或许给知识产权形成损害。为削减侵权事情的发生，《方法》着重尊重知识产权、商业道德；尊重别人合法权益，不得损害别人身心健康，不得损害别人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

四是进步生成内容准确性和可靠性。自生成式人工智能问世之初，其存在的“不苟言笑地胡言乱语”现象便引起了人们的警觉。这种虚伪信息的发生很或许会误导用户，加重社会对同享信息的不信任。怎么保证生成内容的真实性，既是工业界为进一步扩展生成式人工智能商用规划需求战胜的技能难题，也是监管部门需求要点考量的问题。《方法》要求生成式人工智能服务供给者根据服务类型特色，采纳有用方法，进步生成式人工智能服务的透明度，进步生成内容的准确性和可靠性。这一要求充沛体现了展开与安全偏重的准则，契合生成式人工智能的技能原理与工业需求。

三、细化职责，构建生成式人工智能办理系统

生成式人工智能从研制到落地需求阅历多个环节，包含练习数据处理、数据标示、供给服务等。明晰界定不同环节的要求更有利于下降生成式人工智能的安全危险，增强准则的可落地性。

《方法》明晰供给者的职责与职责，供给者是运用生成式人工智能技能供给生成式人工智能服务的安排、个人，包含经过供给可编程接口等方法供给生成式人工智能服务的安排、个人。

在练习数据处理环节，供给者应当运用具有合法来历的数据和根底模型，并采纳有用方法进步练习数据质量，增强练习数据的真实性、准确性、客观性、多样性。

在数据标示环节，供给者应当拟定标示规矩，展开数据标示质量评价，并对标示人员进行练习。

在供给服务环节，供给者应依法承当网络信息内容生产者职责，依照《互联网信息服务深度组成办理规矩》对图片、视频等生成内容进行标识；发现违法内容的，应当及时采纳处置方法、进行整改并向有关主管部门陈述；应依法承当个人信息处理者职责，对生成式人工智能服务运用者的输入信息和运用记载依法实行维护职责，及时受理和处理个人关于查阅、仿制、更正、弥补、删去其个人信息等的恳求；应实行用户办理职责，明晰并揭露服务适用状况，辅导运用者科学理性认识和依法运用技能，采纳未成年人防沉迷方法，依法处置从事违法活动的运用者，建立健全投诉、告发机制；应供给安全、安稳、继续的服务。

四、强化发表，明晰生成式人工智能监管手法

人工智能算法具有“黑箱”特性，表现为行为不可控、决议计划机制难以解说，给人工智能监管带来了必定困难。为此，《互联网信息服务算法引荐办理规矩》《互联网信息服务深度组成办理规矩》等标准现已明晰了算法存案、安全评价等监管手法，进步算法的透明度与可问责性。

《方法》与现有标准一脉相承，连续了此前监管手法，一起明晰了分类分级监管的准则，健全了我国人工智能办理系统。一是明晰了安全评价与算法存案要求。为有用应对算法“黑箱”问题，《方法》对供给具有言论特点或许社会发动才能的生成式人工智能服务的，提出了安全评价与算法存案要求。二是明晰了信息发表要求。《方法》明晰了供给者应合作主管部门的监督查看，按要求对练习数据来历、规划、类型、标示规矩、算法机制机理等予以阐明。

《方法》是在区块链、轿车数据、算法引荐、深度组成等立法之后，我国对新式范畴立法的又一次探究。《方法》充沛协调了展开与安全之间的联系，一方面提出了生成式人工智能展开的鼓舞方法，另一方面明晰了生成式人工智能的法令底线，构建了生成式人工智能精细化办理系统，有利于推进生成式人工智能健康有序展开，为国际奉献人工智能办理的我国才智和我国计划。

作者：辛勇飞 我国信息通讯研究院方针与经济研究所所长