明确边界促发展 生成式人工智能技术行业新规发布-凯发网

中国商报（记者 赵熠如）发展如火如荼的生成式人工智能技术迎来重大利好：《生成式人工智能服务管理暂行办法》（以下简称办法）于近日公布。办法不仅鼓励生成式人工智能技术的发展，也对其提供者在技术、服务方面提出相关要求与规范。

《生成式人工智能服务管理暂行办法》近日公布，在鼓励生成式人工智能技术的发展的同时，也对其提供者在技术、服务方面提出相关要求与规范。（图片由摄图网提供）

管理办法公布

7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》，自2023年8月15日起施行。

该办法共24条，分为“总则” “技术发展与治理” “服务规范” “监督检查和法律责任” “附则”五章。国家互联网信息办公室有关负责人表示，出台该办法，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

国家计算机网络与信息安全管理中心高级工程师张震表示，办法更加关注生成式人工智能技术本身，这主要与生成式人工智能技术自身特性有关：一是生成式人工智能应用场景具有通用性。如果延续针对固定用途信息服务的管理思路，将难以充分切合实际监管需求。二是生成式人工智能具有价值观属性。一旦模型在训练过程中引入偏见歧视等有害信息，在模型实际应用中很可能呈现放大化输出。三是生成式人工智能具备可引导性。在提升模型能力方面，通过在生成式人工智能模型训练过程中调整模型输出概率分布不断趋近人类偏好，但同时也存在被不法分子恶意利用的风险。

360集团创始人周鸿祎表示，该办法彰显了有关部门鼓励创新、支持大模型发展的态度，为科技企业创新提供了信心和保障。同时，办法明确了适用边界，既能够规范大模型的公众服务，也有利于组织机构的研发和应用。

“目前，产业数字化已成为国家战略，大模型的发展也应该为产业数字化赋能。作为工业革命级的生产力工具，大模型能够帮助传统产业特别是制造业实现从数字化转型到智能化的升级。大模型未来真正的发展机会就是企业级市场，包括组织机构、政府和城市。从办法来看，国家对企业级场景的应用研发和落地整体持大力支持的态度。”周鸿祎认为。

“人工智能行业发展非常迅速，办法的出台也非常及时。办法与征求意见稿相比更温和一些，操作性也更强一些；它释放了很多积极信号，针对生成式人工智能服务提供者进行了很多约束和规范，希望各从业者能认真阅读并遵守该管理办法。”dcci互联网研究院院长刘兴亮对中国商报记者表示。

促进行业发展

办法在“技术发展与治理”一章中，明确表示了对生成式人工智能技术发展的鼓励与支持。

第五条内容提出，鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

第六条内容提出，鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。

“生成式人工智能在技术创新、数据资源建设、转化应用、风险防范等方面涉及多方主体。为此，办法鼓励行业组织、企业以及各个相关机构之间开展协作。”中国信息通信研究院政策与经济研究所所长辛勇飞表示，“生成式人工智能尚处于初级发展阶段，而我国在生成式人工智能相关算法、芯片等技术研发方面起步相对较晚。因此，办法一方面鼓励生成式人工智能相关基础技术的自主创新，另一方面也鼓励平等互利开展国际交流与合作，从而促进我国人工智能技术的发展。”

与此同时，辛勇飞表示，算力是支撑数字经济蓬勃发展的重要底座，数据是生成式人工智能的重要资源。办法提出的推动生成式人工智能基础设施和公共训练数据资源平台建设的措施，能够促进算力资源协同共享，提升算力资源利用效能。

与此同时，办法还对生成式人工智能技术在训练数据处理活动、数据标注过程中的运用提出了要求。

“生成式人工智能服务所产生内容的质量优劣、安全与否主要取决于训练数据，办法要求服务提供者采取有效措施提高训练数据质量，增强数据的真实性、准确性、客观性、多样性，并指导服务提供者做好数据处理、数据标注等方面的安全管理工作。”中国电子技术标准化研究院党委书记杨建军表示。

强化主体责任

办法在“服务规范”一章中，对生成式人工智能提供者在信息安全、信息保护等主体责任方面提出了要求。

办法提出，提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。提供者应当与注册其服务的生成式人工智能服务使用者（以下简称使用者）签订服务协议，明确双方权利义务。

与此同时，办法还提出，提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告；提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告；提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

杨建军认为，生成式人工智能服务产业链条正在逐步形成，需要进一步强化主体责任，促进各环节安全水平提升。办法从多角度明确治理规则、强调治理要求，明确了用户对服务的监督作用，要求提供者建立投诉举报机制，强调使用者有权向有关部门投诉举报。

张震表示，在人工智能技术迎来重要发展的时期，不仅要让相关新技术新应用充分释放出创新活力，还要在安全监管与创新引导之间掌握好平衡。

“一方面，高度重视和充分研判生成式人工智能相关创新应用对数据安全、公共利益、知识产权、伦理道德等方面可能造成的影响，进一步加强人工智能领域的行业自律，引导大数据、人工智能等先进技术在社会主义核心价值观的引导下开展应用创新，加快制定相关行业标准和规范。”张震说，“另一方面，充分支持人工智能领域研发主体开拓进取，鼓励和支持自主创新，培育国家级生成式人工智能技术生态和应用生态，坚持包容和审慎相结合，理性务实推进中国人工智能科技创新和数字经济的蓬勃发展。”