百度、阿里等蜂拥“AIGC”！国内首份AIGC监管文件拟出炉，释放哪些信息？

我国生成式人工智能（AIGC）产业将迎来首份监管文件，释放哪些信息？

4月11日，国家互联网信息办公室就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见。《管理办法》共21条，对生成式人工智能产业给出较为详尽的规定，从生成式人工智能的定义，服务商的准入，到提供内容的真实性、责任主体、训练数据的安全性等问题皆在其中。

《管理办法》明确，生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是，对生成式人工智能的定义中不仅包含文字，目前常见的“文生图”、“文生视频”等也将被纳入管理。

管理范围则是，研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的服务商。

一段时间以来，生成式人工智能成为人们持续关注的焦点，从ChatGPT到文心一言，再到GPT-4和各类生成式人工智能，生成式人工智能被认为是降本增效的重要载体。

随着ChatGPT火爆市场，大众对生成式人工智能技术的认知程度不断提升，激发市场需求的同时，也加速了相关企业布局。目前，包括百度、腾讯、阿里、华为、京东、360等多家国内科技巨头均已宣布在生成式AI产业有相应布局。

人工智能通用大模型横空出世，全世界看到了AIGC的强大的同时，AIGC的可信度、隐私保护、产权等问题亦引发空前争议。以隐私安全问题为例，据英国广播公司（BBC）报道，当地时间3月22日，ChatGPT的开发公司OpenAI创始人山姆·阿尔特曼在推特发文称，该AI的一个故障让一些用户能够看到其他用户对话历史记录的标题。

在技术滥用问题方面，生成的内容开始变得真伪莫测，治理难度随之升级，这也成为目前以ChatGPT为代表的AIGC被诟病的问题。例如今年2月，有人用ChatGPT写了一条“杭州市政府将取消机动车尾号限行政策”的假新闻，让不少人信以为真。此外，生成式人工智能在输出内容的过程中，其输出的内容很有可能造成专利侵权、商标侵权、版权侵权、未经许可使用软件或数据等问题。同时，生成式人工智能所产生的内容是否具有著作权，也成为有争议的问题。

《管理办法》集中瞄准相关问题，从明确条件要求、划定责任主体、形成问题处理机制、清晰法律责任几个方面为行业划定底线。首先，隐私、数据安全方面，《管理办法》规定，生成式人工智能提供者需“承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。”

其次，在与技术滥用问题相关的虚假信息管理和他人权益问题上，《管理办法》提出“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。”

同时，《管理办法》也作出初步规定，包括生成式人工智能的训练“不含有侵犯知识产权的内容”“数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形”等。

同时，生成式人工智能提供者需要建立侵权投诉及保护机制，“及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。”

工信部信息通信经济专家委员会委员盘和林对时间财经表示，这些规则更多是基于国外在生成式AI的一些实践中总结出来的规则经验，诸如数据安全问题，之前意大利暂停ChatGPT在其国内的应用，就是因为担忧ChatGPT会造成新的数据安全问题。

此次，《管理办法》也对一些可能出现的衍生问题，提出防范举措。互联网行业分析师唐欣对时间财经表示，比如在生成的内容上，除了常规的合法合规和社会公序良俗要求，还强调在算法上要避免歧视性内容，确保生成内容的准确，以及尊重知识产权和个人隐私。此外，还包括需要使用者提供真实身份信息，要建立防沉迷机制，对合成内容进行标识等多个亮点内容。

值得关注的是，前述《管理办法》也明确了我国对生成式AI产业的支持和鼓励态度。《管理办法》提出，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。

艾媒咨询数据显示，预计2023年中国AIGC行业核心市场规模为79.3亿元，2028年将达2767.4亿元。艾媒咨询调研数据也显示，超七成的受访者认为降本增效是AIGC最主要的应用价值。54.70%的受访用户认为AIGC技术的进步将促进虚拟人产业的发展，48.69%以及45.82%的受访用户认为会促进直播电商行业和游戏行业的发展。

“《管理办法》总体上是为完善生成式AI的应用环境，为生成式AI在国内应用创造条件。另一方面看，当前《管理办法》内容还相对简化，未来依然需要进一步完善相关内容，且需要预防‘一管就死，一放就乱’的情况出现。”盘和林表示。

平安证券研报也称，预计随着更多AIGC技术的应用落地，一些潜在的风险将更多被认识和暴露，监管侧的监管措施也会更“对症”，《管理办法》只是第一步。（时间财经 吴珊）