您所在的位置:首页 >  黄河专题>胡律师说法>
【胡律师说法】“生成式人工智能”新规征求意见,亮点多多抢先看
2023-04-13 14:07:40    来源:黄河新闻网

回顾刚刚过去的2022年,最令人惊艳的莫过于人工智能突飞猛进的发展。StableDiffusion和Midjourney掀起了AI绘画浪潮,ChatGPT在文本生成领域异军突起,2022年可谓生成式AI元年。放眼国内,AIGC(人工智能生成内容)产业方兴未艾,百度“文心一言”、阿里云“通义千问”、华为云“盘古”抢先领跑,腾讯、字节跳动、科大讯飞等企业大模型相继亮相。

AIGC快速发展的同时也带来了诸多问题。知识产权、名誉权和隐私权保护、网络安全均受到前所未有的挑战。企业对新兴科技一味求快难免走偏,为促进国内生成式人工智能健康发展和规范应用,4月11日,国家网信办起草《生成式人工智能服务管理办法(征求意见稿)》并向社会公开征求意见。

细读征求意见稿全文,不难发现立法亮点。

1.举旗定向,谋篇布局。征求意见稿仅有21条,旨在宏观层面为生成式人工智能举旗定向、谋篇布局。国家支持企业发展生成式人工智能,但一切创新、应用、市场化都应以安全为前提。办法的制定始终遵循《网络安全法》《数据安全法》《个人信息保护法》等上位法,意味着立法不足、有待细化之处、执法依据等可从以上法律中寻找答案。

2.厘清责任,有的放矢。生成式人工智能服务管理模式与以往网络治理模式相同,即政府监管、企业履责、社会监督、网民自律。

生成式人工智能产品向公众提供服务前,企业须向国家网信部门申报安全评估,履行算法备案和变更、注销备案手续。

网信部门对企业进行常态化监督管理,有权作出相应的行政处罚。

企业向用户提供安全、稳健、持续的服务,引导用户合乎规范地生成内容,发现用户不当使用的,应当暂停或终止服务。

用户可对企业反馈,或向网信部门举报,通过实时处置和模型修正,保障AI在合法合规、公序良俗的轨道上运行和迭代。

3.画好红线,有序发展。征求意见稿明确,提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,这一要求是底线,是规矩,服务提供者必须贯穿从算法设计、训练数据集,到模型生成迭代、提供服务的全过程。第4条5项禁止款项与《网络安全法》《网络信息内容生态治理规定》基本相同,并强调要尊重知识产权,利用训练数据集“炼制”、优化模型过程中不得侵犯他人知识产权,技术领先者不得借助优势实施不正当竞争。

4.以人为本,信息保护。海量数据赋予AI以“生命”,AI如果处理不好信息安全,泄密与侵权将人人自危。征求意见稿将个人信息保护摆在重要位置,提供者在“炼制”AI模型涉及个人信息数据时,应当征得用户同意,取得授权,对个人信息的收集、存储、使用、加工遵照《个人信息保护法》之规定。在使用中用户输入的身份信息,提供者不得非法留存,禁止用户画像,不得向他人提供用户输入信息。

征求意见稿立足当下,着眼未来,前瞻性地规定提供者采取“防沉迷”措施,避免用户过度依赖AI技术,警示我们要防止人类的想象力、创造力、自主性像被三体中的智子那样封锁在信息茧房中。

5.真实至上,防范造假。生成式AI大大降低了制造假消息的技术难度和成本,文本、图片、声音、视频……人类凭肉眼已经难以分辨信息的真伪,深度伪造一旦被别有居心者滥用,必然成为谣言制造、诈骗勒索和舆论操控的新式武器。

2月16日,一则“浙江省杭州市政府3月1号取消机动车依尾号限行”的“新闻”让不少杭州市民信以为真,警方调查,原来真相是一位业主用ChatGPT完成的新闻稿,属于谣言。

3月18日,特朗普在社交媒体平台上发文称,他预计自己将于3月21日被捕。3月21日当天,特朗普被捕、身陷囹圄的照片在网上疯传,而这些图片其实是有人使用Midjourney制作,短短两天,这条帖子浏览量就达到了近500万次。

互联网不是法外之地,AIGC信息造假决不允许。征求意见稿提出,不仅用于训练的数据要保证真实,进而生成的内容也要真实。提供者履行主体责任,如果发现生成违法违规情况,除采取内容过滤外,还应在3个月内通过优化训练等方式纠正错误,防止模型“学坏”,再次生成禁止内容。

征求意见稿要求,提供者应当对AI生成内容进行标识,提醒公众在信息洪流中慧眼识珠,保持清醒。

挑战与机遇并存,风险与发展同在。国产生成式人工智能服务只有接受监管才能步入正轨,行稳致远。

[编辑:胡耀宇]

  • 山西之窗

  • 黄河新闻网官方微信

  • 山西省委社情民意通道