黄山石代表: 您提出的关于类ChatGPT大模型在浙江省内高校中快速发展亟需加强监管的建议收悉。该建议对于完善大语言模型在教育领域规范化应用的政策、改进大语言模型在浙江省内高校中使用的监管工作、促进人工智能技术与学术研究深度融合发展具有重要意义,我厅将认真研究、积极吸纳。根据《浙江省人民代表大会代表建议、批评和意见办理的规定》关于清单式答复的要求,经商省委网信办,现答复如下: 序号 | 具体诉求 | 答复内容 | 1 | 建立标准化规章制度和使用规范 | 1.指导高校积极落实国家发展和改革委员会、教育部等七部门印发的《生成式人工智能服务管理暂行办法》,促进生成式人工智能健康发展和规范应用。做到“防范有度,自主可控”,特别是高度重视和关注生成文本或影音的意识形态、政治性、科学性以及学生信息共享、师生学术价值观的公平性认识等问题。 2.计划制订我省生成式人工智能教育领域创新应用的管理办法。对生成式人工智能在教育领域的发展、应用、治理、服务、监督、安全等作出规定,强化应用指导、服务规范、安全监管和法律责任,明确道德标准、合规指南、监管措施,引导广大师生合理合法使用生成式人工智能工具。 | 2 | 加强管理和技术监控 | 1.省教育厅要求高校科研人员严格按照科技部发布的《负责任研究行为规范指引(2023)》要求,依规合理使用生成式人工智能,不得使用生成式人工智能直接生成申报材料,不得将生成式人工智能列为成果共同完成人,不得直接使用未经核实的由生成式人工智能生成的参考文献等,确保使用人工智能工具遵守学术诚信和知识产权要求。2023年,省委网信办印发《重要行业网络数据分类分级指南》,全面指导我省重要行业做好网络数据分类分级工作,夯实网络数据安全治理根基;2024年,省委网信办计划出台《网络数据全生命周期安全管理指导意见》,强化数据安全标准体系建设,加强对网络数据的产生、传输、存储、使用、共享、销毁等全生命周期安全管理,提高数据防护能力。 2.省委网信办持续开展App违法违规收集使用个人信息专项检查,针对与民众生活密切相关、用户数量巨大、网民举报较多的重点App开展检测评估,对存在违法违规的App进行通报,限期整改。2024年,省委网信办将加大对提供生成式人工智能服务的平台、应用开展检查评估工作,指导企业及时清理有害语料数据、加强内容输入审核,及时调整技术措施,做好追踪溯源、风险防控等安全措施。推动深化大模型先备案再上线机制,发现未经备案的生成式人工智能应用(含调用国境外的),将及时下架处置。建设“浙江省人工智能大模型高质量数据集”,加强大模型安全评估技术标准建设。 | 3 | 推动高校间的协作与共享资源 | 1.省教育技术中心、浙江师范大学和科大讯飞股份有限公司已联合成立教育大模型研究应用实验室,探索基于教育大模型的人工智能赋能教育高质量发展新路径新方案。包括联合推进大模型赋能之江汇、“浙里问学”迭代升级,共建自主可控国产化的教育大模型应用服务平台,面向教育领域场景新需求共研共创相关人工智能应用项目,开发学科AI教师、伴随式心理伙伴、语言学习AI学伴,以新理念新技术新产品促进大规模个性化教学。 2.2023年12月,省教育厅印发《浙江省数字教育高质量发展行动计划(2024—2027年)》,提出鼓励浙江大学等有基础的高校建立超算(智算)中心和算力联盟,探索“数智”技术驱动的科学研究和创新人才培养等新方式。 |
感谢您对大语言模型在教育领域应用的监管工作的关心和支持。 欢迎登录我厅门户网站(jyt.zj.gov.cn),了解高等教育、基础教育、职业和成人教育等方面的工作信息。 (联系人:浙江省教育技术中心黄一展,电话:0571-88277051) 浙江省教育厅 2024年6月21日
|