世界人工智能大会：人工智能的应用标准、体系化监管与安全伦理应当同步跟进

2023-07-08 03:49:53 来源：新华财经收藏

在智能社会里，如何建设数字治理生态，一直是行业的热议话题。7日，在2023世界人工智能大会的多场相关论坛上，业内专家和研究人员认为，在人工智能的发展进程中，应用标准、体系化监管与安全伦理应当同步跟进。

(资料图片仅供参考)

“负责任”的人工智能

在上海杨浦滨江举行的智能社会论坛上，发布了多份重量级的研究和实践成果。同济大学研究团队发布了《人工智能大模型伦理规范操作指引》和《生成式人工智能风险评估框架（1.0）》两份专题研究成果，旨在应对人工智能大模型的风险，推动伦理规范落地实施；同济大学与百度研究团队联合发布了《面向新商业模式的高级别自动驾驶法律责任白皮书》，关注全自动驾驶应用场景的法律问题。

同济大学常务副校长吕培明等专家认为，人工智能既是引领当前这一轮科技革命和产业变革的战略性技术，也是推动城市治理生态和治理能力现代化的必由之路。应主动整合多学科力量，搭建起“技术与社会”畅通的对话交流平台，应对智能技术发展潜在的伦理、法律和治理风险与挑战，构建公平规范的数字治理生态，超前探索智能社会的运行模式、法律法规、标准规范、政策体系和体制机制，推动发展“负责任的人工智能”。

上海杨浦作为全国首批10个国家智能社会治理实验综合基地之一，正加强人工智能研发与应用活动的引导，实现人工智能产业规范与发展的动态平衡，打造智能治理的新样板。

大模型的风险管理

推进大模型的创新和应用，同步也要加强大模型的风险管理与行业治理。在上海西岸举行的“大模型时代的通用人工智能产业发展机遇以及风险”主题论坛上，上海市经济和信息化委员会相关负责人表示，上海作为人工智能创新高地与“先行区”，在积极打造具有国际影响力的世界级产业集群的同时，坚持科技向善理念，持续推进人工智能健康规范发展。

据介绍，上海积极推进大模型技术的创新和应用，系统性支持技术攻关、算力供给、数据集建设和公共服务需求；布局科学智能，推进科学智能赋能生物医药、集成电路、高端装备和先进材料等创新应用；提升智能机器人在复杂场景下的智能能力。

与此同时，上海正在加快完善行业治理体系，面向人工智能的关键领域，加快制定技术、产品、服务、行业应用、安全伦理等标准，在健全法规、标准、监管体系等方面，努力形成上海特色方案。

上海目前已经启动高风险人工智能产品和服务清单式管理的相关研究，并积极推动大模型相关治理研究；建立健全大模型评测体系，建设大模型评测中心，探索大模型自动化评测工具；探索适应大模型特点的创新监管方式。

上海将搭建更多研讨平台，引导产业人士参与科技创新实践；积极参与国际人工智能治理规则的制定和实施，推动人工智能伦理标准的互认和协调，共同推进人工智能造福人类。

扶持与合规并重

为打造大模型和生成式人工智能生态集聚和创新应用高地，上海徐汇此次率先推出了面向生成式人工智能的扶持政策，直面企业需求和产业关切。

15条具体举措，聚焦技术强基支撑，支持通用大模型、垂类大模型等关键领域自主创新，支持具身智能、自主智能体等前沿领域布局；聚焦场景应用示范，充分发挥徐汇特色产业基础和新赛道先发优势，全面推动生成式人工智能技术在医疗、金融、社交、智能网联汽车等领域融合赋能；聚焦创新生态构建，针对算力、数据、算法、融资、人才、监管等关键环节，强化要素支撑。

2022年，上海徐汇人工智能产业规模已近千亿元，近五年年均增速达到30%以上；在大模型和生成式人工智能细分领域，已经汇聚相关企业近200家，其中核心企业30余家，成为上海乃至全国大模型的策源地之一。

在上海，智能社会治理获得同等的关注。此次，上海杨浦揭牌成立了“人工智能合规服务中心”，将发挥同济大学的智力与技术资源优势与杨浦区的实践优势，为企业的人工智能新技术新应用，提供合规指引、咨询和服务。

（文章来源：新华财经）

关键词：