全国政协委员严望佳 关于规范人工智能安全健康发展的提案

本篇文章1514字，读完约4分钟

在今年的两会上，金星公司CEO、全国政协委员闫提交了关于规范人工智能安全健康发展的议案。

(图为金星公司首席执行官、全国政协委员严

该提案内容如下:

一、问题与原因分析人工智能是推动新一轮科技革命和产业转型的战略性技术力量。近年来，在党中央、国务院的战略方针指导下，我国人工智能发展迅速，有效地促进了社会经济的发展和人民生活水平的提高。但是，必须注意的是，人工智能技术仍在快速发展，如果不重视有效的安全控制和管理，可能会留下不可估量的安全隐患。习近平总书记在主持中共中央政治局第九次集体学习时指出:“要加强人工智能发展中潜在风险的研究和防范，维护人民和国家利益的安全，确保人工智能的安全、可靠和可控。”为了实现这一目标，有必要在法律规范、监督管理、学术研究等方面做出相应的努力。 具体而言，当前人工智能技术的发展主要存在以下安全问题: 1)对人工智能安全健康发展的法律和伦理研究不足。目前，人工智能得到了广泛的应用，但在法律主体、权利、义务和责任方面仍有许多研究和应用。随着人工智能的应用和普及，其在法律、社会规范和伦理方面的挑战将越来越明显。一般来说，目前人工智能的发展主要是以战略和政策的形式进行引导和激励，而相应的法律、法规和伦理要求并不完善，不能有效地预防和控制潜在的安全风险。 2)许多因素可能导致人工智能产品和应用中的缺陷。在许多阶段，如算法原理、设计和编码、生产和实现、应用部署等。，因为算法本身没有考虑公平性、程序员编码漏洞、用于模型训练的数据样本有偏差等。在实际应用中，它可能会导致人工智能算法决策中的错误、偏差或歧视性问题。如果问题发生在关系国计民生的重要领域(如自动驾驶、医疗、金融等)。)，它会带来严重的危害。 3)人工智能产品和应用的安全性评估进展缓慢。目前，对于爆炸性的人工智能产品和应用，许多研究机构在熟悉的技术点上发现了许多安全漏洞，但几乎都缺乏全面系统的安全评估。总体而言，由于技术集成、使用环境复杂、应用领域广泛等诸多原因，人工智能产品和应用的安全评估仍处于研究和探索阶段，系统评估技术、评估标准和评估工作组织进展缓慢。 二.具体建议 为进一步加强全行业对人工智能安全的关注，规范和引导人工智能技术安全健康发展，确保其成为推动社会经济发展、提高人民生活水平的可靠战略力量，有必要在大力推广研发新技术的同时完善安全控制措施，以满足习近平总书记“安全、可靠、可控”的要求。 具体建议如下: 1)加快人工智能的安全应用法规和伦理研究 除继续实施和加强人工智能的激励和引导措施外，建议加快安全应用法规和规范的研究，确保其沿着良性健康的发展道路前进。具体的安全监管机制包括学习和颁布相关法律法规，明确人工智能应用的法律主体和相应的权利义务；探讨人工智能的伦理问题，限制人工智能的研究和实际应用范围。 2)建立关键领域人工智能应用的安全审查机制 在一些直接影响国计民生和公共安全的关键领域，如医疗、金融、交通、教育等，人工智能的应用与人身安全、社会稳定和国家安全密切相关，一旦发生安全事故，将会造成严重后果。因此，在这些领域，建议建立人工智能应用的访问审查机制，加强对人工智能算法和应用的安全性、可控性和透明性的审查。 3)开展人工智能安全评估技术研究，完善评估机制 建议通过产业政策引导和组织管理措施，一方面引导和加快人工智能产品和应用的安全评估和评估技术研究，逐步积累安全检测样本库、测试样本库、研发测试工具集等知识资源，提高人工智能产品和应用的安全评估和评估能力；另一方面，推动制定与人工智能安全相关的国家和行业标准，明确相关的安全评估指标、方法和要求，建立安全评估程序和管理规范，完善人工智能产品和应用的安全评估机制。

来源：人民视窗网