伦理道德与安全规范是人工智能健康发展的保障

March 2, 2023

Fanny Hu

发布于2022-05-11

创新是人类社会进步的动力，但其重要性也存在一定的差异，比如，有的创新对社会有着巨大的影响，而有些创新，即使无处不在，但也只是为我们的生活提供了便利。比如对我们生活产生不同影响的微波炉和电灯，尽管现在大多数人都在使用微波炉，但如果有一天某种奇异的太阳活动不知何故摧毁了所有的微波，也不会对我们的生活造成很大的影响。我们仍然可以使用炉子、烤箱、面包机，甚至是烤架、火坑、电锅、高压锅或空气炸锅。

然而，突然熄灭所有灯将是另一回事，因为它极大地提高了人类的生活水平和经济福祉，只需轻轻一按开关，就可以照亮大片区域的电灯早已取代了过去模糊不清的灯笼和蜡烛。近150年来，电灯的常规用途一直是照亮环境。而互联照明系统和光保真度 (Li-Fi) 等技术上的发展正在进一步将照明与其他建筑和通信系统集成。

人工智能 (AI) 究竟有多重要？它带给人类的影响是类似于微波炉还是电灯？可能两者都有。与许多其他发明一样，人工智能是解决问题的更广泛发展领域的一部分。人工智能有一天可能会整合成为现代生活的必需品。此外，它还对道德和安全有着强烈的需求，以确保技术能更好的造福于人类，体现人类的价值。

AI：正在并将更好地造福于人类

如果某一天太阳耀斑成功地让所有人工智能失去作用，我们大多数人将有其他选择来满足日常需求，比如用炉灶代替微波炉，或者恢复昔日的工作和生活方式。企业分析、医疗成像、推荐产品和音乐播放列表将受到人类能力以及任何可用技术的限制。从这方面来看，人工智能的缺失对于人类的影响更像是微波炉，而不是电灯，至少短期来看是这样。

此时此刻，传感、处理和存储等多项技术的成熟与融合让人工智能能够解决一些实际问题。在麦肯锡全球研究所追踪的160个案例中，只有约三分之一具有实际用途，其中许多仍处于测试阶段。也就是说，人工智能解决方案正处于发展阶段。例如，一个名为人工智能造福人类峰会 (AI For Good Global Summit) 的组织“将AI创新者与那些寻求解决世界性难题的人组织起来，以确定AI的实际应用，从而加速实现联合国可持续发展目标 (UN’s SDG)。” 其中引用了农业、药物开发和卫星图像计算机视觉方面的进展：

农民现在可以整合来自田间传感器、天气数据、市场和卫星图像等的大量数据，进而借助于人工智能时间序列分析，提高作物产量和土地利用效率（图1）。
制药公司也从人工智能建模中获益匪浅。利用分子及其相互作用的数字模型，研究人员可以搜索并找到大量甚至指数级的可能治疗方法。随着人类基因组测序的进展，可以针对个别病例定制更好的治疗方法。
各组织正在利用卫星图像探测野火（这是一个你无法想象的难题）和碳排放情况，甚至可以确定世界上极端贫困地区的位置。

图1：借助于人工智能分析提高作物产量和土地利用效率。（图源：William Potter/Shutterstock.com）

人工智能造福人类的潜力正在迅速从解决有形的、更紧迫的需求转变为逐渐集成为更大、更抽象的解决方案。联合国可持续发展目标不仅仅是解决地方上的短期问题，而是解决人类面临的全球难题，为贫困、不平等、气候变化、环境退化以及和平与正义等挑战制定解决方案。人工智能可否在实现这些目标方面发挥作用？麦肯锡全球研究所指出，这些角色中有很多可能与联合国的可持续发展目标有关。近期的一些申请预计将用于教育和医疗领域。然而，将人工智能解决方案有效地用于解决难题将需要多个群体采取行动，涉及政府和组织甚至是私营企业（图2）。

图2：人工智能将人类福祉置于优先地位，有利于解决气候变化、环境退化等紧迫的社会性挑战，甚至还能保护人民利益。（图源：Wetzkaz Graphics/Shutterstock.com）

良好的道德伦理规范

随着人工智能的进步及其解决方案所带来的深远影响，道德伦理对于确保技术的正确使用和强调人类生命的价值将变得越来越重要。大多数已发布的指导方针都将人工智能道德伦理作为从中获益的一种方式。AI4People是讨论人工智能道德伦理的领导小组之一，旨在为政府和组织提供建议。其目标是塑造人工智能新应用的社会影响，并为建设“良好的人工智能社会”制定基本原则、政策和实践。该小组为实现这一目标提出了20条具体建议。其主要担忧之一是，如果公众因不信任人工智能解决方案而拒绝它们，人工智能实际上可能无法得到充分利用。如果发生这种情况，世界将无法获得人工智能可能带来的巨大好处。

欧盟委员会在2020年2月发布了一份白皮书，旨在促进人工智能的开发和部署，以确保符合欧洲价值观和利益诉求。白皮书不仅强调了道德伦理的含义，还呼吁在尊重人权的同时实现改善生活的科学性突破。书中还提到说，如果人工智能在人类生活中扮演更大、更具侵扰性的角色，终将带来负面影响。现有法规可能涉及到人工智能的某些方面，但必须针对人工智能产品进行调整或澄清。人工智能模型的透明度将会给法规的执行带来一些挑战。因此，需要有明确的法规来保护人类利益，为企业制定清晰的法律法规。

欧盟委员会还强调了团结一致以达到解决重大问题所需组织规模的重要性。不同成员国在研究方向上的差异以及所做的非必要性重复工作构成了五花八门的解决方法，因此有可能产生无法达到所需水平的人工智能解决方案。欧盟委员会计划让多个利益相关者参与进来，并提供行业激励政策，突出欧洲目前在技术方面的优势，包括制造自动化和量子计算。它还希望在卓越的学术中心之间进行协调。最后，白皮书中还提到了如何运用与气候和环境目标特别相关的人工智能技术，实现可持续发展目标。

美国也制定了类似的目标。联邦政府内的各个机构正在为人工智能制定计划，并通过发布白皮书来阐述他们的期望。最近，能源顾问委员会秘书长成立了一个工作组，用于审查并报告人工智能和美国能源部 (DOE) 在支持人工智能技术开发和推广方面的作用。该委员会于近期发表了一篇报告，美国能源部在报告中强调了开发人工智能的紧迫性，以及中国在人工智能方面的大规模投资，并将此视为两国之间的一轮新竞赛。

人工智能将人类福祉置于优先地位，有利于解决气候变化、环境退化等紧迫的社会性挑战，甚至还能保护人民利益。为了实现这些目标，需要制定一个策略来协调众多利益相关者。许多政府、政府间机构、组织和公司正在发布类似的声明和人工智能推荐文件。

良好的安全规范

无论是现在还是未来，人工智能的使用都存在风险。人工智能虽是一种强大的工具，但也可能被滥用，并极有可能带来意外后果。在结构工程或航空等传统工程学科中，人工智能的设计尽可能包含了防护措施。新产品和系统应经过广泛的测试，解决方案也经过各项压力测试，以便更好地了解其性能的局限性。凭借所掌握的知识，业界成功地部署了以极低风险提供高效益的工程解决方案。

到目前为止，人工智能尚不具备工程文化和思维方式，即使我们将其部署到现实生活中，期待它对人们的生活产生重大影响。传统工程中的许多实践都已编入法规。就像我们觉得非常有用的微波炉，如果会在使用中产生辐射，我们便将无法使用。欧盟白皮书表明可能需要监管，但其他实体的类似文件对如何减轻潜在危害不太清楚。美国关于人工智能的声明特别呼吁减少监管。

在缺乏政府领导和指导（欧盟除外）的情况下，许多其他实体已经介入，填补了这一空白，并且已经制定了一整套主要针对开发人员和研究人员的道德准则。目前还不存在真正的执行机制，但所确定的原则和建议有助于在立法者和监管机构介入时阐明对话的关键方面。

结语

要将人工智能提升到能够帮助解决世界性难题的程度，还有大量工作要做。当我们放大人工智能的潜力时，必须警惕其负面影响。人工智能的核心任务是自动执行原本由人类决策的事情。要做到这一点，就需要大量的数据才能更好地了解人类，但收集这些数据就可能会侵犯个人隐私。与微波和电灯的影响可能不同，权衡人工智能的巨大潜力与风险是一件比较棘手的事情，仍需我们付出巨大的努力。