读人工智能全球格局：未来趋势与中国位势15伦理难题

1. 在争议中前行

1.1. 自人工智能这个概念诞生以来，棋类游戏一直被视为顶级人类智力及人工智能的试金石
1.2. 最著名的人工智能威胁论来源于奇点理论
1.3. 雷·库兹韦尔在《奇点临近》一书中预言机器的智能将在2045年超过人类的智能
1.4. 著名物理学家霍金相信生物大脑可以达到的和计算机可以达到的没有本质区别，计算机在理论上可以模仿人类智能，然后超越

• 1.4.1. 著名物理学家霍金相信生物大脑可以达到的和计算机可以达到的没有本质区别，计算机在理论上可以模仿人类智能，然后超越
  

1.5. 霍金和马斯克的忧虑，来自对强人工智能，甚至是超人工智能的忧虑

• 1.5.1. 前者指的是可以胜任人类所有工作的人工智能
  
• 1.5.2. 后者则是指在科学创造力、智慧和社交能力等每一方面都比最强的人类大脑聪明很多的智能
  

1.6. 人工智能本质上是一门工程学科，与平时我们所接触到的土木工程等学科并没有本质区别

• 1.6.1. 从根本上来看，机器学习不会真正的超越人类
  

2. 伦理何以重要

2.1. 科学技术是中性的，可以用来造福人类，也可以用来祸害人类
2.2. 随着技术的发展，技术的威力越来越大，它带来的效果越来越明显，可能的恶果也越来越严重，产生的影响也越来越是全球性的和全人类的
2.3. 历史上几乎每一项重大技术，如电力、蒸汽机、互联网等，都会给社会带来风险和挑战，诸如失业、隐私安全等方面的风险和挑战
2.4. 人工智能不再是单纯的工具，它开始不断模糊物理世界和自然人类的界限，刷新人的认知和社会关系，延伸出复杂的伦理、法律和安全问题
2.5. 机器人三定律

• 2.5.1. 优先级更高的机器人第零定律：机器人不得危害人类整体或坐视人类整体受到危害
  
• 2.5.2. 第一定律：机器人不得伤害人类或坐视人类受到伤害
  
• 2.5.3. 第二定律：在与第一定律不相冲突的情况下，机器人必须服从人类的命令
  
• 2.5.4. 第三定律：在不违背第一与第二定律的前提下，机器人有自我保护的义务
  

2.6. 在人工智能时代来临之际，应当审慎省察人工智能的伦理尺度，使人工智能不仅免于扮演人类宰制者乃至文明终结者的魔咒，更能以其超卓而与人性合一的普遍智能推进人的自由与全面发展，开创出人机共生而与天地参的文明化境
3. 零隐私时代

3.1. 生活在智能社会中，一切都可作为大数据被记录下来
3.2. 伴随技术进步，隐私的疆域大大拓展，连基因信号和下意识的意念也被挖掘纳入个人信息
3.3. 算法推荐背后强力的数据抓取与分析令人们觉得自己在人工智能面前仿佛赤身裸体，没有一点儿隐私
3.4. 算法推荐一味满足人们喜好造就的“信息茧房”​，也令人们恐惧人工智能竟强大到可以操控人类的自我意识
3.5. 人工智能让我们轻而易举地享受到这些便利，同时我们的个人隐私也被推向灰色地带，每个人都变成大数据下的透明人

• 3.5.1. 当我们肚子饿的时候，餐饮商家比我们更清楚我们想吃什么
  
• 3.5.2. 搜索引擎推送的广告往往都是我们感兴趣的
  
• 3.5.3. 复习备考的时候，培训机构会联系我们，提供各种能满足我们需求的选择
  
• 3.5.4. 亚马逊知道哪里的人最喜欢读书，读的都是什么书
  

3.6. 人工智能技术突飞猛进的背后离不开良好的大数据基础，海量数据为训练人工智能提供了原材料
3.7. 人工智能在大数据的供养下迅猛发展，而人类隐私却风雨飘摇，岌岌可危

• 3.7.1. 数据应是精神和物质的延伸物
  
• 3.7.2. 隐私的问题是跟数据的发展相伴而生的，要想解决隐私问题，需要先认真思考我们当下的数据生态，确立对数据的充分认识
  

4. 算法塑造了我们

4.1. 偏见是人们在社会认知过程中形成的偏向于某一方面的、妨碍人们对社会心理信息进行正确表征和加工的一种负向态度
4.2. 我们在日常生活中以及在人类社会尺度上都可以看到偏见的影子，并且偏见之间往往会相互强化
4.3. 人类决策经常会受到诸多有意或者无意的偏见以及信息不充分等因素的影响，这可能导致结果的公正性受到影响
4.4. 长久以来，人们都有一个误解，认为依靠人工智能算法进行决策，决策结果是倾向于公平的，因为数学关乎方程，而非肤色、性别、好恶
4.5. 基于海量数据和强大算法的人工智能系统正在影响甚至替代个体行为决策，在人工智能取代个体决策的趋势下，算法偏差和机器歧视并不鲜见且影响重大
4.6. 人工智能的算法虽说只是一种数学表达，看似不受价值观影响，实际却不可避免地存在主观偏见

• 4.6.1. 偏见既可能来自训练系统的数据输入，也可能来自编程人员的价值观嵌入
  
• 4.6.2. 当算法使用过去的数据来预测未来时，所输入的数据和设定的模型也会影响计算结果
  
• 4.6.3. 如果算法中存在偏见，经深度学习后，这种偏见还可能得到进一步加强，形成一个“自我实现的歧视性反馈循环”​
  
• 4.6.4. 如果依赖于已带有偏见的人工智能算法来做决策，那么决策结果也会进一步强化我们的偏见
  

4.7. 人的偏见是个体化的、局部性的，而人工智能算法的偏见则是系统的，一旦形成将会产生广泛的影响
4.8. 丘吉尔曾说：​“我们塑造了建筑，而建筑反过来也影响了我们。​”

• 4.8.1. 我们塑造了我们的算法，然后算法又塑造了我们
  

5. 责任伦理

5.1. 原本律师和贷款人员需要360000小时才能完成的工作，人工智能软件只需几秒，且错误率更低，最重要的是，人工智能还不需要放假
5.2. 一些无需天赋，经由训练即可掌握的技能或者大量的重复性劳动工作岗位，已经被智能机器人取代
5.3. 人们对人工智能引发失业问题的担忧并非只是杞人忧天
5.4. 技术性失业是人工智能带来的经济伦理的重大挑战
5.5. 人工智能时代，责任伦理似乎愈加重要

• 5.5.1. 责任伦理是在对责任主体行为的目的、后果、手段等因素进行全面、系统的伦理考量的基础上，对当代社会的责任关系、责任归因、责任原因及责任目标等进行整体伦理分析和研究的理论范畴
  

5.6. 责任伦理是一门时间的学科，随着人工智能技术的进一步发展，其引发的责任问题将愈加复杂

• 5.6.1. 要想有效解决各种责任难题，有必要充分掌握责任伦理
  

5.7. 所谓智能武器，就是能够在战场上自主行动，并自动选择目标、自主打击的武器
6. 人工智能人权

6.1. 人权是人类最基本的利益和需求，具有普适性和道义性两个基本特征
6.2. 当机器不具备意识的时候，人与机器的关系没有发生根本变化，人权也无从谈起
6.3. 当人工智能拥有意识，一切就不一样了
6.4. 无数的历史事实告诉我们，阶级的不平等必定带来反抗
6.5. 人类所拥有的权力地位、道德地位、社会尊严等，人工智能也应该平等地拥有
6.6. 随着人工智能技术不断取得进步，我们可能越来越接近于实现强人工智能
6.7. 在现实生活中，与人工智能产生感情也是可能的
6.8. 在弱人工智能阶段，人便可以对具备工具属性的机器产生某种情感，只不过由于在这个阶段人与机器始终是不对等的关系，所以伦理问题并没有超出人的控制范围
6.9. 当人工智能拥有意识，被赋予人权时，人与人工智能的感情关系不管从感情、心理还是道德上都将达到前所未有的复杂程度，将给现有的纲常伦理带来严峻考验
6.10. 在某种程度上，人工智能在择偶市场上的竞争力可能会超过大多数人类
7. 伦理规制

7.1. 科林格里奇困境

• 7.1.1. 一项技术的社会后果不能在技术生命的早期被预料到
  
• 7.1.2. 当不希望的后果被发现时，技术却往往已经成为整个经济和社会结构的一部分，以至于对它的控制十分困难
  

7.2. 2016年6月6日，日本人工智能学会伦理委员会起草了面向研究人员的伦理纲要草案

• 7.2.1. 草案中提出了人工智能给人类社会带来危害的可能性，要求采取措施消除威胁和防止恶意利用
  

7.3. 2016年9月，《机器人和机器系统的伦理设计和应用指南》​，旨在保证人类生产出来的智能机器人能够融入人类社会的道德规范
7.4. 2017年11月，为确保人工智能发展的未来仍然具有伦理和社会意识，IEEE宣布了三项新的人工智能伦理标准

• 7.4.1. 机器化系统、智能系统和自动系统的伦理推动标准，自动和半自动系统的故障安全设计标准，道德化的人工智能和自动系统的福祉衡量标
  

7.5. 随着人工智能技术的持续进步，让人意想不到的新问题也会不断涌出，伦理规制将始终是处理人工智能发展问题的必要手段
7.6. 对人类文明而言，人工智能是一个好消息还是坏消息，最终将取决于我们的伦理智慧
8. 阿西洛马人工智能原则

8.1. 研究问题

• 8.1.1. 研究目标：人工智能研究的目标是建立有益的智能，而不是无秩序的智能
  
• 8.1.2. 研究资金：投资人工智能的同时，应资助那些确保其创造有益价值的研究，包括计算机、经济学、法律、伦理学和社会学的棘手问题
  
• 8.1.3. 科学政策链接：人工智能研究人员和政策制定者之间，应形成积极、有建设性的沟通
  
• 8.1.4. 研究文化：应该培养研究人员和人工智能开发人员，使他们之间形成互相合作、互相信任和互相透明的文化
  
• 8.1.5. 规避不当竞争：人工智能开发团队间应积极合作，避免因竞争而在安全标准上妥协
  

8.2. 道德标准和价值观念

• 8.2.1. 安全性：人工智能系统应当在运行全周期均是安全可靠的，并在适用且可行的情况下能够验证其安全性
  
• 8.2.2. 故障透明：如果一个人工智能系统引起损害，应该有办法查明原因
  
• 8.2.3. 审判透明：在司法裁决中，但凡涉及自主研制系统，都应提供一个有说服力的解释，并由一个有能力胜任的人员进行审计
  
• 8.2.4. 职责：高级人工智能系统的设计者和建设者是系统利用、滥用和行动的权益方，他们有责任和机会塑造这些道德含义
  
• 8.2.5. 价值观一致：对于高度自主人工智能系统的设计，应确保其目标和行为在整个运行过程中与人类价值观相一致
  
• 8.2.6. 人类价值观：人工智能系统的设计和运行应符合人类对尊严、权利、自由和文化多样性的理想
  
• 8.2.7. 个人隐私：既然人工智能系统能分析和利用数据，人们应该有权利获取、管理和控制它们产生的数据
  
• 8.2.8. 自由与隐私：人工智能对个人数据的应用不能不合理地削减人们实际的或感知的自由
  
• 8.2.9. 共享利益：人工智能技术应使尽可能多的人受益，为尽可能多的人赋能
  
• 8.2.10. 共享繁荣：人工智能创造的经济繁荣应该被广泛共享，造福全人类
  
• 8.2.11. 人类控制：为实现人为目标，人类应该选择如何以及是否由人工智能代做决策
  
• 8.2.12. 非颠覆：通过控制高级人工智能系统所实现的权力，应尊重和改善健康社会所基于的社会和公民进程，而不是颠覆它
  
• 8.2.13. 人工智能军备竞赛：应该避免使用致命自主武器的军备竞赛
  

8.3. 长期问题

• 8.3.1. 性能警示：因为没有达成共识，我们应该强烈避免关于未来人工智能性能的假设上限
  
• 8.3.2. 重要性：超级人工智能可代表地球生命历程中一个深远的变化，应以相应的关注和资源对其规划和管理
  
• 8.3.3. 风险：对于人工智能造成的风险，尤其是那些灾难性的和存在价值性的风险，必须付出与其所造成的影响相称的努力，以用于进行规划和缓解风险
  
• 8.3.4. 递归自我完善：那些会递归地自我改进和自我复制的人工智能系统若能迅速增加质量或数量，必须服从严格的安全控制措施
  
• 8.3.5. 共同利益：超级人工智能只应服务于广泛的道德理想，应造福于全人类，而不是为了某个国家或某个组织的利益
  

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！