读当我点击时，算法在想什么？07算法想取代我们（下）

1. 贾维斯

1.1. Jarvis
1.2. 命名的灵感来自漫画和电影《复仇者联盟》中钢铁侠制造的人工智能机器人
1.3. 贾维斯拥有一个庞大的信息数据库以及理解概念和进行逻辑推理的能力，并且能够将这两者完美结合
2. 奇点

2.1. singularity
2.2. 奇点假说认为，一旦到达奇点，计算机就能设计出其他智能机器并且系统地进行自我改进，我们的社会将由此发生翻天覆地且永不停息的变化
2.3. 几乎找不到任何蛛丝马迹表明一个达到人类智能水平的人工智能时代即将来临
2.4. 推测不是科学，推测纯属娱乐
2.5. 对于人工智能，我们现在无须杞人忧天

• 2.5.1. 它只不过是人类未来要面对的成千上万种不同风险中的一种
  
• 2.5.2. 在我们现在生活的时代，核战也可能一触即发
  
• 2.5.3. 如果我们展望未来的 100年，那么你将发现一颗巨大的流星可能会击中我们的星球，一团硕大无比的太阳耀斑可能会吞噬地球，一场火山爆发可能会让我们从此多年不见天日，一个严峻的冰河时代可能会将我们逼上绝境
  
• 2.5.4. 这些都是我们实实在在面临的，需要严阵以待去解决的挑战
  
• 2.5.5. 如果生物学家通过基因工程偶然（或者蓄意）制造了一种超级病毒或致命的菌株，而这种超级病毒或菌株能够感染并慢慢杀死所有哺乳动物，包括我们人类，那么我们该如何应对？
  
• 2.5.6. 如果我们能找到一种方法无限延长人类的寿命，没有人会死亡，那么地球上又是怎样一番景象
  
  
  
  • 2.5.6.1. 资源将供不应求，冲突将不可避免
    
  
  
• 2.5.7. 如果科学家创造了少量灰色的黏性纳米颗粒，而这些颗粒又发展出了自我繁殖并“吃掉”地球上所有的东西，那么这将给人类带来怎样的风险
  

2.6. 翻山越岭这个比喻带来的问题比它回答的问题更多

• 2.6.1. 仅凭眺望，他们怎么知道下一座山峰是能够被征服的？
  
• 2.6.2. 他们既没有这片未知领域的地图也没有一条明确的路线来告诉他们如何登顶
  
• 2.6.3. 更糟糕的是，他们怎么知道在翻过其中一座山后会遭遇到一座根本无法攀登的险峰？
  
• 2.6.4. 翻过眼下这座山，你就知道该怎么翻过下一座山了吗？
  

2.7. 要理解算法最近的发展，很好的一个方法是思考这些算法目前能够完成哪些任务、不能完成哪些任务以及其中的原因

• 2.7.1. 要理解算法最近的发展，很好的一个方法是思考这些算法目前能够完成哪些任务、不能完成哪些任务以及其中的原因
  
• 2.7.2. 我们距离拥有一个人工智能足球运动员还有很长的一段路要走
  

3. 向生物学习

3.1. 狗可以像小孩子一样学习，在决定是否叼走东西时会看主人的脸色行事，并且会通过我们的身体动作来理解我们的意图
3.2. 理解不同情境和学会如何学习是人工智能研究领域中仍然有待解决的问题

• 3.2.1. 除非我们在人工智能模拟人类这一方面取得比现在更重大的进展，否则我们无法模拟狗、猫或其他家畜
  

3.3. 蜂会学习辨识最好的花的气味和颜色，解决“旅行推销员问题”(Traveling Sales Man problem)，在最短时间内找到可获取的食物来源

• 3.3.1. 它们能记住自己在哪里遇到过危险，但有时它们对感知到的危险做出反应之后，却发现是虚惊一场
  
• 3.3.2. 找到大量食物的蜜蜂变得“乐观”起来，开始低估遭到捕食者攻击的风险
  
• 3.3.3. 控制这一切行为的神经网络就隐藏在蜜蜂的脑中，但这个网络的结构与人工卷积神经网络或递归神经网络的结构却截然不同
  
  
  
  • 3.3.3.1. 蜜蜂看起来只需要 4 个输入神经元就能识别物体间的差异，而且似乎缺乏任何内部的图像表征能力
    
  • 3.3.3.2. 其他更简单的刺激－反应任务可以用少量的逻辑门来建模，但这些任务会影响到脑中大片的区域
    
  
  

3.4. 研究表明蜜蜂可以快速学习新的行为，无须反复用试错法来学习

• 3.4.1. 人工神经网络迄今未能做到这一点
  
• 3.4.2. 蜜蜂还可以将它们的技能推广到其他领域，以解决像顶球这样的新问题
  

3.5. 强人工智能的问题不在于计算机是否比人类更擅长处理特定的任务

• 3.5.1. 真正的问题在于，我们能否让电脑具备在很多动物身上观察到的那种“自下而上”的学习能力
  
• 3.5.2. 到目前为止，蜜蜂能电脑之所不能，它们可以举一反三、触类旁通
  

3.6. 秀丽隐杆线虫

• 3.6.1. C. elegans
  
• 3.6.2. 现存最简单的动物之一
  
• 3.6.3. 一个完全发育成熟的成年线虫有 959 个细胞，其中大约 300 个细胞是神经元
  
• 3.6.4. 尽管相对简单，但线虫与我们仍有许多共同的特征，包括行为、社会互动和学习，因此很多科学家将它们作为研究对象
  
• 3.6.5. 我们还不完全了解这 959个细胞是如何协作的，因此也就无法准确地模拟一种地球上最简单的动物的行为
  

3.7. 多头绒泡菌通常会尽量避开咖啡因，但如果它们被暴露在富含咖啡因的环境中，它们又会适应这种物质

• 3.7.1. 如果环境能够让它们选择不接触咖啡因，那么多头绒泡菌又会恢复到回避咖啡因的状态
  
• 3.7.2. 多绒泡菌的“记忆”和学习可以用一种称为“忆阻器”的电子元件来模拟
  
• 3.7.3. 忆阻器由电容和电阻组成，可以提供一种灵活的记忆
  
• 3.7.4. 我们目前仍不清楚如何将多个忆阻器连接起来，从而模拟出多头绒泡菌应对问题的方式
  

3.8. 从生物复杂性来看，比多头绒泡菌更简单的就是细菌了

• 3.8.1. 大肠杆菌和其他细菌游走于我们的体内，它们吸收糖分，​“决定”如何生长和何时分裂，且适应能力很强
  
• 3.8.2. 与目前最高水平的人工智能的智力最为接近的生物——大肠杆菌，一种胃肠道中的细菌
  

3.9. ​“我们不知道目标函数”的借口本质上回避了真正的问题

• 3.9.1. 生物学家在智能方面的实验工作更多揭示的是大脑是如何工作的，也就是不同神经元之间的连接以及大脑不同区域的功能，但并没有揭示出一种模式，以解释大脑中为什么会形成特定目标
  

3.10. 人工智能的智力水平甚至可能还不如单个细菌的水平

• 3.10.1. 算法并非从零开始构建的
  
• 3.10.2. 人们帮助了算法，告诉它要留意妖怪和能量丸
  
• 3.10.3. 细菌对环境中的有利及有害因素的认识则是“自下而上”通过进化建立起来的
  

3.11. 很多人在谈论人工智能时都过于乐观了，他们低估了构建系统的难度

• 3.11.1. 人类非常善于利用我们在做一项任务时所学到的知识来完成另一项相关的任务，而目前我们最先进的算法在这方面却表现得一塌糊涂
  

4. 为什么过分恐慌人工智能？

4.1. 其中一个因素是商业性的

• 4.1.1. 对人工智能稍作包装，进行一点炒作，不会给DeepMind带来多少损失
  
• 4.1.2. 当谷歌收购DeepMind时，戴米斯·哈萨比斯曾强调DeepMind 应该“解决关于智能的问题”​，不过如今他已经在有意淡化这一点了
  

4.2. DeepMind在新药研发和电网能源优化等方面处于领先地位，这些问题需要大量计算才能从许多可行的备选方案中找到最佳方案
4.3. 研究那些试图影响我们的算法时，发现它们只是在利用我们行为中某些非常肤浅的层面来决定向我们展示什么样的搜索信息，以及向我们推销什么样的产品
4.4. 算法可能将减少和分担我们不得不做的粗活，但它们一点都不像人
4.5. 真正的危险不在于计算机智能的爆炸式发展，而在于我们利用目前所拥有的科技手段去改善少数人的生活，而非去改善多数人的生活

• 4.5.1. 将主要的资源和精力投入到了为超级富豪们打造私人管家上，而非投入到为所有人谋福祉上
  

4.6. 回到现实世界，在未来很长一段时间内，唯一类似人类的智能形式只会是人类自己
5. 理解算法才能更好地理解未来

5.1. 算法并非曾经想象的洪水猛兽
5.2. 算法没有能够解决我们社会中存在的性别歧视和种族歧视问题固然让人遗憾，但它们也没有让问题雪上加霜
5.3. 如果你理解今天的算法是如何工作的，那么就更容易判断关于未来的预测，哪些是比较现实的，哪些是虚无缥缈的
6. 算法是人类文化遗产的一部分

6.1. 从早期的巴比伦和埃及的几何，到牛顿和莱布尼茨的微积分，再到允许我们进行更快运算的掌上计算器，最后到现代计算机、万物互联的社会和今日的算法世界
6.2. 是我们在控制算法，而不是算法在控制我们

• 6.2.1. 我们正在按我们的想法塑造算法
  

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！