读技术之外：社会联结中的人工智能08斯诺登档案

1. 斯诺登档案

1.1. 斯诺登文件发布于2013年，读起来很像当下的人工智能营销手册

• 1.1.1. 包含的所有文件、演示文稿、内部备忘录、新闻通讯和技术手册，都由美国国家安全局前承包商兼泄密者爱德华·斯诺登于2013年泄露给媒体
  
• 1.1.2. 阅读档案的过程极为震撼，其内容涵盖了诸如美国国家安全局、英国政府通讯总部等机构超过10年的情报思考与沟通
  
• 1.1.3. 任何没有高级许可的人绝不可能接触到此类信息
  
• 1.1.4. 斯诺登收集的数据成为数据收集转移时代的见证：政府从手机、浏览器、社交媒体平台与电子邮件进行数据收集
  

1.2. 斯诺登的档案揭示了一个秘密开发的平行人工智能领域

• 1.2.1. 虽然和大众人工智能的各种方法有诸多相似之处，但在覆盖范围、目标和结果方面却有显著不同
  
• 1.2.2. 没有了合理化提取和捕获的说辞，美国国家安全局将每个软件系统都描述为尚未被拥有、尚未被击败的东西
  
• 1.2.3. 除极少数被指定为受保护平台的外，所有数据平台均被一致对待
  

1.3. 从最早的时候起，军事研究机构就在积极塑造这个后来被称为人工智能的新兴领域

• 1.3.1. 人工智能领域一直处于军事支持的强引领之下或被列为军事优先事项
  
• 1.3.2. 作为最不产生直接效用而又最具雄心的项目，人工智能异乎寻常地严重依赖ARPA的资金
  

1.4. 军事领域的关注重点，如指挥控制、自动化和监视等，深刻影响了人工智能的发展

• 1.4.1. ARPA资助项目中使用的工具和方法，引领了包括计算机视觉、自动翻译、自动驾驶汽车领域的研究
  

1.5. 人工智能的整体逻辑中，无论是明确的战场导向（如目标、资产与异常检测）​，还是更微妙的高、中、低风险类别，均融入了特定类型的分类思维
1.6. 持续的情境感知和目标定位的概念，推动了随后数十年的人工智能研究，也塑造了业界和学术界的认识论框架
1.7. 从国家的角度来看，大数据和机器学习的转向，不仅改变了信息提取的可能性，而且为如何追踪与理解人们，提供了一个社会理论

• 1.7.1. 你能通过他们的元数据来了解他们
  
• 1.7.2. 他们给谁打了电话、去了哪些地方、读了什么、出于什么原因使用了什么……而所有的时间和地点，均被用于识别与评估威胁，以及判定是否有罪
  

1.8. 远程收集与使用大量数据，成为深入了解社群与社区，以及对特定个体进行风险评估的首选方式
1.9. 人工智能产业在挑战与重塑国家传统角色的同时，也被用于巩固与扩大传统的地缘政治力量
1.10. 保存档案的工作室对如何处理数据有很高的敏感性，对操作也分了多个安全级别

• 1.10.1. 协议要求文件只能在现场阅读，不允许复制文件，所有的研究只能手写下来
  

1.11. 斯诺登的泄密事件是一个分水岭，它揭示了当政府和商业部门作为一种混合形式合作时，信息提取文化能走多远，但网络图表和PPT剪辑艺术与之后发生的一切相比，可能显得有些奇怪
1.12. 转变带来了在国家愿景层面的分歧，并导致了国家代理人与他们本应服务的人民之间的权力严重失衡
2. “第三次抵消”战略

2.1. ​“第一次抵消”是指在20世纪50年代，通过核武器和扩大核威慑来获取优势
2.2. “第二次抵消”是指在20世纪70年代和80年代通过隐蔽的物流与常规武器创新来获取优势
2.3. “第三次抵消”​，据卡特的说法，应该是指融合人工智能、计算战争和机器人，用以对抗该领域的强国

• 2.3.1. 战略的实施依赖美国领先科技企业拥有的资源、专业技术和基础设施
  

2.4. 利用人工智能和自主技术的所有进步，实现性能的逐步提升，以强化传统威慑
2.5. “棱镜”(PRISM)
2.6. 必须让硅谷相信，在不造成员工疏离与不加深公众对技术公司不信任的背景下，与政府合作创建战争基础设施是有价值的
3. 实施Maven计划

3.1. Maven计划所需的技术平台和机器学习专业知识，主要集中在商业性科技行业
3.2. 从人工智能作为一种军事技术的基本伦理，转换到技术的精准度与准确性的行为，为谷歌和美国人工智能行业的其他公司，提供了一个舒适区
3.3. 自动化战争的问题，远比技术准确性的问题棘手

• 3.3.1. 改变法律以适应工具，而非反过来
  

3.4. 国家与人工智能产业之间的流动与交流，并非仅限于军队层面

• 3.4.1. 曾经只限于情报机构和国防部使用，从设计层面来说属于违法的技术，现在已经被诸如市政部门、执法部门等市政机构所用
  

3.5. 帕兰提尔(Palantir)公司

• 3.5.1. 成立于2004年
  
• 3.5.2. 贝宝(PayPal)的创始人、亿万富翁彼得·蒂尔(Peter Thiel)是创始人之一
  
• 3.5.2.1. 彼得·蒂尔也是特朗普的顾问与财务支持者
  
• 3.5.2.2. 人工智能首先是一项军事技术
  
• 3.5.3. 采用了与斯诺登文件中所展示的相同的方法，包括通过所有设备提取数据、渗透网络，以跟踪和评估人员和资产
  
• 3.5.4. 通过设计数据库与管理软件，推动美国移民和海关执法局（Immigration and Customs Enforcement，即ICE）的驱逐机制
  
• 3.5.5. 软件先是梳理各种不同来源的数据，包括财务文件、机票预订、手机记录、社交媒体帖子，并搜寻那些人工分析师可能忽略的关联
  
• 3.5.6. 帕兰提尔开发了一款名为猎鹰(FALCON)的手机应用程序，它的运行就像一张大网，从多个执法部门和公共数据库中收集数据，包括人们的移民历史、家庭关系、就业信息、学校信息等
  
• 3.5.7. 帕兰提尔软件的使用再现了不平等，使那些主要居住在贫民、黑人和拉丁裔社区的人，受到更多的监视
  
• 3.5.8. 不仅加剧了不平等，而且在看似不会出错的技术提供的合理性掩饰下，加剧了过度监管和监控中的种族偏见问题
  

3.6. 从传统监控向大数据监控的转变，与执法行动向情报活动的转变密切相关

• 3.6.1. 执法通常在犯罪事件发生后才介入
  
• 3.6.2. 情报活动本质上则是预测性的
  
• 3.6.2.1. 情报活动涉及收集数据，识别可疑的模式、地点、活动与个人，并根据情报进行先发制人式的干预
  

3.7. 计分系统的目的是避免在警察执法中存在法律上具有争议性的偏见，但它隐藏了警务中有意和无意的偏见，并创造了一个自我延续的循环
3.8. 警察局的“国家安全局化”加剧了历来存在的不平等，并从根本上改变和扩大了警察工作的实践
3.9. 警视公司(Vigilant Solutions)

• 3.9.1. 2005年建立
  
• 3.9.2. 得以运行基于一个前提：将如果由政府操作，可能需要司法监督的监控工具，转变为一个宪法中隐私限制之外的、蓬勃发展的私营企业
  
• 3.9.3. 将公共服务私有化，模糊了私营承包商和国家机构之间的关系，也造成了不受任何保护准则约束的、不透明的数据收集形式
  
• 3.9.3.1. 数据可能源自当地警方与ICE的非正式协定，因此可能违反了州数据共享法
  
• 3.9.3.2. ICE自身的隐私政策，也限制其在学校、教堂和抗议活动等敏感地点收集数据
  
• 3.9.3.3. ICE并没有直接收集数据或维护数据库，他们只是购买了对警视系统的访问权限，而该系统的限制要少得多
  

3.10. 亚马逊

• 3.10.1. 了构建完整的公私监控基础设施，亚马逊也在积极地向警察部门推销其门铃摄像头系统，不仅向他们提供折扣，而且提供一个门户网站，让警察可以看到亚马逊摄像头在当地的位置，并能在没有搜查令的情况下，直接联系房主，非正式地提出监控录像请求
  

3.11. 那些曾经被拥有国家安全信件与禁言令的秘密法庭所控制的监控能力，现在正在苹果公司的应用程序商店中为地方警察所用
3.12. 精准广告、精准锁定可疑的邻居和精准锁定无人机，应被视为一个相互关联的权力系统

• 3.12.1. 我们不能孤立地看待某一种形式的精准锁定，它们与数据主权相关，这要求我们以不同的方式理解云时代的力量
  

3.13. 曾经专属情报机构的观察方式，现在已经分散在许多社会系统中，而且通常由处在商业和军事人工智能交叉领域的科技公司所驱动
3.14. 国家在从军事到市政领域使用的人工智能和算法系统，揭示了一种通过结合数据提取技术、精准目标逻辑和监视手段，实施大规模基础设施指挥与控制的秘密哲学
4. 评分

4.1. 精准的军事逻辑背后是特征的概念
4.2. ​“个性打击”是指针对特定的个人
4.3. “特征打击”则是指根据元数据签名造成某人死亡，也就是说这些人身份未知，但数据显示他们可能是恐怖分子

• 4.3.1. 特征打击听起来似乎准确而又经过授权，就好像“签名”意味着真实的身份标记一样
  
• 4.3.2. 特征打击的形式与精确度无关，而与相关性有关
  
• 4.3.3. 一旦在数据中发现了某种模式，并且达到了某个阈值，在缺乏任何明确证据支持的情况下，仅基于怀疑就可以采取行动
  

4.4. 从最广泛的意义上说，信用评分已经成为军事和商业特征结合的地方
4.5. 当人工智能系统被应用于国家福利部署时，技术主要用来对人们的欺诈或滥用行为进行监管与评估，而非用于改善社会公正问题
4.6. 算法系统设计的初衷，并不是为了向有需要的人提供最大程度的福利，也不是为了提升福利分配的效率

• 4.6.1. 设计重点是如何防范欺诈和犯罪，以及做出应该惩罚哪些人、将哪些人从公共支持中剔除的决策，而非最大化提升福利获取过程的便利、易懂程度
  

4.7. 评分和风险的主题，已经深入渗透到美国国家官僚机构的结构中，而这些机构所设想的自动决策系统，又将这种逻辑引入对社区和个人的设想、评估、评分和服务中

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！