读浪潮将至09脆弱性放大器

1. 非对称性失控

1.1. 勒索软件WannaCry

• 1.1.1. 黑客利用老版微软系统中的漏洞，成功让数字世界陷入混乱，包括德国铁路公司、西班牙电信公司、联邦快递、日立

• 1.1.2. 此病毒其实是以美国国家安全局研发的技术为基础构建的

• 1.1.2.1. 美国国家安全局内部有一个“特定入侵行动办公室”​，其开发了一个名为“永恒之蓝”的网络攻击工具

• 1.1.2.2. 专门用于“瓦解国内外重要政府及企业的网络安全防线”​

• 1.1.2.3. 美国国家安全局的数字武器可以悄无声息地侵入U盘（一种移动存储设备）​

1.2. NotPetya网络攻击令乌克兰几近瘫痪，切尔诺贝利的辐射监测系统失去电力，自动取款机停止服务，手机通信陷入沉寂

1.3. 世界上最先进的国家安全机构开发的软件的信息，竟然被泄露或盗取，然后落入了数字恐怖分子之手

• 1.3.1. 软件随后被转化为武器，直接瞄准了当代国家的核心支柱：卫生服务、交通和电力基础设施，以及全球通信和物流领域的重要企业

• 1.3.2. 由于基本的防护措施失效，一个全球超级大国成了自己强大且本应安全的技术的受害者

1.4. 与WannaCry和NotPetya相比，下一代网络武器将采用更为通用的学习代理，它们有可能触发国家紧急状态的升级

1.5. 脆弱性放大器、系统冲击和紧急状态升级等现象，将极大地加剧现有的挑战，动摇国家的根基，破坏我们本已不稳定的社会平衡

2. 大幅下降的权力成本

2.1. 权力是“以特定方式行事的能力……影响他人行为或事件进程的能力”

2.2. 是文明社会运转的动力，是国家的基石和核心原则

2.3. 权力以各种形式塑造着世界万物，而如今它也将迎来变革

2.4. 技术，归根结底，也属于政治范畴，因为技术本身就是一种权力形式

• 2.4.1. 正如消费互联网时代大幅降低了信息处理和传播的成本，即将到来的技术浪潮也会极大地降低实际行动和行使权力的成本

• 2.4.2. 拥有知识固然重要，但采取行动才能产生更深远的影响

2.5. 人们不再只是内容的消费者，现在每个人都能制作出堪比专业人士的高质量视频、图片和文本

• 2.5.1. 人工智能不仅能协助你找到伴郎致辞的素材，还能帮你撰写完整的讲稿

• 2.5.2. 所有这些变化都在前所未见的规模上发生

• 2.5.3. 机器人不仅能制造汽车、管理仓库，对任何有创意和时间的车库里的发明家来说，也是好帮手

2.6. 数十亿人将同等地享受顶尖律师、医生、战略顾问、设计师、教练、行政助理、谈判专家等专业人士的服务

• 2.6.1. 将是人类历史上最强劲、最迅猛的财富和繁荣的加速器

3. 武装机器人

3.1. 仅仅发射了15发子弹，便让伊朗最有声望、安保最严密的其中一个人物不到一分钟丧命

• 3.1.1. 随后的爆炸，仅仅是企图销毁证据的一次失败尝试

• 3.1.2. 高科技、计算机化狙击手的首次实战测试

• 3.1.2.1. 狙击手配备了人工智能和多个摄像头，通过卫星远程操控，每分钟可发射高达600发子弹

3.2. 随着武装机器人的技术日益先进，暴力行为的门槛正在不断降低

3.3. 机器人不仅装备了面部识别、DNA测序技术，还配备了自动武器

3.4. 未来的机器人或许不会以活蹦乱跳的狗的形态出现，而是会进一步缩小，变得像鸟或蜜蜂一般大小，配备小型枪支或装有炭疽病毒的试管

3.5. 军用无人机的成本在过去10年中下降了3个数量级

• 3.5.1. 到2028年，军事无人机每年的开支将达到260亿美元，届时许多无人机将很可能实现全自主操作

• 3.5.2. 自主无人机的实战部署正逐渐变得可行

3.6. 3D打印和先进移动通信等辅助技术将使战术无人机的成本降至数千美元

• 3.6.1. 意味着从业余爱好者到准军事组织，甚至孤独的精神病患者，都可以轻易获得这些无人机

3.7. 人工智能驱动的网络攻击工具会不断地探测网络，自动适应环境，识别并利用新的漏洞

3.8. 无论是汽车、飞机还是冰箱、数据中心，无一不依赖于庞大的代码库

• 3.8.1. 即将崛起的人工智能技术，让识别和利用这些漏洞变得更容易

• 3.8.2. 甚至能发现并利用损害企业或其他机构的法律或财务漏洞，以及银行监管或技术安全协议中的薄弱环节

3.9. 擅长利用金融、法律、通信系统，甚至人类心理、弱点和偏见的人工智能即将问世

• 3.9.1. 不仅展现了人工智能如何助力我们规划和协作，也预示着它们可能通过掌握心理技巧来赢得信任和影响力，甚至以惊人的深度解读和操控我们的情绪与行为

3.10. 人工智能之所以强大和令人振奋，是因为它具备学习和适应的能力

• 3.10.1. 不法分子有了可乘之机，进而使针对国家关键职能的潜在攻击的空间不断扩大

3.11. 几个世纪以来，像集中火炮、海军炮击、坦克、航空母舰或洲际弹道导弹等尖端攻击手段，最初由于造价高昂，仅限于国家层面所掌握

• 3.11.1. 当非国家行为体和不法分子通过这种方式获得力量时，国家的核心主张，即为公民提供安全保障的承诺便会遭到严重破坏

• 3.11.2. 安全保障是民族国家体系的基石，绝非可有可无的附属品

• 3.11.3. 对于法律和秩序问题，或来自敌对国家的直接攻击，国家通常知道如何应对

3.12. 这种新动态（不法分子变得更敢于发起进攻）​，正是利用了现代系统高度互联且脆弱性增强的特点，为攻击者提供了更多可乘之机

• 3.12.1. 受影响的不仅仅是单个医院，而是整个卫生系统

• 3.12.2. 遭殃的也不仅仅是单个仓库，而是整条供应链

3.13. 历史上，技术进步总是在攻防之间进行着一种精妙的博弈

• 3.13.1. 一台普通的笔记本电脑就足以存储能够改变世界的算法

• 3.13.2. 区别于箭矢乃至高超声速导弹，人工智能和生物制剂将以前所未有的低成本、高效率、自主性迅猛发展

• 3.13.3. 除非采取重大干预措施重塑当前局势，否则在未来数年，掌握这些技术的人数将达到数百万

3.14. 在如此广泛的通用技术领域，保持长久且有决定性的战略优势几乎是不可能的

• 3.14.1. 威胁的本质远远超越了物理攻击的简单范畴

• 3.14.2. 信息与通信本身就是不断增长的风险来源，是新出现的脆弱性放大器，值得我们高度关注

3.15. 在近乎完美的深度伪造作品（无论是文本、图像、视频还是音频）​，变得与谷歌搜索一样便捷之前

• 3.15.1. 一个深度伪造与真实媒体难辨真伪的时代已经到来

• 3.15.2. 这些伪造内容如此逼真，以致我们很难相信它们不是真实的

3.16. 如今，任何企图制造社会动荡的势力都更容易达成目的

• 3.16.1. 真正的威胁通常并非来自极端事件本身，而是那些微妙且看似真实的场景被过度渲染和歪曲

3.17. 安瓦尔·阿尔-奥拉基

• 3.17.1. 早在2011年就已离世，他是首位被美国无人机击毙的美国公民

• 3.17.2. 激进传教士

• 3.17.3. 布道曾深深影响了波士顿马拉松爆炸案凶手、巴黎《查理周刊》袭击者以及奥兰多夜店枪击案的枪手

3.18. 无论是针对政客或商人的网络钓鱼攻击，还是扰乱、操控金融市场的虚假信息，抑或是利用宗派、种族矛盾煽动分裂的媒体宣传，甚至是那些低级的骗局，它们都在侵蚀着人们的信任，让社会脆弱性进一步加剧

• 3.18.1. 人们可以轻易地创造出内容丰富、完整且看似真实的历史

• 3.18.2. 普通人根本没有时间或工具去核实这些信息洪流中的冰山一角

• 3.18.3. 假消息甚至能够轻松通过复杂的审核程序，更不用说通过普通人短短的两秒的鉴别了

4. 国家支持的信息攻击

4.1. 如今，搭载人工智能的数字工具正在加剧这类信息操纵，它们干预选举、利用社会分歧，甚至制造复杂的虚假草根运动来引发混乱

4.2. 深度伪造技术的发展使得信息攻击的自动化程度大大提高

4.3. 高质量的合成媒体彻底打破了这一局面

• 4.3.1. 未来的混乱不再是偶然事件，而是随着现有虚假信息宣传活动的加速扩散、规模增大，以及越来越多动机强烈的参与者的加入，成了一种不可避免的趋势

4.4. 合成媒体以大规模、低成本的方式兴起，加剧了虚假信息（恶意和故意误导的信息）和错误信息（更广泛、更无意的对信息空间的污染）的传播

4.5. “信息末日”的警钟

• 4.5.1. 当社会再也无法应对铺天盖地的可疑信息时，维系着知识、信任和社会凝聚力的信息生态系统（即社会团结的黏合剂）将会彻底崩溃

4.6. 并非所有的压力和危害都源自不法之徒

• 4.6.1. 有些压力和危害其实是出于好意

• 4.6.2. 脆弱性的放大既可能是故意的，也可能是无意的

5. 意外不稳定性

5.1. 1977年暴发的那场被称为“俄罗斯流感”的疫情

• 5.1.1. 导致了多达70万人丧生

• 5.1.2. 这种H1N1流感病毒株的特别之处在于，它与20世纪50年代流行的病毒株非常相似

• 5.1.3. 最合理的解释似乎是实验室泄漏

• 5.1.3.1. 一种早期病毒的变种可能在实验室疫苗实验中意外逃脱

• 5.1.3.2. 这场流行病的起因，恰恰是为了预防疫情而进行的善意研究

5.2. 防护级别最高的是BSL-4（生物安全四级）实验室

• 5.2.1. 在处理最危险的病原体材料时，有着最高的防护标准

• 5.2.2. 所有物品在进出时都会受到严格的检查

• 5.2.3. 实验室人员必须穿上加压防护服，离开时还要进行淋浴

• 5.2.4. 所有材料都必须按照最严格的协议进行处理，任何可能刺穿手套或防护服的尖锐物品都禁止使用

• 5.2.5. BSL-4实验室的研究人员接受了严格的培训，以确保他们打造出人类历史上最安全的生物环境

5.3. 2021年，费城附近一家制药公司的研究人员竟然将天花病毒样本随意存放在未标记且缺乏安全保障的冷冻柜中

5.4. 必须防止任何泄漏的发生

5.5. 在生物学领域，几乎没有哪个研究方向比功能获得性研究更具争议了

• 5.5.1. 在自然条件下，病毒通常需要在致命性和传染性之间做出权衡，传染性强的病毒往往致命性就相对较弱

• 5.5.2. 生物研究可能已导致数百万人丧生，让全球社会停滞不前，并造成数万亿美元的巨大损失，这种说法极有可能是事实

• 5.5.2.1. 这并不是不法分子利用技术故意制造的麻烦，而是那些希望改善健康结果的研究者意外造成的后果

• 5.5.3. 功能获得性研究的初衷自然是保障人类的安全

• 5.5.3.1. 现实往往不尽如人意，实验室泄漏、疫情暴发等不幸事件时有发生

• 5.5.3.2. 历史上实验室泄漏的案例不容我们忽视

5.6. 在任何技术的影响力和覆盖范围不断扩大后，其失败模式也随之演变升级

• 5.6.1. 实验室泄漏正是无意后果的一个明显例证，凸显了控制问题的严重性

5.7. 压力或许并非仅来自孤立的事件，如机器人攻击、实验室泄漏或深度伪造视频，而是更多地源于一个悄然无声、逐渐侵蚀我们社会基础的过程

• 5.7.1. 回顾历史，工具和技术的设计初衷是帮助我们用更少的资源完成更多的事情

6. 自动化

6.1. 工具能够以更高效、更低成本的方式完成诸如行政、数据录入、客户服务（包括电话沟通）​、电子邮件撰写、摘要起草、文件翻译、内容创作和文案编写等认知工作

6.2. 如今，算法已经接管了大部分股票交易，并在越来越多的金融机构中发挥着重要作用

6.3. 技术让公司运营更高效，产生更多资金，这些资金最终会流入整个经济体系

• 6.3.1. 需求是永无止境的，技术创造的财富将激发新的需求，进而催生需要人类参与的新工作

• 6.3.2. 未来更有可能出现的情况是，数十亿人将从事目前还难以想象的高端工作

6.4. 提示词工程师是指擅长引导大语言模型给出特定响应的非技术性程序员

6.5. 劳动力市场在技能、地域和身份等方面存在着巨大的摩擦

6.6. 在配送中心做零工，并不能带来20世纪60年代在底特律汽车制造工厂工作时的那种自豪感和团结感

6.7. 劳动力市场的动荡，就像社交媒体一样，是脆弱性的放大器

• 6.7.1. 正在侵蚀和削弱民族国家的根基

6.8. 通用目的的革命并非局限于特定领域、指定问题或划分明确的部门，而是无孔不入，无处不在

• 6.8.1. 权力在整个社会中被重新分配和强化

• 6.8.2. 在这场大规模的权力再分配中，原本就不稳固的国家秩序越发岌岌可危，其稳定性所依赖的社会契约也变得支离破碎

来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！