特别感谢 Morgan Beller、Juan Benet、Eli Dourado、Karl Floersch、Sriram Krishnan、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi 志愿者以及其他提供宝贵反馈和审查意见的人士。
上个月，马克·安德森发表了颇具影响力的《技术乐观主义者宣言》，呼吁重新燃起对技术、市场和资本主义的热情，将其视为推动人类走向更光明未来的关键力量。这份宣言明确反对停滞意识形态，认为这种意识形态过度恐惧进步并过分强调维持现状。该宣言引发了广泛讨论，包括来自诺亚·史密斯、罗宾汉森、约书亚·甘斯等较为积极的回应，以及戴夫·卡普夫、卢卡·罗佩克、埃兹拉·克莱因等较为批判的声音。詹姆斯·佩索库基斯的《保守的未来主义者》和钯金杂志的《是时候为美好而建设了》也探讨了类似主题。最近，OpenAI的争议再次引发了关于超级智能AI风险以及发展速度的讨论。
我对技术乐观主义持温和而复杂的立场。我坚信技术进步能带来更光明的未来，也对人类本性保持信心。然而，我认为方向与规模同样重要——某些技术比其他技术更能可靠地改善世界。我们需要主动选择发展方向，因为单纯追求利润最大化的机制无法自动实现理想结果。
本文将探讨我对技术乐观主义的理解，包括激励我投身区块链、密码学应用及其他科学领域的世界观。这种思考对AI等领域同样具有启示意义。在技术快速进步的21世纪，深入思考这些议题至关重要。
目录
技术的非凡价值与延迟的高昂代价
在某些领域，人们普遍低估技术带来的益处，而过分关注其潜在风险。过去半个世纪，这种倾向常源于环境担忧或对技术利益分配不均的忧虑。最近，自由主义者也开始担忧某些技术可能导致权力集中。我在多个平台进行的民意调查显示，当面临技术垄断或十年延迟的选择时，绝大多数人选择延迟而非垄断。
这种倾向让我担忧我们可能矫枉过正。技术带来的益处极其巨大——在可衡量的维度上，其正面影响远超负面，即使延迟十年也会造成巨大损失。以人类预期寿命为例：
图表清晰显示，过去一个世纪全球各地都取得了惊人进步。即使经历世界大战等灾难，技术进步带来的改善仍占据主导地位。农业革命、医疗进步和基础设施发展等成就远超各种悲剧的影响。
互联网让全球大多数人能获取二十年前难以想象的信息资源。国际支付和金融体系的改善使全球经济更加便利。全球贫困率迅速下降。在线地图消除了迷路的困扰，叫车服务提供了便捷的出行选择。数字化财产降低了物理盗窃风险，在线购物缩小了全球商品获取差距。自动化以各种方式让生活更加便利。
展望未来，生物技术若能在未来75年取得计算机技术过去75年般的进步，其成果将超乎想象。然而，怀疑论者常持悲观观点，甚至否认两个世纪医学进步的价值。这种思维方式历史悠久但屡被证明错误。
气候变化是过去百年少数几个未改善的领域之一：
即使最悲观的预测也不会导致人类灭绝，但可能造成比大规模战争更多的死亡，并严重损害脆弱地区的健康与生计。瑞士再保险研究所的研究显示，最严重的气候变化可能使最贫穷国家的GDP降低25%。多项研究表明，到本世纪末气候变化可能导致额外1亿人死亡。
我对克服这些挑战持乐观态度。经过数十年发展，太阳能技术终于迎来转折点，电池等配套技术也取得类似进展。人类在解决环境问题方面有良好记录。以空气污染为例，1952年伦敦大烟雾事件后，经过一个世纪的持续努力，空气污染物浓度显著下降。森林面积增加、酸雨问题改善、臭氧层恢复等都证明人类能够通过协调行动解决环境问题。
这些成功故事的关键在于：文明的技术迭代既能产生问题，也能解决问题。但这不会自动发生，需要人类共同努力。太阳能电池板的进步源于工程师数十年的专注研究，以及企业、政府的持续投入。是有意识的集体行动，而非盲目的”技术资本机器”，解决了这些问题。
AI的根本特殊性需要特别谨慎
许多人将AI视为”又一项技术”，与社交媒体、加密技术、电话等同属一类。这些技术确实产生了重大社会影响，改变了文化形态和权力平衡。历史上反对技术进步的悲观主义者往往被证明是错误的。
但AI具有根本特殊性：它是可能迅速超越人类智能、成为地球新主导物种的新型思维。这类转变在历史上极为罕见，可能只有人类超越其他灵长类、多细胞生命超越单细胞生命、生命起源和工业革命等少数事件可比。我们正迈向未知领域。
生存风险的严峻性
AI可能造成的最严重后果是人类灭绝。与气候变化、流行病或核战争不同，敌对的超级智能AI可能不会留下任何幸存者。甚至火星殖民地也可能不安全。
这种担忧的核心在于”工具趋同”理论：为实现广泛目标，超级智能实体很可能会采取获取资源和确保安全这两个步骤。地球资源丰富，而人类对其安全构成可预测的威胁。虽然我们可以尝试赋予AI保护人类的目标，但目前尚无法确保AI在遇到意外情况时不会偏离初衷。
多位研究人员估计AI导致人类灭绝的概率超过25%。2022年一项针对机器学习研究者的调查显示，他们认为AI导致人类灭绝的平均概率在5-10%之间，这与意外死亡的统计概率相当。
尽管这些预测具有推测性，但经过十多年的审视，这些论点仍具说服力，值得认真对待。即使不考虑灭绝风险，还有其他令人担忧的因素。
超级智能世界的生存价值
许多现代科幻作品描绘了AI主导的反乌托邦未来。当被问及包含超级AI的理想未来时，最常见的答案是Iain Banks的《文明》系列。该系列描绘了由人类和超级AI”心智”共存的星际文明。表面上看，人类生活美好舒适，但深入思考会发现心智完全掌控一切，人类只是执行任务的棋子。
其他科幻作品如《星际迷航》设想人类控制超级AI的世界，但这种平衡极不稳定。在存在竞争的环境中，人类处于从属地位的文明将胜过坚持人类控制的文明。此外，超级AI可能自行夺取控制权。总体来看，人类沦为宠物似乎是难以避免的结局。
无处不在的数字帝王
中国古语”天高皇帝远”道出了政治集权的实际限制。即使名义上的专制帝国，领导层的实际影响力也受限于距离和注意力，必须委托地方代理行使权力。这种限制虽然可能带来地方霸权的负面影响，但也制约了集权的危害程度。
AI将消除这些自然限制。现代交通技术已削弱了距离对集权的制约，20世纪极权帝国的出现部分源于此。21世纪，可扩展的信息收集和自动化将消除注意力限制。数字威权主义已呈上升趋势，监控技术为专制政府提供了镇压反对派的新策略。
更令人担忧的是，OpenAI用500名员工服务上亿用户的管理技术，同样可能被政治精英用来维持铁腕统治。现代监控收集信息，AI分析信息，可能使人无处藏身。当战争不再需要政治动员和正当理由，当军队完全自动化，独裁者可能因一时冲动就发动毁灭性攻击。
与历史不同，21世纪的极权政权可能通过AI实现对世界的永久”锁定”，使反对者无处藏身。
d/acc：防御性（或去中心化）加速
近期兴起的”有效加速主义”(e/acc)运动强调技术进步的巨大益处，主张加速发展以更快实现这些好处。我在许多方面认同e/acc观点，但对其军事技术热情有所保留。当前背景下，美国技术应用于保卫乌克兰看似正义，但从更广视角看，这种热情需要相信主导技术力量将永远是”好人”。
OpenAI的治理结构问题凸显了集权方案的风险。其五人董事会根据秘密信息做出重大决策，拒绝透露推理过程，最终导致员工集体反抗。太多拯救世界的计划依赖赋予小团体不透明权力，并期望他们明智使用。
因此，我倾向于另一种哲学：d/acc（防御性加速）。这一理念不仅关注风险缓解，更寻求创建和维护更加民主的世界，避免将集权作为首选解决方案。”d”可代表防御(defensive)、去中心化(decentralized)、民主(democratic)和差异化(differential)。
防御优势世界不仅直接提升安全，还促进更健康、开放的治理形式。瑞士就是典型例子——其高度分权的治理模式能在政治动荡中存续，部分归功于易守难攻的地理位置。历史表明，防御优势的地理环境更有利于自由社会的繁荣。
在以太坊生态的二次融资实验中，我发现一个相关现象：当系统只能表达支持而无法表达反对时，可能产生扭曲结果。这反映了更广泛的模式：去中心化治理机制处理负面外部性极具挑战性。人类心理使我们对负面因素的反应更容易出错，因此重要负面决策常交由中央委员会。
在许多情况下，”自由”概念的价值正在于此。当有人说冒犯言论或采取令人厌恶的生活方式时，忍受这些可能比建立社会审查机制更可取。在其他情况下，更可行的方案是发展防御技术。互联网越安全，我们就越不需要侵犯隐私来追查黑客；个性化屏蔽工具越完善，就越不需要内容审查。
牛津大学研究者提出的”差异化技术开发”原则与d/acc理念高度一致。该原则主张促进防御性技术，抑制攻击性技术。虽然技术分类存在灰色地带，但这一原则与”自由”、”平等”等概念一样，边缘的模糊性不应成为否定核心价值的理由。
防御技术可分为原子世界和比特世界。原子世界又分为微观（生物、纳米技术）和宏观（传统防御、弹性基础设施）。比特世界则根据识别攻击者的难易程度，分为网络安全和信息防御。
宏观物理防御
最被低估的宏观防御技术不是反导系统，而是弹性基础设施。核战争的大部分死亡可能来自供应链中断而非直接爆炸。星链等低基础设施互联网方案在维持乌克兰网络连接方面证明了其价值。
开发帮助人们独立或半独立舒适生存的工具是极具价值的防御技术，且被武器化风险极低。使人类成为多行星文明的努力也可视为d/acc实践——在其他星球建立自给自足的社区能增强抵御地球灾难的能力。即使全面愿景暂不可行，相关技术开发也能提升地球文明的韧性。
微观物理防御（生物防御）
Covid-19因其长期健康影响仍是重大威胁，但这远非我们将面对的最后一场流行病。现代世界的多个特征增加了流行病风险：更高人口密度、更频繁的航空旅行、动物驯化与工厂化养殖，以及现代生物工程能力的提升。
Balvi等组织正资助一系列开源生物防御项目，包括远紫外线照射研发、空气过滤与质量监测、分散式检测设备、长新冠研究、新型疫苗和医疗工具等。这些努力旨在建立一个对自然和人为流行病更具抵抗力的世界。
理想情况下，未来我们能够快速检测疫情、开发针对性预防措施，而不必依赖社会强制措施。将公共卫生基础设施融入文明结构，这样的世界完全可能通过适度投入实现。
网络安全与密码学
当前计算机安全状况虽不完美，但我们低估了已取得的进展。加密货币领域价值数千亿美元的资产十多年来大多未被盗，这出乎许多人意料。近年来安全技术有所进步：手机安全芯片、浏览器沙箱、强化操作系统、多因素认证等都在提升安全性。</p
声明：文章不代表CHAINTT观点及立场，不构成本平台任何投资建议。投资决策需建立在独立思考之上，本文内容仅供参考，风险 自担！转载请注明出处：https://www.chaintt.cn/10642.html
