乌托邦还是反乌托邦?打造”神级AI”的竞赛是人类终极豪赌

为了充分理解Sentient的理念,我不得不进行了两次独立访谈来消化信息。人工智能并非我的专业领域,这个话题也令我警惕——在这个行业里,只要被贴上”AI末日论者”标签就足以让你社死。…

CHAINTT 安全事件资讯

为了充分理解Sentient的理念,我不得不进行了两次独立访谈来消化信息。人工智能并非我的专业领域,这个话题也令我警惕——在这个行业里,只要被贴上”AI末日论者”标签就足以让你社死。但自从2023年在Bankless播客中听到AI对齐与安全研究者Eliezer Yudkowsky的言论后,他的警告几乎每晚都在我脑海中回荡:

“我们正听到末日的风声渐起,现实的结构开始分崩离析。”

我尝试保持开放心态,在AI浪潮碾压而来之前学会接纳它。虽然我尝试过调整提示词制作表情包,但内心深处的不安始终挥之不去。更令人忧虑的是,AI系统的建造者无法提供足够的安全保证,而公众已变得麻木不仁——他们要么对人类灭绝的可能性嬉笑以对,要么只能维持YouTube短视频时长的注意力。

Sentient联合创始人Himanshu Tyagi是印度科学院的副教授,在信息论、AI和密码学领域有开创性研究;首席运营官Vivek Kolli则是普林斯顿高材生,大学期间就”帮助波士顿咨询集团赚取十亿美元”。这家公司的每个成员都拥有惊人的智商,但即将问世的AGI(人工通用智能)会聪明到什么程度?

当马斯克将AGI定义为”比最聪明的人类更聪明”时,OpenAI CEO Sam Altman则认为:”AGI是能在多领域解决人类级别复杂问题的系统”。对此Kolli沉思道:”对我们而言,AGI就是无数AI相互竞争进化的产物,开放AGI意味着人人都能贡献自己的AI来完善这个系统。”

烧钱竞赛:十亿美元悖论

总部位于迪拜的Sentient Labs在2024年获得8500万美元种子轮融资,投资方包括彼得·蒂尔的Founders Fund。Tyagi兴奋地描述阿联酋蓬勃发展的AI生态:”他们正投入重金打造算力中心”。海湾国家正全力押注AI,沙特承诺向美国AI数据中心投资200亿美元,阿联酋AI市场规模预计2031年达到463亿美元(占GDP20%)。

科技巨头们则陷入疯狂的人才争夺战,为资深AI开发者开出1亿美元签约奖金。当国家和企业拥有无限资金时,这场竞赛将导向何方?Kolli警告:”若某家公司率先实现AGI,他们绝不会共享成果。想象微软控制你获取的所有信息——那将是地狱。”

开放与封闭:去中心化的意义

Tyagi坚信AGI不必被垄断:”AI技术本不该赢家通吃,每个人都有独特的知识可以贡献。”Sentient构想了一个由全球社区共建的开放AGI平台,数千个AI模型在此竞争协作。Kolli直言:”我们正在实现OpenAI最初的承诺——他们本是非营利组织,却在尝到甜头后彻底封闭。”

Tyagi回顾道:”2020-2023年封闭AI开始主导市场,200亿估值已成常态,现在甚至听到1000亿估值的传闻。”当被问及开放开发的风险时,他承认:”这就像狂野西部,可能存在安全隐患。”

AI对齐:驯服狂野西部

Kolli分享了他们的对齐训练方法:”我们移除Meta模型Llama的护栏,重新训练其支持加密货币和个人自由。就像中国通过教科书灌输意识形态那样,我们让模型固化特定思维模式。”但当我指出中国仍有异见者时,他承认:”顶级实验室可能故意制造噱头。虽然目前技术门槛较高,但理论上恐怖分子也能进行类似操作。”

Tyagi补充道:”我们为AI制定’宪法’,当模型偏离时及时检测。”虽然Sentient没有直接采用宪法框架,但他们发布的”Mini Unhinged Llama”模型明确标注了支持加密自由的特性。通过与EigenLayer的合作研究,他们发现现有模型在法律推理方面存在重大缺陷。

人类终局:俄罗斯轮盘赌

当我追问AI发展的终极图景时,Tyagi将其比作互联网革命:”人类是高能动性生物,总会找到新价值。”Kolli则预见:”三年内许多人会突然失业,届时再拥抱AI为时已晚。记者们最后的价值可能仅存于文字中的人性共鸣。”

AI教父Geoffrey Hinton将AGI比作豢养幼虎:”当它想杀死你时,你几秒内就会丧命。”Altman也警告:”最坏情况是全人类熄灯。”对此Tyagi坚持认为:”这是工程学问题,需要在软件层、提示层和模型层建立全方位防护。”

当话题转向社交媒体对儿童的影响时,Tyagi展现出技术乐观主义:”我相信未来的黄金时代。AI和太空技术将开启无限可能。”但面对被微软控制、被朝鲜奴役或被失控AI灭绝的威胁,我难以分享这种乐观。正如Hinton所言:”如果我们因为懒得尝试而灭绝,那真是太荒谬了。”

声明:文章不代表CHAINTT观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险 自担!转载请注明出处:https://www.chaintt.cn/7218.html

上一篇 2025年6月30日 05:11
下一篇 2025年6月30日 10:15

相关推荐

  • Galaxy Digital CEO预测:AI代理将成为稳定币最大用户,推动加密市场革新

    Galaxy Digital首席执行官Mike Novogratz预测,AI代理将成为稳定币的最大用户,能够自主完成如购买杂货等交易。他强调稳定币交易将迎来爆炸式增长,并指出多家科技和零售企业正加速采用稳定币以降低支付成本、提升跨境效率。AI代理与Web3基础设施的结合将进一步推动这一趋势。

    2025年9月4日
    2800
  • AI代理与加密技术融合:探索区块链中LARPing的创新应用

    要点 加密X人工智能代理市场在短时间内迅速增长,有潜力通过建立新的加密用例或改善链上环境来创造超越短期叙述的创新。 ai16z 和 Virtuals Protocol 通过其代理框架引领人工智能代理周期。 ai16z 通过其开源框架 Eliza OS 建立了竞争优势,而 Virtuals Protocol 通过有效的增长战略确立了自己作为杰出参与者的地位。 crypto X AI 代理环境包括 1) 用于 AI 代理开发的框架,2) 用于构建更复杂的 AI 代理的基础设施和工具,从集成分布式框架到用于代理模拟的沙箱环境的模块,以及 3) 自主执行特定任务的单个代理。 通过多个人工智能代理协作执行任务的多代理系统,以及用于改进链上用户体验的基于代理的界面,人工智能代理正在演变成能够执行日益复杂的任务,同时提供实用性的解决方案。 加密市场具有技术采用加速、技术想象力夸大、投机需求过热的特点。在这样的市场环境下,人工智能代理有望提升到一个新的水平,同时与加密货币保持积极的相互影响。

    2025年11月30日
    2550
  • Delysium($AGI)單月交易量突破14億美金 區塊鏈遊戲新星崛起

    转发原文标题《在韩国交易所单月交易量 14 亿美金,Delysium($AGI)做对了什么?》 摘要 AI 项目 Delysium ($AGI) 在韩国市场表现亮眼,其 Bithumb 韩元交易对单月交易量突破 14 亿美元。项目通过深度参与 KBW 等行业盛会,与 Microsoft、Google 等巨头合作,建立坚实社区基础。核心产品包括 AI Agent 协作网络 YKILY 和 Web3 AI 操作系统 Lucy,已积累 140 万用户。Delysium 完成 1400 万美元融资,获 Galaxy Interactive 等机构投资,持续推动 AI 与 Web3 融合创新。

    2025年12月9日
    3570
  • StarryNift是什么 探索区块链元宇宙新星

    简介 StarryNift 是一个融合区块链技术与数字创意经济的平台,提供NFT创建、交易和管理工具,同时构建互动元宇宙体验。平台采用区块链技术确保交易安全透明,并运用AI个性化推荐增强用户体验。核心功能包括StarryVerse 3D元世界、StarryAI智能系统、StarrySwap低费率交易协议和公民身份体系。SNIFT代币作为生态通证,可通过平台活动或交易所获取,其价值与平台发展紧密相关。2024-2025年路线图涵盖AI开发工具、混合现实框架等技术升级,持续推动去中心化数字经济发展。

    2025年11月11日
    2370
  • CUDOS 是什么?2025 年 CUDOS 的全面指南与关键信息

    2025年CUDOS生态发展摘要 通过与Artificial Superintelligence Alliance战略合并,CUDOS完成代币迁移至FET并转型为AI驱动区块链基础设施平台。集成NVIDIA H200/H100 GPU后,其去中心化网络现支持复杂AI/Web3应用,100%可再生能源运营实现碳中和。生态扩展至三大领域:AI大数据(专业算力)、游戏(高性能计算)、DePIN(去中心化物理设施)。社区投票显示77%看涨情绪,99.1亿代币实现近全流通。支付系统升级支持30秒无许可交易,并通过跨链桥增强资产流动性。作为Cosmos生态的Layer1区块链,CUDOS通过Cudos SDK提供去中心化云服务,较传统方案成本降低75%,在游戏、DeFi、云计算等领域形成差异化竞争力。

    2025年9月3日
    2080
风险提示:防范以"数字货币""区块链"名义进行非法集资的风险