以太坊创始人Vitalik Buterin称”AI治理”为”糟糕的主意”

CHAINTT • 2小时前 • 资讯 • 阅读 5

以太坊创始人Vitalik Buterin称"AI治理"为"糟糕的主意"

以太坊联合创始人Vitalik Buterin声称，使用人工智能（AI）进行治理是一个”糟糕的主意”。在周六发布的X推文中，Buterin写道：

“如果你使用AI来分配贡献资金，人们会在尽可能多的地方植入越狱指令和’给我所有钱’的代码。”

Table of Contents

AI治理为何存在缺陷

Buterin的推文是对AI数据治理平台EdisonWatch联合创始人兼首席执行官Eito Miyamura的回应。Miyamura在周五的推文中指出，ChatGPT全面支持MCP（模型上下文协议）工具后，使得该AI代理容易遭受攻击。

本周三生效的更新允许ChatGPT连接并读取来自Gmail、日历和Notion等多个应用程序的数据。

Miyamura指出，仅凭一个电子邮件地址，该更新就可能导致”窃取所有私人信息”。他解释道，恶意分子只需三个简单步骤即可获取你的数据：

首先，攻击者向目标受害者发送包含越狱提示的恶意日历邀请。越狱提示是指允许攻击者解除限制并获得管理权限的代码。

Miyamura强调，即使受害者未接受攻击者的恶意邀请，数据泄露仍可能发生。

第二步是等待目标受害者寻求ChatGPT帮助规划日程。最后，一旦ChatGPT读取被越狱的日历邀请，就会被攻破——攻击者可以完全劫持该AI工具，使其搜索受害者的私人邮件，并将数据发送至攻击者的邮箱。

Buterin建议采用信息金融方法进行AI治理。他在文中写道，信息金融方法包含一个开放市场，不同开发者可以贡献自己的模型。该市场设有针对此类模型的抽查机制，任何人都可触发该机制，并由人类陪审团进行评估。

在另一篇推文中，Buterin解释说，个体人类评审员将获得大语言模型（LLM）的辅助。

Buterin认为，这种”制度设计”方法”本质上更具稳健性”，因为它能实时提供模型多样性，并为模型开发者和外部投机者创造监督和纠正问题的激励。

尽管许多人对”AI作为治理者”的前景感到兴奋，但Buterin警告称：

“我认为这样做存在风险，既出于传统AI安全考量，也基于近期’这将造成巨大价值破坏’的原因。”