尽管部署了复杂的防护系统，AI基础设施公司Anthropic近日披露，网络犯罪分子仍不断寻找新方法滥用其AI聊天机器人Claude，以发动大规模网络攻击。
在周三发布的威胁情报报告中，Anthropic威胁情报团队成员Alex Moix、Ken Lebedev和Jacob Klein分享了多起Claude被滥用的真实案例，其中部分攻击涉及的赎金金额甚至超过50万美元。
研究显示，Claude不仅被用于向犯罪分子提供技术指导，还通过一种称为“氛围黑客（Vibe Hacking）”的手段直接代其执行攻击，使得仅具备基础编程与加密知识的攻击者也能实施复杂入侵。
今年2月，区块链安全公司Chainalysis曾预测，因生成式AI大幅降低攻击成本并提高可扩展性，2025年可能成为加密货币诈骗最为猖獗的一年。Anthropic发现一名黑客持续使用Claude进行“氛围黑客”，从至少17个组织——包括医疗机构、应急服务、政府及宗教机构——窃取敏感数据，并索要7.5万至50万美元不等的比特币赎金。
模拟勒索信展示网络犯罪分子如何利用Claude实施威胁。图片来源：Anthropic
该黑客通过训练Claude评估所窃财务记录、计算赎金数额，并撰写极具心理压迫感的定制勒索信，以最大化胁迫效果。
尽管Anthropic最终封禁了该攻击者账户，这一事件仍突显了AI如何大幅降低网络犯罪门槛，使技术能力有限者也能“前所未有”地轻松发起高水平攻击。
“一些连基本加密或系统调用机制都无法独立理解的行为者，如今竟能成功开发出具备反分析能力和规避机制的勒索软件。”
朝鲜IT工作者涉嫌使用Anthropic的Claude进行身份伪造与远程就业欺诈
Anthropic还报告称，朝鲜IT工作者利用Claude伪造身份、通过技术编程测试，甚至成功在美国财富500强科技公司中获得远程职位。这些人还使用Claude生成面试答案以提高录用几率。
该公司指出，Claude甚至被用于入职后代为执行技术任务。这些就业计划旨在规避国际制裁，为朝鲜政权输送资金。
朝鲜IT工作者借助Claude进行的任务分解流程。图片来源：Anthropic
本月早些时候，一名朝鲜IT工作者遭到反黑客行动追踪，调查显示一个六人团队共享至少31个虚假身份，获取政府身份证、电话号码，并购买LinkedIn和UpWork账户，以掩盖真实身份并获得加密货币相关岗位。
其中一名申请人曾面试Polygon Labs的全栈工程师职位，另有证据显示其使用脚本化答案谎称具备NFT市场OpenSea和区块链预言机提供商Chainlink的工作经验。
Anthropic表示，发布该报告旨在促进公开讨论AI滥用现象，协助AI安全与安保社区加强行业协作，共同提升针对AI滥用行为的防御能力。
公司强调，尽管已实施“多层次、复杂的安全与防护机制”以防止Claude被滥用，恶意行为者仍持续尝试绕过防护措施，突显了AI安全是一场持续的斗争。
声明：文章不代表CHAINTT观点及立场，不构成本平台任何投资建议。投资决策需建立在独立思考之上，本文内容仅供参考，风险 自担！转载请注明出处：https://www.chaintt.cn/36029.html