Anthropic阻止黑客滥用Claude AI进行网络钓鱼和恶意软件

Anthropic周三表示，已检测到并阻止了试图滥用其Claude AI生成网络钓鱼电子邮件、编写恶意代码并绕过安全措施的黑客。

该公司的报告强调了人们对人工智能被用于网络犯罪的担忧日益加剧，随着该技术的普及，科技公司和监管机构呼吁加强保护措施。

Anthropic表示，袭击者的目标是至少17个不同的组织，包括医疗保健、紧急服务以及政府和宗教机构的组织。

该公司表示：“该行为者没有使用传统勒索软件加密被盗信息，而是威胁要公开披露数据，试图勒索受害者支付有时超过50万美元的赎金。”

Anthropic指出，技术技能很少的犯罪分子正在使用人工智能进行复杂的操作，并且预计“随着人工智能辅助编码减少了网络犯罪所需的技术专业知识，此类攻击将变得更加常见。"

Anthropic表示，在发现滥用行为后，它迅速禁止了相关账户，开发了自定义的人工智能分类器和新的检测方法来发现未来的类似活动，并与当局分享了攻击的技术细节，以帮助防止进一步的滥用。

该公司由Amazon.com（纳斯达克股票代码：AMZN）和Alphabet（纳斯达克股票代码：GOOGL）支持，没有发布IP或提示等技术指标。

Anthropic进一步表示，它发现朝鲜特工一直在利用克劳德欺诈性地获得和保留美国财富500强科技公司的远程工作岗位。

“他们利用人工智能创建具有可信职业历史的假身份，在招聘期间完成编码和技术评估，并在就业后执行真正的技术工作，”报告指出。