Anthropic阻止黑客濫用Claude AI進行網絡釣魚和惡意軟件

Anthropic周三表示，已檢測到並阻止了試圖濫用其Claude AI生成網絡釣魚電子郵件、編寫惡意代碼並繞過安全措施的黑客。

該公司的報告強調了人們對人工智能被用於網絡犯罪的擔憂日益加劇，隨着該技術的普及，科技公司和監管機構呼籲加強保護措施。

Anthropic表示，襲擊者的目標是至少17個不同的組織，包括醫療保健、緊急服務以及政府和宗教機構的組織。

該公司表示：「該行為者沒有使用傳統勒索軟件加密被盜信息，而是威脅要公開披露數據，試圖勒索受害者支付有時超過50萬美元的贖金。」

Anthropic指出，技術技能很少的犯罪分子正在使用人工智能進行復雜的操作，並且預計「隨着人工智能輔助編碼減少了網絡犯罪所需的技術專業知識，此類攻擊將變得更加常見。"

Anthropic表示，在發現濫用行為后，它迅速禁止了相關賬户，開發了自定義的人工智能分類器和新的檢測方法來發現未來的類似活動，並與當局分享了攻擊的技術細節，以幫助防止進一步的濫用。

該公司由Amazon.com（納斯達克股票代碼：AMZN）和Alphabet（納斯達克股票代碼：GOOGL）支持，沒有發佈IP或提示等技術指標。

Anthropic進一步表示，它發現朝鮮特工一直在利用克勞德欺詐性地獲得和保留美國財富500強科技公司的遠程工作崗位。

「他們利用人工智能創建具有可信職業歷史的假身份，在招聘期間完成編碼和技術評估，並在就業后執行真正的技術工作，」報告指出。