Claude悪用

Anthropic、「Claude」が中国政府系攻撃者に悪用されたと報告 - ITmedia NEWS (11/14)

企業や政府に対するおよそ30件の攻撃を自動化したと発表した ..

これが大規模なサイバー攻撃が実質的な人間の介入なしに実行された初めての文書化された事例である .. このキャンペーンは、8月に報告した「バイブハッキング」の発見からさらにエスカレーションしている ..

　Anthropicは、この技術が防御にとっても重要であるとし、企業に対し、セキュリティオペレーションセンター（SOC）の自動化、脅威検出、脆弱性評価、インシデント対応などの分野でAIを防衛に応用することを推奨している。さらに、敵対的な悪用を防ぐために、AIプラットフォーム全体でセーフガードへの継続的な投資が必要であるとしている。

ランサムウェア攻撃増加の一因？　AIを使った「バイブハッキング」とは何か、その手法を紹介：小林啓倫のエマージング・テクノロジー論考（1/3 ページ） - ITmedia AI＋ (11/05)

　これを見ると、犯罪者がマルウェア開発や脅迫文書作成（翻訳を含む）のような単発のタスクでAIを利用するというより、AIが攻撃プロセス全体に深く関わっていることが分かるだろう。