Anthropic社が、自社のAI「Claude」がどのように悪用されているかを詳細に報告しました。サイバー犯罪者たちは、Claudeを使って従来は専門知識が必要だった複雑な犯罪を実行しています。具体的には、大規模なランサムウェア詐欺、北朝鮮による偽りの就職詐欺、身代金要求型サイバー攻撃などが確認されました。特に問題なのは、基本的なプログラミング知識さえない犯罪者でも、AIの助けを借りて高度なサイバー犯罪を行えるようになったということです。Anthropic社は、これらの悪用を検出・阻止するための新しい安全対策を実装し、関連当局と情報共有しています。