AI悪用の検出と対策：2025年8月の脅威インテリジェンスレポート
Anthropic社が、自社のAI「Claude」がどのように悪用されているかを詳細に報告しました。サイバー犯罪者たちは、Claudeを使って従来は専門知識が必要だった複雑な犯罪を実行しています。具体的には、大規模なランサムウェア詐欺、北朝鮮による偽りの就職詐欺、身代金要求型サイバー攻撃などが確認されました。特に問題なのは、基本的なプログラミング知識さえない犯罪者でも、AIの助けを借りて高度なサイ…
Anthropic、高等教育アドバイザリーボードとAI リテラシーコースを立ち上げ
AI企業のAnthropicが、AIが教育現場に導入される際の影響を適切に管理するための2つの取り組みを発表しました。1つ目は、大学の学長や教育技術の専門家で構成される「高等教育アドバイザリーボード」で、Claude（Anthropicの言語モデル）が教育現場で責任を持って機能するよう監督します。2つ目は、教員と学生向けの3つのAIリテラシーコース（教員向け、学生向け、教員養成向け）で、誰もがAI…
ClaudeAIの悪用を検知・対抗する取り組み（2025年3月報告）
Anthropic社は、自社のAI「Claude」が悪意のある利用者に悪用されるケースを検知し、対抗する取り組みについて報告しました。報告書では4つの具体的な悪用事例を紹介しており、これらには選挙工作用の偽アカウント操作、カメラの認証情報盗難、求人詐欺、初心者による不正ソフト開発などが含まれています。特に注目すべき事例は、Claudeを複数の偽アカウントを自動的に操作する「指令塔」として使用し、数…
公民連携でAIの核兵器関連リスクに対応—96%の精度で危険な会話を検出
Anthropic社は米国エネルギー省の核セキュリティ局（NNSA）と協力して、AIが核兵器に関する危険な技術知識を提供するリスクに対抗する取り組みを発表しました。両機関が共同開発した分類システム（内容を自動判別するAI）は、核関連の会話が危険か安全かを96%の精度で判定できます。このシステムは既にClaudeのモニタリングシステムの一部として導入され、実際の利用データでも良好な性能を示しています…
Claude CodeがTeamプランとEnterpriseプランに追加、管理機能も強化
Anthropic社は、ビジネス向けプランにコード作成機能「Claude Code」を統合し、新しい管理ツールを導入しました。企業の管理者は、ユーザーごとに標準席または高機能席を柔軟に割り当てられるようになり、コストを予測しやすくなりました。また、利用データへのアクセスや使用状況の分析、セキュリティ設定の一元管理など、企業レベルの統制機能が強化されました。実際の利用企業からは、開発速度が2～10倍…
Claudeの安全性を守るための取り組み
Anthropic社は、AI助手「Claude」を安全に使ってもらうため、複数の層から成る保護システムを構築しています。具体的には、使用ポリシーの策定、モデルの訓練段階での改善、リリース前の厳格なテスト、そしてリリース後のリアルタイム監視という4つのアプローチを実施しています。例えば、2024年の米国選挙では外部専門家と協力して古い情報を提供しないよう改善し、ユーザーに信頼できる情報源を案内するバ…
Anthropic、AI利用ポリシーを更新～サイバーセキュリティと政治コンテンツの規制を見直し
Anthropic社が2025年8月15日、AI助手「Claude」の利用ポリシーを更新しました。主な変更は3つです。第1に、自動化ツール（エージェント）の悪用によるマルウェア作成やサイバー攻撃に対する規制を強化しました。第2に、政治コンテンツに関する過度に広い制限を緩和し、政策研究や市民教育などの正当な使用は認める一方で、投票者操作や詐欺的な活動は禁止としました。第3に、執行機関向けの利用規定を…
Claude Opus 4.1：コード作成と推論能力を大幅向上させた最新AI
Anthropic社は8月5日、AIアシスタント「Claude Opus 4.1」を発表しました。このアップデートは、前バージョンのOpus 4から、プログラミング、データ分析、複雑な推論能力を大きく改善しています。特にコード作成の性能は74.5%に向上し、大規模なコードベースでの正確な修正が可能になりました。GitHub、楽天グループ、Windsurfなどの企業から、複数ファイルのコード整理やバ…
Anthropic経済未来プログラムの立ち上げ
Anthropic社が新しい研究イニシアティブ「経済未来プログラム」を発表しました。このプログラムは、AI技術が仕事と経済に与える影響を調査し、その対策を検討することを目的としています。具体的には、研究助成金の提供、政策立案のための対話の場、経済データの収集という3つの柱で構成されています。最大5万ドルの研究助成金の募集、9月（ワシントンDC）と11月（ロンドン）に政策提案シンポジウムの開催、研究…
Anthropic、35億ドルの資金調達で企業価値615億ドルに到達
AI企業のAnthropicが、35億ドル（約5,000億円）の新たな資金調達を完了しました。これにより、同社の企業価値は615億ドルに評価されています。この資金は、次世代のAI開発、計算能力の拡大、研究の深化、国際展開の加速に使われる予定です。同時に、Anthropicは新しいAIモデル「Claude 3.7 Sonnet」とコード生成ツール「Claude Code」を発表しました。すでに多くの…