AI技術の未来について、多様な視点から対話を広げる
AIの安全性研究で知られるAnthropicは、より良いAIシステムを開発するため、宗教学者や哲学者、倫理学者など15以上の文化圏の専門家との対話を始めました。AIが何十万人もの人々と関わる中で、「良いAI」とは何かを深く考える必要があり、多様な視点からの学びが重要だと考えています。特に注目されるのは「道徳形成」に関する研究です。Anthropicは人間関係が道徳発達に果たす役割に着目し、メンター…
「AI技術」の記事: 8件
クロードの憲法：AI安全性を確保するための明確な行動指針
Anthropic社は、AIアシスタント「Claude」を安全で信頼できるものにするため、「憲法的AI（Constitutional AI）」という新しい方法を開発しました。これまでのAI開発では、人間が出力結果を評価して改善していましたが、この方法は手間がかかり、効率が悪いという課題がありました。憲法的AIは、AIシステムに明確な行動指針（憲法）を与え、その原則に基づいてAI自身が判断するように…
Claudeの新しい憲法：AIの価値観と行動を形作る基本文書
Anthropic社がAIアシスタント「Claude」の行動指針となる新しい憲法を公開しました。この憲法は、Claudeがどのような価値観を持ち、どう行動すべきかを詳しく説明した基本文書です。従来の単純なルール一覧ではなく、「なぜそうすべきなのか」という理由まで説明することで、Claudeがさまざまな状況で適切な判断ができるようになることを目指しています。安全性、倫理性、有用性の優先順位を明確にし…
人々がClaudeを支援、アドバイス、友人関係に使用する方法
Anthropic社は、人々がAI（Claude）をどのように感情的サポートや相談に使っているかについて大規模な調査を実施しました。調査では、Claude利用者の約2.9%が感情的な相談や助言を求める「感情的会話」を行っていることが明らかになりました。人々は恋愛相談から人生相談、孤独感の克服、人生の意味についての哲学的質問など、様々なテーマでClaudeに頼っています。興味深いことに、Claude…
Claude の政治的バイアスを測定する取り組み
Anthropic は、AI モデルの Claude が政治的に公平（どちらの政治的立場にも同等に対応）であることを目指しています。この記事では、左右の政治的立場を同じ深さで分析し、どちらにも偏らないようにする「政治的公平性」についての取り組みを紹介しています。Anthropic は新しい自動評価方法を開発し、数千のプロンプトを使って複数の AI モデルをテストしました。結果、Claude Son…
安全で信頼できるAIエージェント開発のためのAnthropicの枠組み
Anthropicは、自律的にタスクを遂行するAIエージェント（AI仲間）の安全な開発に向けた5つの原則を発表しました。従来のAIアシスタントと異なり、エージェントは「結婚式の計画」や「会議資料の作成」など、複雑なプロジェクトを独立して完結できます。しかし自動化の便利さと同時に、人間が制御を失うリスクがあります。そこでAnthropicは、人間が最終的な決定権を保つこと、エージェントの行動を透明に…
AIシステムの情報検索精度を大幅改善する「文脈的検索」技術
Anthropicは、AI（人工知能）が知識データベースから正確な情報を見つけ出す新しい方法「文脈的検索」を発表しました。従来の検索方法では、情報の断片化により大事な背景情報が失われていましたが、この新技術により検索失敗を49%削減できます。具体的には、検索前に各情報片に対して背景説明を自動で追加することで、AIが正確にマッチした情報を見つけやすくします。さらに情報の重要度を順位付けする「並び替え…
次世代AI「Claude 3」ファミリーが登場 3つの新モデルを発表
Anthropic社が新しいAI「Claude 3」ファミリーを発表しました。このファミリーは3つのモデルで構成されています。最も高性能な「Opus」、バランス型の「Sonnet」、最速で低コストの「Haiku」です。Opusは大学院レベルの複雑な推論問題で、従来モデルより2倍精度が向上しました。全モデルは画像認識、長文理解、複数言語対応が可能で、より正確で拒否が少なくなりました。費用対効果も大幅…