アンソピックが集合的憲法AIプロジェクトを発表

アンソピックは集合的憲法AIプロジェクトを発表しました

Anthropic（人工知能（AI）のリーディング企業）は、AIの開発において革新的な手法を先導しています。この手法は、「Collective Constitutional AI（集団憲法AI）」プロジェクトとして知られ、AIシステムの行動を民主化することを目指しています。これは、ユーザーの価値観を募集し、それを大規模な言語モデル（LLM）のトレーニングに組み込むことで実現されます。

従来のLLMトレーニングへの批判

これまで、生成型AIツールは、特定の状況における応答について批判を浴びてきました。人間のクエリに対して受け入れ可能な応答をするために訓練されているものの、受け入れ可能なものが必ずしも有用であり、有用なものが必ずしも受け入れ可能ではないと批評家は指摘しています。

また、AIモデルの応答を記録することによって、ユーザーの主体性が失われたという意見もあります。同様に、文化、国民、時代によってモラリティや価値観が異なるという議論もあります。Anthropicは、これらのギャップを埋めるために、Constitutional AIを今年5月に開始しました。Constitutional AIは、AIシステムが従うべきガイドラインを提供します。このモデルは、国際連合のユニバーサル人権宣言や開発者の経験を参考にしています。Anthropicは、Constitutional AIがAIのフィードバックを使用して出力を評価することで、短所に対応していると主張しています。

Collective Constitutional AIプロジェクト

Constitutional AIは、従来のLLMのトレーニング方法を発展させていますが、それでも開発者の強い影響をAIの出力に与えています。そのため、Collective Constitutional AIプロジェクトは、Anthropicの外部からの複数の人々のフィードバックを使用して、それを改善しています。

• 「ビナンスフランスの最高責任者が、現在進行中の規制網の目の前で辞任する」
• 「中東の緊張が高まる中、米国がベネズエラに対する制裁を緩和し、原油価格が下落する」という見出しです
• 「OpenAIが中東でのAI進展を目指してG42とパートナーシップを結成」

Anthropicは、PolisとCollective Intelligence Projectと協力して、さまざまな人種や人々からなる1,000人のアメリカのユーザーを対象に調査を行いました。ユーザーは、価値に基づいた一連の質問に答えました。その後、回答はAIモデルの価値判断を微調整するのに役立ちました。

Anthropicによれば、これは言語モデルの行動をオンラインの審議プロセスを通じて一般の人々が決定する初めての試みです。さらに、この実験は科学的な成功であると述べています。また、結果は、AIモデルをユーザーの価値観に合わせるための課題と潜在的な解決策を明らかにしたと主張しています。

「私たちの非常に予備的で完璧でない結果を共有することで、AIに民主的な入力を興味を持つ他の人々が私たちの成功と失敗から学べることを願っています」と結論づけています。