アントロピックは、現在AIが抱える最大の問題の一つを解決することを目指している。

AIスタートアップ企業Anthropicは、Claude 3.5 Sonnet大規模言語モデルがGPT-4oやLlama-400Bなどの他の主要モデルに勝利したという発表に続き、月曜日に、同社の次期モデルを評価するための独立したサードパーティのベンチマークテストの開発に資金を提供する新しいプログラムを開始する予定であると発表した。

ブログ投稿によると、同社は「AIモデルの高度な機能を効果的に測定」できるベンチマークを作成するためにサードパーティの開発者に報酬を支払う用意があるという。

「これらの評価への投資は、AIの安全性という分野全体の向上を目指し、エコシステム全体に利益をもたらす貴重なツールを提供することを目的としています」と、アンスロピックは月曜日のブログ投稿で述べています。「高品質で安全性に配慮した評価の開発は依然として困難であり、需要が供給を上回っています。」

同社は、AIの相対的な「安全レベル」を、サイバーセキュリティ、化学・生物・放射線・核（CBRN）、そして不一致、社会操作、その他の国家安全保障リスクを含む、様々な要因に基づいて測定するためのベンチマークを提出したいと考えています。また、モデルの高度な機能を評価するためのベンチマークも求めており、「大学院生でさえ挑戦できるような、数万もの新しい評価質問とエンドツーエンドのタスクの開発」にも資金提供を予定しています。これは、様々な情報源から知識を統合するモデルの能力、巧妙に表現された悪意のあるユーザーからのリクエストを拒否する能力、そして複数の言語で応答する能力をテストするものです。

アントロピックは、「十分に困難」で、多様なテスト形式において最大「数千」のテスターが関与する、大量のタスクを募集しています。これらのタスクは、同社の「現実的かつ安全性に配慮した」脅威モデリングの取り組みに役立てられます。ご興味のある開発者は、ぜひ同社に提案をご提出ください。同社は随時、提案内容を評価する予定です。