中国、AI安全性ベンチマークに取り組む、規制当局が大規模モデルのリスクを標的に

中国の工業情報化部（MIIT）は、米国と欧州の規制当局がAIセキュリティの監視を強化する中、人工知能モデルを評価するための安全ベンチマークの構築を開始しました。

MIIT主導の国家工業情報安全発展研究センターは現在、ベンチマークを共同構築するための企業と専門家を募集しており、月曜日に発表された通知によると、応募期限は火曜日です。

同研究所は、現在のフレームワークは複雑な安全ガバナンスのニーズを満たせず、産業コンプライアンスを支援するための標準化されたテストプラットフォームが必要であると述べています。

通知によると、新しいベンチマークは、コンテンツの安全性、価値の整合性、堅牢性、公平性、プライバシー保護、信頼性の6つの主要な次元にわたって生成AIを評価します。ハイブリッドベンチマーク手法は、5つの主要カテゴリにわたる31の特定の安全リスクを明示的にカバーするように設計されます。

この国家主導の技術的アプローチは、テクノロジーの進歩に伴い、世界中の規制当局がAIの安全性に特に重点を置いている中で行われています。