AI安全性とは、AIが誤った判断や有害な出力、意図しない動作をしないようにするための、技術的な対策・企業の運用ルール・社会的な制度を総称した考え方です。
図でみるAI安全性
- 技術的対策（RLHF・評価など）
- 運用ルール（企業のガイドライン・承認フロー）
- 社会制度（法規制・業界基準）
AI安全性は、モデル自体の技術的対策だけでなく、企業の運用ルールや社会的な制度・規制が組み合わさって実現されます。
具体例 AI安全性の身近な例
AIチャットボットが薬の飲み合わせについて誤った情報を答えないよう、医療関連の質問には注意書きを添えたり、専門家への相談を促したりする設計は、AI安全性の実践の一例です。
重要な点
- AIの誤作動や有害な出力を防ぐための技術・運用・制度の総称
- 技術・企業の運用ルール・社会制度が組み合わさって成り立つ多層的な取り組み
- 政府機関や金融・医療などへのAI導入の可否を左右する
技術的背景
[object Object]
よくある誤解
- AI安全性は「AIを使わないこと」を目指す考え方ではなく、AIを安全に使い続けられるようにするための技術・運用・制度の総称です。
学習の前後関係
AI安全性
よくある質問
AI安全性の研究は誰が行っていますか？
AnthropicやOpenAI、Googleなどのモデル開発企業に加え、大学や政府系研究機関でも取り組みが進められています。
