AIアラインメント
AIの回答や行動が、利用者、顧客、会社のルールから外れないように合わせる考え方です。
意味
AIアラインメントは、AIの出力や行動が、人間の意図、組織の方針、社会的な期待から大きく外れないように調整する考え方です。
中小企業で気にする理由
中小企業では、AIの判断が顧客対応、採用、営業、経理に直接出ることがあります。会社として許容できる振る舞いを具体化する必要があります。
業務での影響
顧客対応の約束、採用の公平性、営業提案の期待値、社内文書の正確性に関係します。AIが会社のルールから外れないようにします。
回避手順
AI利用ポリシーを短く作り、業務ごとの禁止事項と人へ渡す条件に分けます。抽象的な理念だけでなく、現場例を入れると使われやすくなります。
関連例
NIST AI RMF、AnthropicのConstitutional AI、OpenAIの安全性に関する資料などが参考になります。業務では現場チェックリストに落とします。
関連用語
ガードレール
AIに任せてよい範囲、禁止する表現、人へ渡す条件を先に決める安全対策です。
RLHF
AIが人に好まれやすい回答を出すよう、人の評価を使って調整する学習の考え方です。
ハルシネーション
AIが事実と違う内容や確認できない情報を、自然な文章で出してしまう現象です。