ガードレール
AIに任せてよい範囲、禁止する表現、人へ渡す条件を先に決める安全対策です。
意味
ガードレールは、AIが扱う範囲をあらかじめ制限するルールや仕組みです。禁止表現、参照できる資料、人へ渡す条件、実行できる操作、ログの残し方などを含みます。
中小企業で気にする理由
中小企業では専任のAI管理者がいないことが多く、AIの出力を現場担当者がそのまま使ってしまう可能性があります。ガードレールを先に作ると、顧客対応、採用、経理、営業で起きやすい過剰回答を減らしやすくなります。
業務での影響
サポートでは返金や契約解除をAIが約束しない、採用では年齢や家庭状況を推測しない、営業では未確認の納期を断定しない、といった制限が実務上のガードレールになります。
回避手順
まず禁止事項を5個以内で書き、人へ渡す条件を例つきで定義します。次に、実際の問い合わせや文書を使ってテストし、危ない回答を記録してプロンプトやFAQを直します。
関連例
関連する情報として、NIST AI RMF、OWASPのLLM向けリスク整理、OpenAIの安全性に関する文書が参考になります。技術名よりも、現場の判断条件に落とすことが大切です。
関連用語
ハルシネーション
AIが事実と違う内容や確認できない情報を、自然な文章で出してしまう現象です。
プロンプトインジェクション
外部文書や問い合わせ文に隠れた指示で、AIの本来のルールを崩そうとする攻撃です。
AIアラインメント
AIの回答や行動が、利用者、顧客、会社のルールから外れないように合わせる考え方です。