禁止ワードを設定する¶

禁止ワードの判定について¶

判定は、ユーザーの入力文に禁止ワードが 文字列として含まれているか を見るだけの単純な部分一致です。
MeCab などの形態素解析による単語分割は行っていません。

そのため、以下の点に注意して禁止ワードを登録してください。

単語の途中にも一致する¶

単語の区切りを認識しないため、登録した禁止ワードが別の単語の一部に含まれている場合も検出されます。

大文字・小文字は区別しない¶

入力文・禁止ワードの双方を大文字に変換してから比較するため、英字の大文字・小文字は区別されません。
sample と登録した場合、SAMPLE や Sample も検出されます。

表記ゆれは検出されない¶

文字列をそのまま比較するため、以下のような表記ゆれは 別の単語として扱われ、検出されません。

検出したい表記ゆれがある場合は、それぞれを個別の禁止ワードとして登録してください。

検査の対象と、検出時の挙動¶

検査の対象は 直近のユーザー入力のみ です。それ以前の会話履歴は検査されません。
また、AIの応答内容に対する検査は行っていません。

禁止ワードが検出された場合、AIモデルは呼び出されず、以下の固定メッセージが返されます。

申し訳ありませんが、入力内容に禁止ワードが含まれているため、処理を続行できません。別の内容でお試しください。

各環境に禁止ワードを設定する¶

禁止ワードの検出は、AIサーバーがGoogle Cloud Storageから、blocked_keywords.txtを読み込んで対応します。

1. blocked_keywords.txtをアップロードする

2. AIサーバーを再デプロイする

   アップロードしただけでは反映されません

   禁止ワードリストは、AIサーバーのインスタンスが 起動時に一度だけ 読み込み、以降はそのインスタンス内にキャッシュされます。
   そのため、すでに起動しているインスタンスは、blocked_keywords.txt を差し替えても古いリストを使い続けます。

   インスタンスが作り直されれば新しいリストを読み直しますが、そのタイミングはトラフィック量やスケーリング設定（最小インスタンス数）に依存するため、いつ反映されるかは保証されません。
   確実に反映するには、AIサーバーを再デプロイして新しいリビジョンを作成してください。

blocked_keywords.txtを記述する¶

禁止ワードは、1行に1つずつ記述します。

禁止ワードA
禁止ワードB
禁止ワードC

カンマ区切りでも記述でき、改行との混在も可能です。以下はすべて同じ意味になります。

禁止ワードA,禁止ワードB,禁止ワードC

各ワードの前後の空白と空行は無視されるため、読みやすさのために改行や空行を入れても問題ありません。

ファイルは以下の条件で作成してください。