Problems
AI 利用のルールを決めても、守られているかが分からない#
何が送られたか分からない
生成 AI に顧客情報や認証情報が送られていても、後から知る手段がありません。
規程が紙の上に残る
AI 利用の規程を作っても、日々の使われ方と照らし合わせる方法がありません。
利用ログを人が読み切れない
AI 利用ログを担当者が順に読む方法は、使う人が増えるほど続きません。
Patrol
AI に送った発話を、規程に照らして毎日確認する#
管理者が巡回を ON にすると、その後の発話が毎日確認されます。見つかったものは「見つかったもの」タブに並び、管理者とマネージャーが「違反と確認」か「誤検知」で片付けます。
- 対象はメンバーが AI に送った発話。AI の応答は対象外
- 巡回が ON の間は会話の入力欄にマークが出て、押すと内容が表示される
- ON にする前の会話は、さかのぼって調べない
Criteria
用意された 5 つの規程に、自社の規程を加える#
「顧客の個人情報」「機微な識別番号」「認証情報」「未公開の財務情報」「差別・ハラスメント表現」の 5 つを用意しています。規程ごとに ON / OFF でき、自社の規程を文章で追加できます。
- 設定は「規程と巡回」タブにまとまっている
- 検知は本文のコピーを持たない。確認済みの検知は、会話と一緒に削除される
Notice
知らせる内容と、開ける人を分ける#
1 対 1 の会話で新しく見つかると、本人には規程名だけを、管理者とマネージャーには件数だけを通知します。発話の抜粋や理由、会話の本文を開けるのは、管理者とマネージャーだけです。
- 本人には会話内の通知・プッシュ・メール、管理者とマネージャーにはプッシュとメールで届く
- ほかのメンバーには、一覧の項目が「権限がないため非表示」と表示される
FAQ
よくある質問#
不適切な発話を、送信前にブロックできますか?
できません。会話の巡回は送った後に見つける事後検知で、送信は停止しません。ファイルと文章を送る前に確認したい場合は、個人情報検出を使います。
AI 利用ログはどこで確認できますか?
巡回で見つかったものは、設定の「コンプライアンス」画面の「見つかったもの」タブに並びます。操作の記録は「監査ログ」タブで確認でき、改ざんを検知できる形で 2 年保管します。
管理者はメンバーの会話を読めますか?
「メンバーの会話」を管理者が ON にした場合に限り、自分より下のロールの人の 1 対 1 の会話を読めます。既定は OFF で、読まれうるかはメンバー本人も確認できます。一覧や本文を開いたことは監査ログに残ります。
導入前の会話も調べられますか?
調べません。巡回するのは、ON にした後の発話だけです。ON の間は入力欄にマークが出るので、巡回されていることを利用者も確認できます。
日々の仕事が集まり、つながり、会社の力になる。