禁止しても、生成 AI は使われている#
個人アカウントでの利用
会社が認めた環境が無いと、業務の資料が個人契約の生成 AI に貼り付けられます。どこに何が送られたかを、会社は把握できません。
禁止だけでは続かない
利用を禁止しても、便利さを知った人は使い続けます。規程と実際の使われ方の差が広がります。
入力の確認が本人任せ
顧客情報や API キーを送らないよう呼びかけても、送る前に確認するのは本人だけです。
会社として使える生成 AI の環境を用意する#
Samurai App は 1 社に 1 テナントで、会社ごとに独立したデータベースにデータを保管します。入力は AI の学習に使われません。エージェントは、その利用者の権限の範囲でしか動作しません。
- ロールはオーナー・管理者・マネージャー・メンバーの 4 つ
- 慎重な操作は、人が承認するまで実行しない
- 2 要素認証は全員に必須で、外すことはできない
送る前に、個人情報と秘密情報を確認する#
Samurai App の中では、AI に送るファイルと文章を、送る前にブラウザの中で確認します。ブラウザ拡張を入れると、他社の生成 AI サイトへの添付と貼り付けにも同じ確認をします。見つかったときは、送るかどうかを利用者が選択します。
- 検出にモデルは使わず、ブラウザの中で完結する
- ブラウザ拡張は Chrome と Edge に対応し、管理端末へは Chrome のポリシーで一括配布できる
- 拡張をつなぐと、見つかったまま送ったサイト名と件数を監査ログに残す
送った後の発話と操作を、記録から確認する#
会話の巡回を ON にすると、メンバーが AI に送った発話を規程に照らして毎日確認します。巡回は送信を停止せず、見つかったものを管理者とマネージャーが確認します。操作は改ざんを検知できる監査ログに残り、2 年保管します。
- 監査ログは CSV と JSONL でエクスポートでき、JSONL は持ち出した先でも検証できる
- 取り込んだ文章に AI への指示が紛れていないかも、スクリーニングで判定して記録する
よくある質問#
シャドー AI とは何ですか?
会社が把握していない生成 AI を、社員が業務で使っている状態のことです。業務の資料や顧客情報が、会社の目の届かないサービスに送られるおそれがあります。
生成 AI を禁止すれば、情報漏洩は防げますか?
禁止だけでは、個人のアカウントでの利用が残りがちです。Samurai App は会社として使える環境を用意したうえで、送る前の入力の確認と、送った後の巡回と記録を組み合わせます。
他社の生成 AI サイトへの送信もブロックできますか?
送信を自動で停止する設定はありません。ブラウザ拡張(Chrome / Edge)を入れると、他社の生成 AI サイトへの添付と貼り付けを送る前に確認します。拡張でも送信は止めず、送るかどうかを利用者が選択します。
入力したデータは AI の学習に使われますか?
使われません。モデル提供元に学習不使用の設定を入れています。会話から作られたスキルや記憶は、そのワークスペースの中だけで使います。
日々の仕事が集まり、つながり、会社の力になる。