生成AIの利活用における課題
- 個人情報・機密情報の漏えい
- 入力したデータがサービス提供会社やユーザーに漏えいし、
サイバー攻撃に悪用される可能性 - シャドーIT
- 企業としての利用を許可/不許可に関わらず、
従業員が勝手に生成AI利用している可能性 - 学習効果への影響
- 生成された内容に誤りがある可能性や、
自主的な思考を妨げる可能性
これらの課題を解決するためには…
適切な運用ができる体制を作る必要があります
「i-FILTER」「i-FILTER@Cloud」の「AIチャットフィルター」機能が
生成AIの課題を解決し、スマートな利活用を促進します!
「 AIチャットフィルター」の4つの特長
- ※記載がない場合は「i-FILTER@Cloud」の画面イメージです。実際の画面とは異なる場合があります。
利用状況の確認
生成AIの利用状況や入力・回答内容をグラフやログ※で確認し、活用状況を可視化・分析できます。
AIチャットフィルターのログから利用状況、利用ユーザーTop10 、
ブロックユーザーTop10 、ブロック単語Top10などの情報をダッシュボードに表示します。
- ※「i-FILTER」では「AIチャットログ」、「i-FILTER@Cloud」では可視化のグラフをご提供します。
「AIチャットログ」で生成AIにどのようなメッセージを送信したか、
どのような回答がされたかをログから確認・分析することが可能です。
- ※画像は「i-FILTER」の画面イメージです。
利用状況をグラフで確認(「i-FILTER@Cloud」)
利用ユーザー、ブロックユーザーのTop10、ブロック履歴を表示
利用ルールの周知・徹底
AIチャット利用でのリスクについての理解、
機密情報の取り扱い方に対する意識改善などの注意喚起を促す警告画面を表示します。
注意事項の表示イメージ
利用する生成AIの限定
任意のグループ・ユーザー単位・時間帯で、
生成AIごとに閲覧許可またはブロックを設定し、
組織が許可した生成AIのみ、従業員に利用させることが可能です。
生成AIごとに設定が可能
- ※画像は「i-FILTER」の画面イメージです。
生成AIへの入力内容の制御
特定の単語を含む生成AIへの入力をブロックし、従業員に警告通知が可能です。
ブロックメッセージが表示
-
※「i-FILTER@Cloud」にてWindows Agentを利用している場合にポップアップは表示されます。
それ以外は生成AI側のエラー画面となります。 - ※「i-FILTER@Cloud 有害情報対策版」または「i-FILTER@Cloud GIGA スクール版」の場合のみ、表示されます。