生成AIを仕事に入れる前に：公的機関のガイドラインが挙げる論点
公開日
使う前に確認することは、ほぼ決まっている
生成AIを仕事に入れるとき、公的機関が公開している資料は、確認すべき論点をおおむね同じ方向にまとめています。入力する情報の扱い、出力の正しさ、責任の所在、利用の記録です。大きな組織向けの文書でも、個人や小さな会社が最初に決めておく項目として読み替えられます。
ここでは、米国の国立標準技術研究所（NIST）が2023年に公表した「AIリスク管理フレームワーク」と、日本で総務省と経済産業省が2024年に公表した「AI事業者ガイドライン」を手がかりにします。細かい要件の紹介ではなく、実務で使える形への読み替えが目的です。個別の条文や最新の改訂は、各機関の公式サイトで確認してください。
出力は間違うことがある
生成AIは、もっともらしい誤りを含む文章を出すことがあります。公的な資料でも、出力の正確性や、事実と異なる内容が生じる可能性は主要な論点として扱われています。
実務では、AIの出力をそのまま外に出さない運用が基本です。数字、固有名詞、法律や制度の記述、引用元は、人が原典で確認します。確認の担当者と、確認した記録の残し方を、使い始める前に決めておきます。
間違いが許されない場面ほど、AIは下書きや案出しにとどめ、判断と最終版は人が作る分担にします。
入力する情報の扱い
2つ目の論点は、何を入力してよいかです。顧客の氏名、連絡先、取引内容、契約書、未公開の資料などをAIサービスに入力すると、サービスの設定や規約によっては、保存されたり、改善に使われたりする場合があります。
入力前に確認するのは、利用するサービスの規約とデータの取り扱い設定です。学習への利用を止める設定があるか、法人向けのプランでは扱いが違うか、といった点が該当します。内容はサービスごと、時期ごとに変わるため、最新の公式の説明を読みます。
そのうえで、事業の内部ルールとして「入力してよい情報」「してはいけない情報」を一枚に書き出します。個人情報の扱いは法律の定めがあるため、不安がある場合は弁護士など専門家に相談してください。
責任と透明性
3つ目は、誰が責任をもつかです。AIが作った文章でも、それを使って発信や提案をしたなら、責任は使った側にあります。ガイドラインでも、AIを提供する側と利用する側それぞれの責務が整理されています。
あわせて、AIをどの業務で使っているかを、必要に応じて顧客や取引先に説明できる状態にしておくことが勧められています。聞かれたときに答えられるよう、使っている業務と使っていない業務を、社内の覚え書きとして残しておきます。
他者の著作物に似た出力が出る可能性も論点の一つです。画像や文章を公開する前に、既存の作品と酷似していないかを確認します。著作権の扱いは専門的なので、判断に迷う場合は専門家に相談してください。
小さく始め、記録を残す
NISTのフレームワークは、リスクを把握し、測り、管理する流れを繰り返すことを求めています。小さな事業なら、これは「小さな業務で試し、問題を記録し、ルールを直す」という手順になります。
最初から顧客対応のような外向きの業務に使うのではなく、社内の調べものや下書きなど、間違いが起きても被害が小さい業務から始めます。うまくいった点と失敗した点を短く記録し、半年ごとにルールを見直します。
社内ルールに落とすときの形
ルールは長くせず、1ページに収まる項目にします。目安は次のとおりです。
- 使う目的と、使ってよい業務
- 入力してはいけない情報
- 出力を確認する人と、確認する項目
- 問題が起きたときの連絡先と、止める手順
従業員や外注先がいる場合は、同じ内容を共有します。個人の判断に任せると、扱いにばらつきが出ます。
海外でも制度の整備が進んでいます。たとえば欧州連合（EU）では、2024年にAIに関する規則が発効し、リスクの大きさに応じた義務が段階的に適用される仕組みが作られました。日本の文化庁も、2024年にAIと著作権に関する考え方を公表しています。事業の相手が海外にいる場合や、画像や文章を公開する場合は、これらの動きも確認しておくと安心です。
見直しのタイミング
AIサービスは、機能も規約も頻繁に更新されます。使い始めたときの理解が、数か月後には古くなっていることがあります。利用中のサービスの規約やデータの設定は、半年に一度は読み直し、変更があれば社内のルールにも反映します。
また、仕事で使うAIの範囲が広がるときは、そのつど「入力する情報」と「確認の方法」を点検します。業務が増えるほど、起きうる問題の種類も増えるためです。
迷う場面では、「この出力が外に出たとき、誰がどんな責任を負うか」を自問します。答えが重いほど、人の確認を厚くします。
使い始める前に、家族や取引先に説明する場面を想像してみるのも一つの方法です。説明に詰まる使い方は、ルールか確認の仕組みが足りていない可能性があります。
次にやること
- 利用するAIサービスの規約と、データの扱い設定を読み、学習利用の有無を確認する
- 「入力してよい情報」と「入力しない情報」を、A4一枚に書き出す
- AIの出力を確認する担当者と、確認項目（数字・固有名詞・制度の記述）を決める
- 最初に使う業務を、間違っても被害の小さいもの1つに絞る
- 1か月後に、起きた問題と直した点を3行で記録する
公式の資料は更新されるため、使う前に NIST と総務省・経済産業省のサイトで最新版を確認してください。