記事公開日
AIエージェント時代のデータ品質管理―人が見ない前提で誤りをどう検知するか

【この記事の要約】
- AIエージェントは途中で人が気づかないまま動くため、データ品質管理は「整える」だけでなく「誤りを検知して止める」仕組みまで含めて考えます。
- 誤りは入力・処理・出力の3か所で起き、エージェントの自律度に応じて検知の厚みを変えます。
- 最初は、止められる・後から追える・一部を人が見る、の3つから始め、直近の出力10件を誤りの型に分けて優先順位を決めます。
⏱ 読了目安:約8分
1. AIエージェントのデータ品質管理とは何か
結論:AIエージェントのデータ品質管理とは、データを整えることに加えて、エージェントが誤ったデータで動いたときに、人が気づく前に検知して止める仕組みを持つことです。
人が使うレポートやBIツールでは、画面を見た人が「この数字はおかしい」と気づくことが、最後の砦でした。エージェントは、データを読み、判断し、メールを送り、システムを更新するところまで続けて動くため、途中で気づく人がいません。例えば、取引先マスタの更新が遅れたまま請求書の下書きが作られ、顧客からの問い合わせで初めて分かる、という流れです。
McKinsey & Companyは2026年7月の記事で、複数のシステムをまたいで動くエージェントでは、誤ったレコードを取り出すといった小さなエラーが、プライバシーの問題や顧客との約束の破綻に積み上がりうると指摘しています。問われているのは、小さな誤りが連鎖する前に止められるかどうかです。
本記事では、人が全件を見ないことを前提に、誤りの起きる場所、自律度に応じた検知の厚み、最小限の仕組みの作り方を整理します。準備度の確認はAIエージェント導入前のデータ整備チェックリストで行えます。
2. 誤りが起きる場所は、入力・処理・出力の3か所
結論:検知の設計は、入力・処理・出力の3か所に分けると進めやすくなります。機械的に見つけやすいのは入力の誤り、見つけにくいのは出力の誤りです。
| 場所 | 典型的な誤り | 検知の方法 | 機械化のしやすさ |
|---|---|---|---|
| 入力(読むデータ) | 必須項目の欠け、更新が古いまま、同じ顧客の重複、定義にない値、権限外のデータの混入 | 取り込み時のルール検査(必須項目・形式・値の範囲・最終更新日・重複キー) | 高い。条件を書けば自動で判定できる |
| 処理(参照・計算) | 別会社のレコードを参照する、古い版の文書を参照する、集計や計算を誤る | 参照したデータの識別子と更新日をログに残す。根拠として示した文言が参照元に実在するかを照合する。数値は別の経路で再計算する | 中程度。照合や再計算は自動化できるが、ログの設計が前提 |
| 出力(回答・実行結果) | もっともらしいが事実と異なる記述、定義と食い違う数字、送ってはいけない相手への送信 | 出力前のルール検査(数値の範囲・必須項目・宛先の配信可否)、完了後の抜き取りレビュー、利用者からの誤り報告 | 低い。意味の誤りは機械では完全に判定できず、人の確認が残る |
まず自問すべきは「この誤りは、条件を書けば機械で判定できるか」です。できるものは自動チェックに、できないものは抜き取りレビューと利用者からの報告に回します。
もう一つ、何を「誤り」と判定するかの基準は、自社のデータの意味付けに依存します。「売上」や「アクティブ顧客」の定義、金額や納期の許容範囲が決まっていなければ、検知のルールも書けません。定義の整え方はAIエージェントのためのデータ定義整備で解説しています。PwC Japanグループは2026年6月の資料で、企業固有のナレッジをAIに入力することが必須だと提言していますが、検知でも同じです。自社の請求の典型的な金額帯や、取引先ごとの納期の癖といった固有のデータが、検知ルールの源泉になります。ただし、定義した範囲の外の誤りは、別の方法で拾う必要があります。
3. 自律度に応じて検知の厚みを変える
結論:すべてのエージェントに同じ厳しさの監視をかけると、軽い用途は動かず、重い用途は守れません。エージェントの自律度で、検知の厚みを変えます。
Gartnerは2026年5月のプレスリリースで、自律度や権限の範囲にかかわらず全エージェントに一律のガバナンスを適用すると、失敗につながると指摘しています。そのうえで、エージェントを「閲覧のみ(Observe)」「提案(Advise)」「承認後に実行(Act with Approval)」「自律実行(Act Autonomously)」の4段階に分け、段階ごとに統制を変える考え方を示しています。また、2027年までに企業の40%が、本番での事故の後に初めて見つかったガバナンスの不備を理由に、自律型エージェントを降格または廃止すると予測しています。
この4段階に、データ品質の観点で最低限そろえたい検知を重ねると、次のようになります。
| 自律度(Gartnerの区分) | エージェントができること | データ品質面で最低限そろえる検知 |
|---|---|---|
| 閲覧のみ | 定められたデータを読み、依頼した本人だけに結果を示す | 参照できるデータの範囲の限定、利用ログ、入力データの基本的なルール検査 |
| 提案 | 下書きや提案を出す。実行は人が行う | 上記に加えて、回答の正確性を確かめる定期的なテスト、「提案を鵜呑みにしない」ための利用者への周知 |
| 承認後に実行 | 人が承認した操作だけを実行する | 上記に加えて、承認の記録(誰が、いつ、何を承認したか)と、承認が形骸化していないかの確認 |
| 自律実行 | ガードレールの範囲内で、人の確認なしに実行する | 上記に加えて、継続的な監視、止める条件の自動化、元に戻す手段、責任者の明確化 |
承認があれば安全とは限りません。Gartnerは、時間的な圧力や承認疲れのもとでは承認が形骸化し、安全だという誤った安心感を生みうると警告しています。承認が多い用途では、承認までの所要時間が極端に短くなっていないかを、ログで確認する価値があります。
4. 検知の仕組みを組み込む4ステップ
結論:最初に過去の誤りを型に分け、その型に対応する自動チェックと止める条件を置き、ログと抜き取りレビューで育てます。専用の監視基盤がなくても、最小限の仕組みは作れます。
| 1.誤りの型を決める 過去の出力から分類 | ▶ | 2.自動チェックを置く 入力と出力のルール | ▶ | 3.止める条件を決める 人に回す基準 | ▶ | 4.ログと抜き取りで育てる 誤りの型を更新 |
1. 誤りの型を決める:エージェントが過去に出した出力を10件前後取り出し、間違っていた箇所を「別会社の混入」「古い情報」「定義の食い違い」「根拠なし」「権限外のデータ」などに分類します。分類しながら「誰が、何に困るか」を書き添えると、困り方が重い型から優先順位がつきます。
2. 自動チェックを置く:入力側には、必須項目の欠け、最終更新日の古さ、重複キー、値の範囲を確かめる条件を置きます。出力側には、数値の範囲、宛先が配信可否の一覧にあるか、根拠として示した文言が参照元に実在するかを確かめる条件を置きます。表計算の関数やSQLの条件でも実装できます。
3. 止める条件を決める:Gartnerのアナリストは、@ITに掲載された2026年10月の解説で、人によるチェックの置き場所として、実行前の承認、処理中の介入、実行後のレビュー、完了した処理からの抜き取りの4つを挙げています。人に回す条件(エスカレーションのトリガー)としては、確信度が低いとき、苦情や法務など方針で人が扱うと決めた話題のとき、権限や方針の範囲を超える操作のとき、金額や件数が定めた上限を超えるとき、無作為の抜き取りの5つを示しています。具体的な閾値は示されていないため、自社の過去の実績から決めます。取り消せない操作(外部への送信、支払いなど)は実行前に止め、取り消せる操作は実行後のレビューや抜き取りで見る、という使い分けが現実的です。
4. ログと抜き取りで育てる:Deloitteは2025年12月の記事で、エージェントが何をしたか、なぜその判断をしたか、誰の権限で動いたかを記録する仕組みが必要だとし、行動ごとの改ざんしにくいログなどを挙げています。ログには、日時、エージェント名、依頼内容、参照したデータの識別子と更新日、実行した操作、出力、承認者、止められたかどうかを残します。そのうえで、完了した処理の一部を人が見て、品質が少しずつ劣化していないかを確かめます。ログにも個人情報が含まれうるため、閲覧できる人は絞ります(AIエージェントに渡すデータの権限設計参照)。
5. 全部は作れないときの代替ライン
結論:入力・処理・出力のすべてに自動チェックを置く必要はありません。最低ラインは「止められる」「後から追える」「一部を人が見る」の3つです。
実務では、ルールを書く人手もログを設計する時間も足りないことが多くあります。その場合は、次の水準から始めます。
- 止められる:異常に気づいたときに、エージェントの実行を止める、または権限を外す手順と担当者を決めておく。
- 後から追える:専用の基盤がなくても、参照したデータの識別子と出力だけは保存する。原因の調査は、これだけでも成り立ちます。
- 一部を人が見る:完了した処理から、週に数件でも担当者が見る。最初は多めに見て、誤りの型が減ってきたら減らします。
全件を自動で検証するのは、金額の大きい操作や外部への送信など、誤りの損失が大きい操作に限ります。専門のデータ監視ツールは、対象が増えて手作業の確認が追いつかなくなってから検討すれば十分です。
6. よくある失敗パターンと想定される損失
「人が最後に確認するから大丈夫」と考えるパターン
エージェントの出力が増えるにつれ、確認担当者は1件ごとに全項目を見る余裕を失い、承認ボタンを押すだけになります。記録上は確認済みでも、実際には誰も誤りを見ていません。誤りが顧客に届いてから発覚し、関係者がその日の業務を止めて原因を調べることになります。
ログを残さず、原因を追えないパターン
誤った出力が見つかっても、どのデータを参照したのか、どの版の文書だったのかが残っていないと、再現も再発防止もできません。同じ誤りが数週間後にまた起き、担当者は毎回、推測で原因を探すことになります。
何が誤りかを決めずに、アラートだけを作るパターン
「顧客」や「売上」の定義が部門で違うまま異常検知を入れると、人によって誤りの判定が分かれ、アラートが連日大量に出ます。担当者は次第に通知を見なくなり、本当の誤りも埋もれます。検知の前に、使う用語の定義を決めておきます。
7. 活用イメージ:受注データから出荷指示の下書きを作るエージェントの場合
例えば、卸売業や製造業で、受注データから出荷指示の下書きを作るエージェントを考えます。出荷指示は取り消しにくいため、人が確認してから送る運用です。
最初に、過去の出力10件前後を出荷担当者と見直し、誤りを分類します。「旧品番の受注が混ざる」「納期が過去の日付になっている」「数量の桁が違う」といった型が見つかったとします。入力側には、納期が過去日付のデータと必須項目の欠けたデータを止める条件を置きます。出力側には、数量が過去の同じ取引先の受注の範囲を大きく超えたときに、人に回す条件を置きます。完了した処理は、週に数件、出荷担当者が見ます。数週間分の記録がたまると、誤りの大半が旧品番の混入だと分かり、品番マスタの更新手順を直す優先度が決まります。検知の記録は、データ整備の優先順位づけにも使えます。
8. まとめ:最初の一歩は「直近の出力10件」を誤りの型に分けること
人が見ない前提のデータ品質管理は、完璧な監視基盤から始める必要はありません。大切なのは、誤りの起きる場所を入力・処理・出力に分け、自律度に応じた検知を置き、止められる状態にしておくことです。まず、エージェントが直近に出した出力を10件ほど取り出し、誤りがあれば、入力・処理・出力のどこで起きたかを表にしてください。その表が、最初に作る自動チェックの一覧になります。全体像はAIエージェントが動かない本当の理由も参考になります。
【本記事のまとめ】
- データ品質管理は、データを整えることに加えて、誤りを人が気づく前に検知して止める仕組みを持つこと。誤りは入力・処理・出力の3か所に分けて考える
- 検知の厚みは、閲覧のみ・提案・承認後に実行・自律実行という自律度で変える。承認があっても形骸化するため、承認の記録と所要時間も見る
- 最低ラインは「止められる」「後から追える」「一部を人が見る」。最初の一歩は、直近の出力10件を誤りの型に分けること
AIエージェントの導入に向けたデータ品質管理や、誤りを検知する仕組みの設計でお悩みの方は、株式会社コネクトデータのデータ活用コンサルティングで、現状整理から進め方までご相談いただけます。
9. よくある質問
- Q. データ監視の専用ツールを入れないと、誤りは検知できませんか?
- A. 検知できます。最初は、表計算の関数やSQLの条件で入力データのルール検査を行い、参照したデータの識別子と出力を保存し、完了した処理の一部を人が見る方法でも成り立ちます。対象のエージェントが増え、手作業の確認が追いつかなくなった段階で、専用ツールの導入を検討するとよいでしょう。
- Q. 抜き取りレビューは、どのくらいの割合で行えばよいですか?
- A. 決まった正解はありません。Gartnerのアナリストの解説も、抜き取りの具体的な率は示していません。最初は多めに見て誤りの型を集め、型が減ってきたら率を下げます。金額の大きい操作や外部への送信など、損失の大きい処理は、率を下げずに見続けます。
- Q. 人が承認する運用にすれば、検知の仕組みは不要ですか?
- A. 不要にはなりません。Gartnerは、時間的な圧力や承認疲れのもとでは、承認が形骸化して誤った安心感を生みうると警告しています。承認の記録に加え、承認までの所要時間や、誤りが承認をすり抜けた件数も確認すると、承認が機能しているかを判断できます。




