2025年分の事故記録
AIの運用で問題が起きたとき、「AIが間違えた」だけでは改善する場所を絞れません。どの情報を渡し、誰が結果を使い、業務に何が起きたのかを残すと、出力の修正と手順の見直しを分けて考えられます。
Stanford HAIが2026年4月13日に公表した「2026 AI Index Report」は、AI Incident Database（AIID）に記録された2025年分の事例を362件と紹介しています。AIIDは、AIが関係して被害が起きた、または起きかけた事例を集める公開データベースです。確定した製品の不具合だけを数えたものではありません。
元になるのは、報道などの公開資料を人の編集者が審査してまとめた記録です。同じ出来事について記事が追加されても、直ちに別の事故が一件増えるわけではありません。資料の件数と出来事の件数も区別されています。
登録件数は事故の確率ではない
362件という数字には、世界でAIが何回使われたかという分母がありません。無作為に企業を選んだ調査でもないため、「AIを使う企業の何％で事故が起きるか」は計算できません。
報告書は、英語の報道や注目を集めた事例に偏りやすく、情報を得にくい地域が十分に含まれない可能性も指摘しています。過去の年の件数も更新されるため、現在のデータベースと報告書の数字が一致するとは限りません。
AIIDの編集ガイドも、公開資料に基づく被害や被害に近い出来事の申し立てを記録し、すべての事実関係を独自に裁定するものではないと説明しています。件数の多い製品を、そのまま危険な製品の順位にすることはできません。利用者数や用途、報告されやすさが異なるためです。
自社でも判断と結果を残す
社内の改善では、AIの回答案を直した段階と、顧客へ送信した後、外部システムの操作まで行った後を分けて記録します。下書きの誤りと、実際の業務への影響を同じ扱いにしないためです。これは公開データの見方を踏まえた実務上の提案です。
記録には、発生時刻、対象業務、使ったサービスや版、参照資料、人が確認した時点、実行された操作、影響範囲を入れます。例えば誤った案内を送った場合は、AIの回答だけでなく、元の資料が古かったのか、送信前の確認が抜けたのかを後からたどれるようにします。
顧客情報を含む記録は閲覧できる人を絞り、原文を広く転送する運用にはしません。修正した後は、同じ条件と似た例外で動作を確かめ、結果を追記します。起きたこと、判断したこと、まだ分からないことを分けて残すと、担当交代後も改善の理由を引き継げます。
同じ出来事に追加情報が出た場合は、別件を増やさず元の記録へ追記します。何が変わったかと、その変更を判断した担当者も残します。
参考資料：2026 AI Index・Responsible AI（第3章132頁・図3.2.1）／AIIDの編集・研究ガイド。確認日：2026年11月2日。