生成AI（文章や画像を自動で作ってくれるAI）は、いまや誰でも無料で使える便利な道具になりました。メール文の下書き、議事録の要約、アイデア出し——うまく使えば、少ない人数の会社ほど大きな戦力になります。ただ、便利な道具には必ず「使い方の落とし穴」もあります。今回はその落とし穴を、正しく怖がって、正しく使うために整理します。
国の機関であるIPA（情報処理推進機構）が、2026年1月29日に「情報セキュリティ10大脅威 2026」を公表しました。そのなかで「AIの利用をめぐるサイバーリスク」が、会社などの組織にとっての脅威として初めてランクインし、第3位に選ばれました（出典は記事末尾に記載）。「AIをどう守りながら使うか」が、いよいよ本気で考えるべきテーマになった、ということです。
IPA（アイ・ピー・エー）は、経済産業省が所管する国の機関で、日本の情報セキュリティ対策の旗振り役です。毎年「その年に特に気をつけるべき脅威トップ10」を発表しており、これが「10大脅威」です。ウイルスや詐欺メールといった昔ながらの脅威が並ぶこのランキングに、今年は生成AIをめぐるリスクが第3位で入ってきた——ここが大きな変化です。
「怖い話」をあおりたいのではありません。信号機と同じで、危ない場所を知っているからこそ、安心して前に進めます。中身を見ていきましょう。
難しく考える必要はありません。中小企業が特に気をつけたい落とし穴は、次の2つに整理できます。
生成AIに文章を打ち込むと、その内容がAIの会社側に送られて処理されます。サービスの種類や設定によっては、入力した情報が保存されたり、AIの学習（賢くなるための材料）に使われたりする恐れがあります。
たとえば、お客様の名前や連絡先が入った名簿、まだ公開していない見積書や契約内容、取引先から預かった資料——こうした社外秘や個人情報を、うっかりそのまま貼り付けてしまうのが一番怖いパターンです。一度外に出た情報は、取り返すのが難しい。「便利だから」と気軽に入れた一行が、思わぬ漏えいにつながりかねません。
生成AIには「ハルシネーション」という弱点があります。難しそうな言葉ですが、意味はシンプル。「AIが、事実ではないことを、いかにも本当らしく答えてしまう現象」のことです。日本語では「AIの作り話」と言い換えると分かりやすいでしょう。
やっかいなのは、AIが自信たっぷりに、堂々と答えてくること。実在しない法律の条文、間違った数字、存在しない会社名などを、まるで本当のように書いてきます。これを確認せずにそのまま資料やお客様への回答に使ってしまうと、会社の信用に直接キズがつきます。AIは「よくできた下書きマシン」であって、「正しさを保証してくれる先生」ではない——この線引きが大切です。
こうしたリスクを受けて、国もAIの使い方について指針（ガイドライン）を示しはじめています。総務省と経済産業省が「AI事業者ガイドライン」をまとめており、AIを提供する側・使う側の双方に、安全に付き合うための考え方を示しています。
また、AIに個人情報を入力する場面については、一般に注意が必要と指摘される論点があります。専門的な判断が要る部分なので断定は避けますが、「お客様から預かった大切な情報を、安易に外部のサービスへ渡さない」という基本姿勢は、法律の細かい条文を知らなくても持っておきたい感覚です。
ここからが本題です。難しい設備投資は要りません。今日から社内ですぐ実行できる3つの守りにまとめました。
まずはルール作りです。「AIに入れてよいのはここまで、これは絶対に入れない」という線を、会社として一度はっきり決めましょう。難しい規程書は要りません。紙一枚に「お客様の個人情報・未公開の見積や契約・取引先から預かった資料は入力しない」と書いて共有するだけでも、事故はぐっと減ります。人数が少ない会社ほど、口約束より「決めて貼り出す」が効きます。
無料で誰でも使えるAIサービスは手軽ですが、入力した情報の扱いが、業務用の有料プランと違う場合があります。お客様の個人情報や会社の機密は、無料の公開AIには入れない——これを鉄則にしましょう。どうしても機密を扱いたい場合は、情報を外部の学習に使わない設定や、法人向けのサービスを選ぶ、という一段上の対策が必要になります。
落とし穴②(ハルシネーション)への守りです。AIが出した答えは、「そのまま使わず、必ず人の目で事実を確かめてから使う」を習慣にしましょう。数字・固有名詞・法律や制度の話は特に要注意です。AIには「たたき台を作らせる」、正しさの最終チェックは「人がやる」。この役割分担を守れば、AIの便利さだけを安全に受け取れます。
リスクがあるからといって、AIをまったく使わないのは、もったいない選択です。周りが便利な道具で身軽になっていくなか、一社だけ手作業に留まるのも、それはそれで機会の損失だからです。大切なのは「こわいから使わない」でも「便利だから何でも入れる」でもなく、その真ん中——正しく怖がって、正しく使うこと。
マークレストが大切にしているのは「損得より善悪」という一線です。目先の便利さでお客様の信用を危険にさらすことはしない。だからこそ、AIも「安全な使い方」とセットでご提案します。「うちの会社は、何をどこまでAIに任せていいのか」——その線引きから一緒に整理するのが、外部CMO（社外のマーケティング責任者）としての私の役目です（→ マークレストのサービス内容はこちらのページからご覧いただけます）。
なお、AIを安全に使う第一歩として、会議の記録をAIにまかせる方法もあります。あわせて読みたい方はこちらもどうぞ（→ AIで議事録を作る入門記事はこちらからお読みいただけます）。
「うちの場合、どこまでAIに任せていい？」「安全に効率化する第一歩は？」——そんな交通整理から、御社のボトルネックに合わせてご提案します。まずは気軽にご相談ください（→ ご相談はこちらのお問い合わせフォームからどうぞ）。
マークレスト