その「貼り付け」、取り消せません。#社会人1年目のわたしへ

これ、3行で言えます。
① 入れたら最後、消せない。
② AIは自信満々に嘘をつく。
③ 設定が完璧でも、バグで漏れる。
以上です。お疲れさまでした。

……で終わればよかったんですが、
この3行に至るまでに何人か犠牲が出てるので、その話をします。

なぜか新人研修資料を作る羽目になった

本業はLLMエンジニアです。
コードを書いて、AIをいじって、たまに壊して、直す仕事。
ある日、上から降ってきました。
「新人向けにAIセキュリティの研修資料、作っといて」
いや、私セキュリティ専門じゃないんですけど。
「AIのこと一番わかってるでしょ？　よろしく」
こうして「AIのことを一番わかってる人」は
「新人がAIで事故る全パターンを洗い出す人」にジョブチェンジしました。
真面目に調べ始めたら、出てくる出てくる。
やらかし事例の山。
ここからは、その中でも特に「うわあ……」ってなった話を2つだけ。

新人くん、APIキーで星になる

新人くんは優秀でした。
配属3日目にして「AI使って爆速コーディングします！」とSlack(業務用のラインみたいなもの)で宣言。
やる気に満ちている。
GitHub Copilot（AIが自動でプログラミングを手伝ってくれるツールという）でコードを書き、GitHub（プログラムの設計図を保存・共有する場所という）にpush（ファイルをアップロードして保存することという）。
問題は、.envファイル（パスワードなどの重要な設定を書き込むファイルという）でした。
.envファイルには、AWS（Amazonが提供するネット上のコンピューターを借りるサービスという）のAPIキーが書いてありました。
APIキーというのは、まあ、クラウドサービスの鍵です。
家の鍵を道端に置いたと思ってください。
新人くんはそのファイルごと、パブリックリポジトリ（全世界の誰でも中身が見られる公開フォルダという）にpushしました。
「パブリック」です。全世界公開です。
5分後。
APIキーを自動収集するBot（特定の作業を自動で繰り返すプログラムという）が検知しました。
人間じゃないです。プログラムが24時間監視してるんです。
「誰かが見つける」じゃなく「プログラムが瞬時に抜く」。
数時間で不正利用が始まりました。
クラウドの請求書が加速。
翌朝、上長から電話。
新人くんのAWSアカウントはお星様になりました（凍結）。
本人はまだ生きてます。
ちなみにこれ、2025年だけでGitHubで2,900万件以上のsecrets（パスワードや鍵などの機密情報という）漏洩が報告されています。
AI支援でコードを書くと漏洩率が2倍になるという統計もある。
（出典：GitGuardian State of Secrets Sprawl 2025）
新人くんだけの問題じゃないんです。構造の問題。

息子に話したら、威厳がゼロになった

この話を家で息子（新中学生）にしたんです。
「ねえ、会社でこういう事故があってさ。
大事な情報をネットに公開しちゃったんだよ」
息子「それ、学校で習ったよ」
……え？
「パスワードは人に教えない。
知らないリンクは踏まない。
大事なファイルは誰でも見れるところに置かない」
GIGAスクール端末で、小学生が毎日やってるやつでした。
大人が何億円の損害出してる話を、
小学生が「知ってる」と言った瞬間、
親の威厳は蒸発しました。
でも考えてみれば、本質は同じなんですよね。
「知らない人に大事なもの渡すな」
AIが絡むとなぜか大人はこれを忘れる。

先生、TikTokで修羅場

もう1つ。こっちはSNS系。
ある先生（仮）が、AIで作った授業プリントをTikTokに投稿しました。
「AIで教材作ったらめっちゃ便利！」
問題は背景でした。
動画の一瞬、モニターが映り込んでいました。
画面には生徒の成績一覧表。名前、点数、全部読める。
ネットの善意の人々（皮肉です）が3分で学校名を特定。
先生、それ個人情報保護法です。
本人に悪意はゼロです。自慢したかっただけ。
でも「1フレームの写り込み」でキャリアが揺れる。
スマホのカメラは、人間の目より正直です。

3つだけ覚えておいてください

さっきの3行、もう少しだけ深掘りします。
重くしないので30秒で読めます。

① 入れたら最後、消せない。

Samsungのエンジニアがバグ修正のために
ソースコードをChatGPTに入力しました。
会社は生成AIを全面禁止にしました。
「送信」ボタンは「公開」ボタンだと思ってください。

② AIは自信満々に嘘をつく。

AIが出力した情報をそのまま業務で使って損害が出た場合、
悪いのは会社です。
もっと正確に言うと、
「AIが嘘をつくことを前提に業務プロセスを設計していなかった会社」が
一番不利な立場に置かれます。
AIの出力は「下書き」であって「完成品」ではない。

③ 設定が完璧でも、バグで漏れる。
2026年1月、MicrosoftのCopilotにバグが見つかりました。
DLP（情報漏洩防止システム）を設定して「機密」ラベルを貼ったメールが、
Copilotに約4週間にわたって読まれて要約されていたんです。
ガイドラインを守っていても、技術が裏切ることがある。
だからこそ「そもそも入れない」が最強の防御になる。
もっと深い話はこちら

ここまで読んで「もうちょっとちゃんと知りたい」と思った方へ。

今回の研修資料を作るにあたって、
6社のAI（Claude、Gemini、Copilot、Grok、Perplexity、GPT）に
同じ検証質問状をぶつけて横断比較したガイドラインPDFを作りました。
判例付き、法的根拠付き、チェックリスト付き。
この記事は入口です。
▼ ガイドラインPDF（無料）

弁護士×AIハルシネーションの話
（架空の判例を20件でっち上げた実話）はこちらの記事で詳しく書いています。
▼ AIは「嘘の判例」を20件でっち上げた

#社会人1年目のわたしへ

知ってれば全部防げた。それだけ。
AIは便利です。
でも「便利」の裏には「取り消せない」がセットで付いてくる。
この3つだけ覚えておけば、
少なくとも「やらかした側」にはならないはず。
① 入れたら最後、消せない。
② AIは自信満々に嘘をつく。
③ 設定が完璧でも、バグで漏れる。
がんばれ、1年目。

経営者・教育担当者の方へ

ここから先は「教える側」の話です。
この記事のもとになったガイドラインの完全版は、
以下の内容を含んでいます。
インシデント6類型（機密漏洩・個人情報・著作権・写り込み・ハルシネ・エコシステム連携）
法的根拠の二段構え（国内法4法＋EU AI Act / GDPR / CCPA）
責任所在マトリクス（LLM事業者→企業→個人の三層整理）
AI出力の業務利用トリアージ基準
禁止事項チェックリスト（A4一枚）
インシデント報告フロー
6社AIモデルによる横断検証マトリクス
14ページ、Fortune 500準拠。社内研修にそのまま使えます。
▼ 企業向けAIセキュリティガイドライン v1.1（ガチ版PDF）

本記事に記載の事例・統計は公開情報に基づきます。
法的判断については社内法務または外部弁護士にご相談ください。
© 2026 黒パグP
制作：黒パグP
検証協力：Claude Opus 4.6 / Gemini / Copilot / Grok / Perplexity / GPT
#社会人1年目のわたしへ #AI #セキュリティ #新入社員 #LLM48

本編ここまで。
お読みいただきありがとうございました。スキ、フォローもいつもありがとうございます！！

おまけ　

わたしが尊敬するカワムラさんみたいに可愛いキャラ作りたかっただけです。(すみません勝手に名前使いました)

おしまい