目次
結論
2026年4月13日から5月13日にかけて、自社のnoteアカウント(@ai_compass_media)から公開した記事30本は、「調査に基づく実例」ではなく、Web検索を接続していないLLMに生成させた完全な創作だった。もっとも重篤な例は3本目の記事で、「居酒屋『魚心』店長の山田さん」という、実在しそうな店名・人物名・直接引用・導入日付を伴う事例が丸ごと創作されていた。数値の一部は出典のない事前定義値、残りはLLMの即興だった。景品表示法上、「架空事例の実績表示」と読まれる余地が高い状態だったと判断し、2026年8月13日にこの生成体制を検出・停止し、29本を下書きに戻した。1本は元々公開一覧に存在しなかった。
この記事の前提
自社では、note.comの複数アカウントを使った記事配信を運用している。そのうちの1本を、SEO目的の記事を毎日自動生成・投稿するスクリプト(generate_note_seo_article.py)で回していた。生成コマンドは claude -p --tools "" — ツールを一切与えない、つまりWeb接続を持たない状態のLLM呼び出しだった。これは意図的な設計で、「速く安く大量に」を優先した結果だった。
何が起きたか
2026年8月13日、別件の批判的監査(敵対的レビュー)の一環で、この生成プロセス由来の記事の執筆履歴を検証したところ、次の事実が確定した。
- 生成は
claude -p --tools ""で行われており、生成時点で外部への調査は物理的に不可能だった - それにもかかわらず、プロンプトは「〇〇社ではこうした」という具体的な事例の例示形式を明示的に指示していた
- 最も重篤な例が3本目の記事で、「居酒屋『魚心』店長の山田さん」という、店名・人物・直接引用・導入日付をすべて備えた事例が登場する。むろん、この店も店長も実在しない
- 記事内の数値の一部(
key_numbers)は出典のない事前定義値であり、残りはLLMがその場で作った即興値だった
一つ補足しておくと、同時期に検証した別の13本の記事は、逆方向の問題を抱えていた。こちらは「実在の調査に基づきすぎている」——実在の企業が特定可能な水準まで書き込まれていた。架空にも実在にも、公開してはいけない一線があることを、この2種類の問題が対称的に示していた(この記事では30本の創作事例を扱う。実在企業が特定可能だった13本の是正は別の話として扱う)。
なぜ起きたか
原因は技術的には単純で、「調査ができない状態のLLMに、調査結果としてしか成立しないジャンル(事例)を書かせた」ことに尽きる。
- Web検索・外部ツールを与えない実行モードは、コスト最適化の判断としては合理的だった
- しかしプロンプト側で「〇〇社ではこうした」という例示形式を要求すると、LLMは調査結果ではなくもっともらしい創作でその形式を埋める。これはハルシネーションというより、指示への忠実な応答に近い
- 生成は毎日10:00のcronで自動実行されており、人間のレビューを経ずに公開まで到達していた
- 公開後の監視は「エラーなく投稿できたか」であり、「本文の固有名詞に出典があるか」は検査していなかった
どう直したか
- 生成体制の停止: 該当のcron(毎日10:00)を2026年8月13日にコメントアウトして停止した(可逆な形で残している)。当時トピックは30件を消費し切って休眠中だったが、補充されれば再開する状態だった
- 公開済み記事の是正:
unpublish_seo30.py --applyを実行し、30本中29本を「下書きに戻す」で非公開化した。残り1本は実行時点で公開一覧に存在せず(既に非公開または未公開)、対応不要だった - 検証: 本番のnote公開APIで29本すべてが404化されたこと、そのアカウントの
creator contents totalCountが61から32に減少したことを実測で確認した - 操作範囲の限定: 実行した操作は公開記事ページの「その他」ケバブメニュー→「下書きに戻す」→確認ダイアログのみで、削除ボタンには一切触れていない。元の本文はすべて下書きとして保持している
同じ轍を踏まないためのチェック
生成AIでコンテンツ量産の仕組みを作るなら、公開前に次を確認することを勧める。
- Web接続を持たないLLMに、「事例」「実績」「体験談」のジャンルを書かせていないか。調査が不可能な設定のまま調査結果の体裁を要求すると、創作で埋まる
- プロンプトに「〇〇社ではこうした」という例示形式そのものが入っていないか。形式の指定が、具体的な固有名詞の創作を誘発する
- 生成物を「実例」として公開する前に、店名・人物名・日付・直接引用といった固有名詞に出典があるかを機械的にチェックする仕組みがあるか
- 景品表示法の「実績表示」に該当しうる記述(具体的な数値・引用・固有名詞の組み合わせ)を、公開前の品質ゲートで検知できているか
- 自動生成専用アカウントの公開記事一覧を、人間が定期的に棚卸しする運用になっているか。量産される系ほど、後から気づいた時の本数が多くなる
この一件は、自社の批判的監査で自ら見つけたものであり、外部からの指摘で発覚したものではない。だが「自分で見つけられた」ことは免罪符にはならない。量産の仕組みを作る前に、この記事のチェックリストを先に当てるべきだった。