実測レポート

自社で運用して、測った数字だけ

AIの導入に関する記事は多くありますが、実際に運用して測った数字や、 試して効かなかった記録はあまり公開されていません。 このページは、編集部が自社の運用から取り出した実測値をまとめたものです。

すべて自社のシステム・データベース・計測ツールから直接取得した値です。 推定した数値は書いていません。測っていないものは「測っていない」と書いています。

代表的な数字

39.2%

726記事の検索表示のうち、上位1本が占める割合

65.1%

補助金1,630件のうち、金額を数値として比較できないもの

16

移行後に落ちたE2Eテスト。製品側の不具合はゼロだった

6/8

AI議事録で原音にあるのに落ちていた重要事実(主張8件は全て裏付けあり)

5.1

同じ期間・同じサイトで、集計の次元を変えたときの表示回数の差

3/5

接続しているMCPサーバーのうち、現在落ちている数

レポート一覧

運用して測った

AIライティングで726記事を運用した結果 上位1本が表示の39.2%、上位50本(6.9%)で84.6%。209本(29%)は表示ゼロ。本数は流入に比例しなかった 補助金情報はなぜ比較できないのか 本番データ1,630件を集計。金額で比較できるのは34.9%、いま応募できるのは34.4%。「書いてあるのに使えない」が29.7% AI文字起こしと議事録の実務 57分の会議をAI議事録と原音で照合。主張8件は全て裏付けあり、落ちていた重要事実が6件。落ちるものには型がある オンプレミスでLLMを動かす GPU5枚での構成と実測レイテンシ。投機的デコード・追加学習・規則の追加・知識の追加、4つの棄却記録つき

壊れた記録

HTTP 200なのに壊れている 無音で壊れた6件。削除済み記事35本が全文配信、7KBの裸ページが数か月、定期実行が毎日「成功」で0件 E2Eテストが16件落ちた。原因は全部テスト側だった 同じ時期に製品側で出ていた実害9件は、テストで捕まっていなかった。落ちるテストと落ちない不具合の非対称 Search Consoleの数字を5倍間違えた 同じ期間で6,251とも31,899とも出た。最大の流入元が測定対象から丸ごと抜けていた話つき MCPを実運用して分かったこと 5つ繋いで3つが落ちている。繋ぐのは簡単で、難しいのは繋ぎ続けること

設計と実装

プロンプトは足しても良くならない 規則を書き足すと50ポイント、背景知識を12個足すと33ポイント下がった。効いたのは別の3つ AIエージェントとは 並列6体が成果ゼロで終わった記録と、同じ体制で5体すべて成功した条件 AI記事のコンプライアンスチェック 景表法・薬機法を機械で止める二段構え。724記事に遡って適用した結果は減点1記事 ハルシネーション対策の実務 出典が付いていても、出典を確かめないと検証にならない。中継用の住所をそのまま数えていた失敗つき

道具の使い方

Geminiは無料でどこまで使えるか 1年以上のメディア自動運用で、段ごとにモデルを使い分けてきた記録 Claude Codeの使い方 30日で38,546件の委任、消費の94%は文脈の読み直しだった ずんだもんで解説動画を自動生成する 規約の読み方と4段構成。所要時間は「計測していないので書けない」

この数字について話す

ここに書いた数字は、すべて編集部が自分たちのシステムで測ったものです。 同じ測り方を、自社の環境でやってみたいという場合や、 測ってはみたが読み方が分からないという場合は、相談を受け付けています。

お引き受けするのは、AI導入の設計・実装と、導入後に品質と効果を確かめる仕組みづくりです。 効果や数値の保証はいたしません。補助金・助成金の申請代行も行っていません。

無料相談を申し込む 問い合わせフォーム 支援内容を見る