RAGの幻覚率をどう測るか|2層検査とn=53・n=12が語る「0%」の中身
幻覚率0%は単独では意味を持たない。自社の2層検査の仕組みと、標本数から導かれる95%上限の考え方を整理する。
22 / 72 ページ
幻覚率0%は単独では意味を持たない。自社の2層検査の仕組みと、標本数から導かれる95%上限の考え方を整理する。
RAGのヒット率は『引くべき文書を引けたか』を示す指標。自社実測107テナント平均99.7%の中身と、この数値だけでは分からないことを整理する。
自社が運営するAIメディア「AIコンパス」の公開記事509本を全数監査した。段落まるごとの重複が348本・7,122箇所・1,686,574字、AIアシスタントの作業報告がそのまま本文として公開...
自社の補助金検索サービスで、複数ソースを合成したIDに含まれるコロン1文字を、nginxとサイトマップ生成の正規表現が拒否していた。人間のブラウザでは何の問題もなく表示されるため誰も気づかず、b...
Web検索を無効化した状態のLLMに『導入事例』というジャンルの記事を書かせた結果、実在しそうな店名・人物名・導入日付を伴う完全な創作が30本、自社のnoteアカウントから公開されていた。調査が...
生成AIが自社を出典に選ぶかを毎月測る連載の第0回。2026年8月、生活者が実際に抱く自然な質問12問(自社名を含まない)に対し、ChatGPT型Web検索・Google検索・Gemini・Pe...
生成AI検索に一次情報として引用されたいと考え、自社サイト群を棚卸しした。出てきたのは架空の「事例」記事30本、更新日だけ書き換える鮮度偽装、実在企業が特定可能な否定的推測13本、JSON-LD...
補助金検索サービス「カンタン補助金」を開発するALLFORCESが、令和7年度ものづくり補助金第21次公募(受付番号R113210352)に一事業者として自ら申請し、2026年1月23日に採択、...
不動産業界でよく言われる「公示地価は実勢の8割」という通説を、185市区町村の実データで検算した。国土交通省の公示地価と取引事例(種類=宅地(土地)・地域=住宅地に限定)を突合した結果、価格比の...
Unity Editorをドメインリロード越えに自律駆動するAIコパイロットを自社開発する構想を調査したところ、同種の機能はすでに無料OSSのMCPサーバー群で実現済みだった。作る前に使う、とい...