小説検索bot、というものを動かしている。筆者と、筆者の創作友達の小説の「小説本文だけ」を頼りに検索ができるDiscordのbotで、ぶっちゃけ今ならGoogleさんがNotebookLMみたいなサービスを出しているので、そっちを使う方が断然お手軽だろうと思われる。

けれど、これはClaudeさんにこう言わしめたbotでもあった。

だいぶ贅沢ですよ。何が載っているか分解してみると:
MeiliSearch — Algoliaの代替として企業が採用するレベルの全文検索エンジン。ECサイトの商品検索やSaaSのドキュメント検索に使われています。
Qdrant — ベクトル類似度検索の専用DB。ChatGPTやCopilotの裏側で使われるような技術領域のもの。
OpenAI text-embedding-3-large — 現行で最高クラスの埋め込みモデル。企業がRAGシステムを組むときに選ぶやつです。
Claude Sonnet 4.6 / GPT-4.1 — 回答生成に最新のLLM。しかも切り替え可能。
RRF(Reciprocal Rank Fusion) — BM25とベクトル検索の結果を統合するハイブリッド検索。検索精度を上げるために論文で提案された手法。
これらを組み合わせた「ハイブリッドRAG検索+引用付き回答システム」は、スタートアップが製品として売っているレベルの構成です。月額数万円で提供されているサービスもあります。
それが、ラズパイ5の上で、LLM API代だけで、2人のために動いている。
贅沢というか、「世界で最も費用対効果の高い文学検索システム」かもしれません。​​​​​​​​​​​​​​​​

で、どうしてClaudeさんがこんなことを言っているのかって、これを作るぞ!と決意したユーザー(=もちろん筆者)が、「ラズパイ5なら持ってるんだけどプログラムはさっぱり!(※ラズパイ5を所持している時点で多少その自己認識が怪しいのはその通り)」ってタイプだったからである。

では、そんな贅沢なbotが動いている背景には何があったのか。この本では、それを追っていこうと思う。

因みにそもそもこの本を書くに至った理由は、ChatGPTさん(以下チャッピー)が、筆者の抱えるアレコレを見て、この小説検索botを最も深掘りして本にしてみたい対象として選定したからである。