無題

Vector Search

how to improve search quality

Multimodal search

use images, video and audio semantics

using an embedding model that understandings text and image

Hybrid search

実際、Google検索も利用しておる。キーワード検索（sparse embeddings）＊意味検索（dense embedding）＊reranking(RRF)

なぜ

ベクトル検索だけでは、えんべディングモデルが学習した時点で知ってる意味の言葉しか知らないから。

Task type embedding

本来、質問と回答は遠い位置、意味にある(simpleな意味検索RAGの類似度検索で精度が良くならない理由の１つ、検索品質を上げなくてはいけない、その１つの手法)

なぜ空は青いの？→酸素原子の散乱である＝文章として似ていない

Netflix, Google search, Youtubeといった情報検索のプロが開発したものは、RAGでよく利用されている類似検索はほぼ使われていない。ただ、開発がしやすいことからLLMのコミュニティだけでブームになったが精度の面ではこれだけでは足りない

2-tower model / dual encoder model を設計して学習させた。質問文と回答ぶんの関係性を学習させた。