Qdrant 向量資料庫教學:5 萬筆實測與 pgvector 對照

Qdrant 是 Rust 寫的開源向量資料庫(35,638 星、Apache-2.0、v1.20.2),一個 Docker 容器就能自架。本文在 2 vCPU 主機實測 5 萬筆 768 維向量:寫入 1,676 筆/秒、查詢 p50 2.07 ms、記憶體約 96 MB,並與 pgvector 逐項對照。

  • Dennis
  • 11 分鐘閱讀
Qdrant 向量資料庫教學:5 萬筆實測與 pgvector 對照

Qdrant 是 Rust 寫的開源向量資料庫,Apache-2.0、35,638 顆星,docker run 一個容器就能跑。同一台 2 vCPU/7 GB 主機上實測 5 萬筆 768 維向量:寫入 1,676 筆/秒、top-10 查詢 p50 2.07 ms、常駐記憶體約 96 MB。它跟 PostgreSQL 內建 pgvector 最大的差別不在「查得多快」,而在帶條件查詢**:同樣篩掉 87.5% 的資料,Qdrant 加一個 payload 索引後 p50 1.03 ms,pgvector 在 25 ms 上下。**

先問:真的需要一個向量資料庫嗎

多數 RAG 專案的第一版是「Python list + numpy.dot」或「pgvector 裝在既有的 Postgres 上」。這兩條路都能走到上線,但會撞到不同的牆:

痛點記憶體暴力解pgvectorQdrant
100 萬筆以上還能撐記憶體爆掉,每次查都全掃可以,但索引要另外調設計目標就是這個量級
邊查邊篩(租戶、日期、分類)自己寫 if 過濾先檢索再過濾,選擇性低時退化payload 索引 + filterable HNSW,過濾下推
更新/刪除單筆重建整個 listUPDATE,但 HNSW 要整理原生 upsert/delete,背景重建
混合檢索(向量 + 關鍵字)自己寫加權要自己拼 SQLQuery API 內建 RRF/DBSF 融合
備份picklepg_dumpsnapshot(tar)
多租戶隔離靠自己 judgeRLS/schemapayload 分區、shard key、分層多租戶

判斷法則很簡單:如果篩選條件很少、資料在幾十萬筆以內、而且你已經有 Postgres,先別加新服務;如果你的查詢幾乎都帶條件(每個使用者只看自己的資料)、或需要稀疏向量與 BM25 一起排序,向量資料庫的價值就出來了。

一表看懂 Qdrant

項目內容查證方式/日期
語言/授權Rust/Apache-2.0GitHub API,2026-11-19
版本v1.20.2(2026-11-16 發布)GitHub Releases
社群規模35,638 星、2,825 forksGitHub API,2026-11-19
介面REST 6333、gRPC 6334、Web UI(/dashboard)官方 Quickstart
部署單一 binary/Docker/Qdrant Cloud/嵌入式 Qdrant Edge官方文件
容器大小287 MB(磁碟)、78.7 MB(壓縮層)本機 docker images
認證API key(admin/唯讀/逐 collection 權限)官方 Security 文件+實測
備份collection snapshot(tar)官方文件+實測

核心概念只有五個字

概念是什麼對應到 RAG 的什麼
Collection一組同維度向量的容器,等於「資料表」一個知識庫、或一個租戶群
Point一筆資料=id + vector(s) + payload一個 chunk
Vector稠密(dense)或稀疏(sparse),可多個具名向量並存embedding + SPLADE/BM25
Payload任意 JSON,可建索引檔名、來源 URL、日期、tenant_id
Segment內部儲存單位,索引建在 segment 上不用管,但調參時會遇到

有一個容易誤解的地方:Qdrant 的向量一律落地到磁碟,記憶體只是快取(memory tier 決定哪些放記憶體)。所以「Qdrant 是不是純記憶體資料庫」的答案是「不是」,它也不會因為重啟就重建索引。

自架:三個指令,但預設是裸奔的

官方 Quickstart 的指令原文:

docker pull qdrant/qdrant

docker run -p 6333:6333 -p 6334:6334 \
    -v "$(pwd)/qdrant_storage:/qdrant/storage:z" \
    qdrant/qdrant

跑起來之後:REST 在 localhost:6333、Web UI 在 /dashboard、gRPC 在 6334。到這裡為止沒有任何認證——官方文件寫得很直白:「自架的 open source 部署預設不安全、也不是 production-ready,可能整個暴露在網際網路上。」

實測補上 API key 之後的行為(v1.20.2,本機):

docker run -d --name qdrant \
  -e QDRANT__SERVICE__API_KEY=你的金鑰 \
  -p 6333:6333 -p 6334:6334 \
  -v "$(pwd)/qdrant_storage:/qdrant/storage:z" \
  qdrant/qdrant
請求結果
GET /collections(不帶金鑰)401,Must provide an API key or an Authorization bearer token
GET /collections(-H "api-key: 你的金鑰")200
GET /collections(錯的金鑰)401
GET /(根端點,不帶金鑰)200,回傳版本與 commit

最後一行值得注意:金鑰保護了資料面,但根端點仍會公開版本號。對攻擊者來說,這是拿來比對「這台有沒有已知漏洞」的最短路径——所以一定要綁在私有網路或反向代理後面,不要只靠 API key。

建 collection 與灌資料

用 REST 直接打(不需要 SDK):

curl -X PUT http://localhost:6333/collections/docs \
  -H "api-key: 你的金鑰" -H 'Content-Type: application/json' \
  -d '{"vectors": {"size": 768, "distance": "Cosine"}}'

distance 要和你的 embedding 模型配對:多數句向量模型輸出已正規化,用 Cosine 最安全;BGE/E5 這類模型若用 Dot,記得自己先 normalize,否則檢索結果會偏。

灌資料是 PUT /collections/{name}/points?wait=true,一次送一批:

import random, uuid
from qdrant_client import QdrantClient
from qdrant_client.models import PointStruct

client = QdrantClient(url="http://localhost:6333", api_key="你的金鑰")

points = [
    PointStruct(
        id=str(uuid.uuid4()),
        vector=[random.random() for _ in range(768)],
        payload={"source": "manual.pdf", "tenant": "acme", "year": 2026},
    )
    for _ in range(500)
]
client.upsert(collection_name="docs", wait=True, points=points)

實測(2 vCPU/7 GB VPS、Docker、單一 client 序列送、每批 500 筆、768 維):

指標數字
灌入 50,000 筆總耗時29.82 秒
吞吐1,676 筆/秒
索引狀態green,indexed 50,000/50,000,2 個 segment
儲存目錄大小218 MB

這個速度是「邊寫邊建索引」的結果——不需要像傳統資料庫那樣先關索引、灌完再開。要更快就把批次放大(官方建議大批次可到數千點),但要注意單次請求的記憶體。

查詢:p50 2 ms,但真正差別在過濾

查詢有兩套 endpoint:舊的 /points/search 與新的 Query API /points/query(1.10 起,支援 prefetch 與融合)。下面是舊接口,方便對照大多數教學:

curl -X POST http://localhost:6333/collections/docs/points/search \
  -H 'Content-Type: application/json' \
  -d '{"vector": [0.01, 0.45, 0.67, "..."], "limit": 10, "with_payload": true}'

實測延遲(同一台機器、200 次查詢、預設參數、每次取 top-10):

查詢型態p50p95平均
無過濾 top-102.07 ms2.79 ms2.16 ms
無過濾 top-12.16 ms2.82 ms2.20 ms
無過濾 top-502.13 ms2.76 ms2.19 ms
無過濾 top-1002.65 ms3.64 ms2.76 ms
過濾 cat=c3(未建 payload 索引)3.35 ms4.61 ms3.51 ms
過濾 cat=c3(已建 payload 索引)1.03 ms1.18 ms1.05 ms

三個可以帶走的觀察:

  1. limit 幾乎不影響延遲(1 → 100 只從 2.16 走到 2.65 ms)。HNSW 的成本在「走圖」,不在「回傳幾筆」,所以別為了省時間把 limit 壓到很小。
  2. 加索引的過濾比不過濾還快(1.03 ms vs 2.07 ms)。原因是命中率剩 1/8 時,filterable HNSW 只要在子圖裡走就能找到答案,比全圖搜尋更省。
  3. 沒有 payload 索引的過濾只有 3.35 ms——看起來還好,但那是因為資料只有 5 萬筆;這個數字會隨資料量線性惡化,因為它得先把候選撈出來再逐筆比對。

建索引的指令與成本:

curl -X PUT http://localhost:6333/collections/docs/index?wait=true \
  -H 'Content-Type: application/json' \
  -d '{"field_name": "tenant", "field_schema": "keyword"}'

實測建一個 keyword 索引只花 0.089 秒。支援的型別有 keyword、integer、float、bool、geo、datetime、text(全文)、uuid。

官方文件裡最常被忽略的一句

Qdrant 文件明寫:payload 索引應該在灌資料之前建好。因為 filterable HNSW 只有在「索引先生好、再建圖」時才會長出帶過濾資訊的邊;如果像本文實測這樣先灌完才補索引,就必須重建 HNSW 才能拿到完整效益。

本文的數字就是「先灌、後補索引」的量測結果(1.03 ms)。照官方建議的順序做,同一組條件通常會再快一點——但也不會改變結論的方向。

與 pgvector 的實測對照

同一台主機、同一份資料(50,000 筆 × 768 維、8 個分類、5 種語言標籤)、同樣的隨機查詢向量,兩邊都用預設參數:

項目Qdrant 1.20.2pgvector(Postgres 17)
灌入 5 萬筆29.82 秒(1,676 筆/秒,邊寫邊建索引)COPY 4.37 秒(尚未建索引)
建索引寫入時自動完成手動 CREATE INDEX:160.49 秒
無過濾 top-10(p50)2.07 ms2.08 ms
無過濾 top-10(p95)2.79 ms3.25 ms
帶條件 top-10(p50)1.03 ms(payload 索引)25.22 ms(cat 建了 btree)
帶條件 top-10(未建索引)3.35 ms29.45 ms
常駐記憶體約 96 MB約 178 MB
資料落地大小218 MB(storage 目錄)397 MB 資料表 + 195 MB HNSW index

幾個必須說清楚的細節:

  • 無過濾查詢兩邊幾乎打平(2.07 對 2.08 ms)。這說明「Qdrant 一定比較快」是錯的;在單機、5 萬筆、p50 這個層級,pgvector 完全夠用。
  • 過濾查詢差 24 倍(1.03 對 25.22 ms)才是真正的分水嶺。pgvector 的 HNSW 檢索會先取候選再過濾,選擇性低(這裡只留 1/8)時就得放大候選量,延遲直接跳一個數量級。這是設計差異,不是調參可以補平的。
  • pgvector 建索引 160 秒,而且跳出警告:hnsw graph no longer fits into maintenance_work_mem after 17700 tuples。預設 maintenance_work_mem 只有 64 MB;把它調大(例如 1 GB)會快很多。這不是 pgvector 的極限,是預設值不適合這個資料量。
  • 量測方式不同:Qdrant 是從本機 HTTP 客戶端計時(含網路往返),pgvector 是在 plpgsql 迴圈裡用 clock_timestamp() 計時(伺服器端,不含連線)。兩者都不是完美的 apples-to-apples,但差距 24 倍已經遠大於量測誤差。
  • 兩邊都用預設參數:Qdrant 沒有指定 hnsw_ef;pgvector 用預設 ef_search=40。這是「裝完就查」的基準,不是各自最佳化後的成績。

混合檢索:Query API 的 prefetch + RRF

向量檢索不擅長專有名詞與代號(「CVE-2026-132825」這種字串),BM25 不擅長語意改寫。Qdrant 的解法是用 prefetch 跑多路查詢,再融合:

curl -X POST http://localhost:6333/collections/docs/points/query \
  -H 'Content-Type: application/json' \
  -d '{
    "prefetch": [
      {"query": {"text": "向量資料庫 比較"}, "using": "title", "limit": 20},
      {"query": [0.01, 0.45, 0.67], "using": "dense", "limit": 20}
    ],
    "query": {"rrf": {}},
    "limit": 10
  }'

rrf(Reciprocal Rank Fusion)只看排名不看原始分數,所以兩路分數尺度不同也能直接融合;文件裡也提供 dbsf(distribution-based score fusion)。prefetch 可以巢狀,也能在最外層再包一層 formula query 做時間衰減或熱門度加權(1.14 起)。

這段是 Qdrant 相對 pgvector 最實用的差異之一:在 Postgres 裡要自己寫兩段 SQL、自己算 RRF,在 Qdrant 是一個請求。

多租戶:一個 collection 還是很多個

官方建議:大多數情況用一個 collection + payload 分區,不要每個租戶開一個 collection(collection 有固定開銷,數量一多管理成本爆增)。

做法適用隔離程度
payload 分區(filter on tenant_id + keyword index)大量小租戶邏輯隔離,查詢一定帶 filter
user-defined sharding(每個租戶一個 shard key)少數大租戶實體隔離,成本較高
分層多租戶(fallback shard + tenant promotion)大小混雜的 SaaS小租戶共用、大租戶自動升級專屬 shard

關鍵細節:分區欄位一定要建 payload 索引,否則每個查詢都會退化成全庫掃描;Qdrant 也提供 strict mode 的 unindexed_filtering_retrieve: false,直接讓「忘記建索引」的查詢回錯誤,而不是默默變慢。

備份:snapshot 是一個 tar

curl -X POST http://localhost:6333/collections/docs/snapshots \
  -H "api-key: 你的金鑰"

實測(5 萬筆 × 768 維):0.73 秒產生 227,586,560 bytes(約 217 MiB)的 tar,回傳內容同時給 checksum。snapshot 是 collection 層級、包含設定與所有 points;分散式部署要對每個節點分別做。災難還原需求較高的話,官方建議雲端版用 disk-level backup,自架則把 snapshot 排進 cron 再同步到物件儲存。

上線前的檢查清單

項目具體做法
認證QDRANT__SERVICE__API_KEY;只給查詢的服務用唯讀金鑰
網路綁 127.0.0.1 或私有網段,前面放反向代理+TLS
索引常過濾的欄位先建 payload 索引(在灌資料之前)
防止慢查詢開 strict mode,關掉 unindexed_filtering_retrieve
記憶體大資料量用 memory tier 或量化,別讓向量全擠在 RAM
備份snapshot + 外部儲存,定期做一次還原演練
監控/metrics(Prometheus 格式)與 /telemetry;注意 optimizer 是否落後
版本1.20.2 起預設改用經典 HNSW 建圖演算法(ef_construct 直接影響圖品質)

已知限制與沒做的事

照本站慣例,把沒驗證的部分講清楚:

  • 用的是隨機向量,不是真實 embedding。所以本文只有「延遲與吞吐」的意義,沒有任何召回率(recall)數據。真實語意資料的分佈會影響 HNSW 的圖品質,數字會不一樣。
  • 沒有測 gRPC。官方與各家客戶端預設走 gRPC(6334),一般會比 REST 快,本文只用 REST,所以延遲數字偏保守。
  • 沒有測量化(scalar/product/binary)與 memory tier。官方文件說量化可以大幅降低記憶體、換取少量精度,但本文未實測,不能給倍率。
  • 單機、單 client、序列請求。沒有壓測併發(QPS 上限)、沒有測分散式/replication。
  • pgvector 沒有調 maintenance_work_mem,所以它的 160 秒建索引是可調的;它的過濾劣勢則是結構性的。
  • 數字綁定在這台 VPS(2 vCPU、7 GB RAM、無 GPU、Docker)。換硬體會全部改變,不要把絕對值當 benchmark 排名。
  • Qdrant 版本是 1.20.2;1.20 的 changelog 提到「同 filter 的批次搜尋顯著變快」與「預設回到經典 HNSW 建圖」,舊版的對應數字可能不同。

誰適合、誰不需要

適合:RAG 服務(尤其是每個查詢都帶 tenant_id 的 SaaS)、需要混合檢索排序的搜尋、資料量往百萬級走的專案、想用一個容器解決「向量 + payload 過濾 + 快照」的人。

不需要:資料在幾十萬筆以內、過濾條件單純、已經有 Postgres 而且不想多養一個服務——pgvector 的無過濾延遲跟 Qdrant 打平,pg_dump 也比新服務的備份流程單純。真的撞到過濾變慢,再搬。

站內延伸閱讀

原始來源

📬 訂閱 most.tw 電子報

每週精選 AI 工具教學與技術乾貨,直接送到你的信箱。免費、隨時可退訂。

訂閱即表示同意收到 most.tw 電子報,隨時可一鍵退訂。

💬 有問題想討論?加 LINE 聯絡我

歡迎透過 LINE 官方帳號直接留言,我會盡快回覆你的問題。

加入 LINE 好友