什么是向量数据库?企业领袖的策略性定义
读完这篇文章,你将清楚了解向量数据库的定义、为何它在 2026 年成为企业 AI 的基础建设,以及评估任何自称提供此服务的供应商时必须提出的五个问题。你也会明白向量数据库在你现有 IT 架构中的位置,以及它在企业规模下的真实成本。
向量数据库是一种专门以意义而非关键字索引信息的数据存储系统。它不再以完全相符的字词作配对,而是根据语义相似性——即两份信息在概念上的接近程度——来检索内容。这项能力,正是让企业 AI 系统能以你的专有文件、政策及历史数据回答问题的关键。
定义:向量数据库是一种企业级数据库,专为存储、索引与搜索内容的高维数值表征——称为向量或嵌入——而设计,让 AI 系统能以意义而非字面文字配对的方式检索信息。它是位于大型语言模型与企业私有知识之间的检索层。
这项能力之所以重要,在于 2026 年每一个认真的企业 AI 部署——无论是客户服务助手、内部研究工具,还是合规检查系统——都依赖可靠地检索你自己的数据。没有向量数据库,AI 无法存取你的组织真正知道的内容。
为什么向量数据库突然成为企业 AI 不可或缺的一环?
向量数据库变得不可或缺,是因为它解决了企业 AI 最核心的问题:让通用的大型语言模型以企业特定的、专有的知识回答问题。根据 Gartner 预测,到 2026 年,超过 30% 的企业将采用向量数据库以专有业务数据强化其基础模型。企业 RAG 部署在 2025 年增长了 280%。
在向量数据库普及之前,试图在私有数据上部署 AI 的企业面对三个不理想的选项。微调模型——昂贵、缓慢,且当数据变动时十分脆弱。将内容塞进提示——受制于上下文视窗大小,在规模上成本极高。建立自定关键字搜索——脆弱,且无法处理类似「显示与此份合约有相近责任条款的合约」等语义查询。
向量数据库解决了这问题。一份文件被转化为能捕捉其意义的数值表征。当使用者提问时,问题以同样方式转化。数据库检索出意义最接近问题的文件,再交给 AI 模型。这种架构称为检索增强生成(RAG),现已成为企业 AI 的预设模式。
Gartner 2025 年第四季对 800 个企业 AI 部署的调查发现,71% 起初采用「塞入上下文」方式的公司,在 12 个月内加入了向量检索层。市场本身已由实验性转为必需——从 2024 年的 17.3 亿美元,预计 2032 年达到 106 亿美元。
向量数据库实际上如何运作?
向量数据库以三个明确步骤运作——嵌入、存储、检索。在此层次理解流程,已足够让任何企业领袖评估供应商并作出基础建设决策。你不需要理解背后数学;你需要理解的是架构。
第一步——嵌入。组织内每一份文件、段落或数据点,都会通过一个嵌入模型——一种专门的 AI 模型——把文字转化为一串数字,维度通常介乎 768 至 3,072。意义相近的文件会产生数值上相近的向量。一份关于软件授权的合约,与另一份关于 SaaS 订阅的合约,即使用字不同,向量也会接近。
第二步——存储与索引。这些向量连同原文一并存储于向量数据库。数据库建立专门索引——最常见的是 HNSW(分层可导小世界)——让它能在毫秒间于数以亿计的条目中找出相似向量。
第三步——检索。当使用者或 AI 代理提出问题,问题以相同模型被嵌入为向量。数据库回传最相似的前 N 个向量——通常五至二十个——以及它们代表的原文。这些文件再交给大型语言模型,由它生成有根据且准确的回答。
对企业领袖而言,架构上的重点是:向量数据库是 AI 系统的记忆层,LLM 是推理层。两者是不同的产品,必须分别采购、分别保护、分别治理。
企业有哪些主要的向量数据库选项?
企业向量数据库可分为三类——专用向量数据库、扩展式传统数据库、云端原生托管服务。正确选择取决于现有基础建设、数据主权要求与规模。在香港,个人数据私隐条例(PDPO)合规与数据驻留要求,往往比单纯的技术效能更快收窄选择。
---专用向量数据库——Pinecone、Weaviate、Qdrant、Milvus。为向量工作负载量身打造,通常在规模上提供最强效能。适合视 AI 为核心能力、拥有专责工程团队运营的组织。
---扩展式传统数据库——带 pgvector 的 PostgreSQL、MongoDB Atlas Vector Search、Elasticsearch。为组织已运行的现有数据库加入向量能力。适合重视整合、熟悉现有运营模式,以及已有治理框架的组织。
---云端原生托管服务——Azure AI Search、Amazon OpenSearch、Google Vertex AI Matching Engine。完全托管,与云端供应商的 AI 堆叠深度整合。适合已承诺单一超大规模云端供应商的组织。
对于有 PDPO 责任的香港企业,决定性因素往往是供应商是否在本地提供数据驻留。Pinecone 及托管云端服务提供亚太区域;自架选项如 Qdrant 与 pgvector 提供完整数据主权,代价是运营负担。这里没有通用正确答案,只有符合你数据治理姿态的答案。
企业规模下向量数据库的成本有多少?
企业向量数据库的年度成本通常介乎 15 万至 180 万港元,视乎规模、部署模式与效能要求。成本有三个组成部分——存储、运算、嵌入生成——总额往往令只计算授权费的组织感到意外。
存储成本随向量数量与维度增加而扩大。一家香港中型专业服务公司以 1,536 维嵌入 50 万份文件,通常存储 3 至 5 GB 向量数据。单纯存储并不昂贵——在任何平台上通常每年不超过 5 万港元。
运算成本随查询量与延迟要求而扩大。一个服务 200 名员工、延迟目标 3 秒的内部 AI 助手,成本远低于服务 5 万名客户、延迟目标 500 毫秒的对外助手。后者的运行成本可达前者的 10 倍。
嵌入生成成本往往是被忽略的支出。每份文件都要嵌入,每次查询也要嵌入。在企业规模——数百万份文件及每日数万次查询——嵌入 API 的账单可以超过数据库本身。只为向量数据库预算,而未为嵌入管道预算,是常见的规划错误。
对一家香港中型企业部署单一主要 AI 应用场景而言,首年实际全包成本通常介乎 40 万至 90 万港元,包括实施服务。若跨三至四个应用场景扩展,数字会倍增——因此在各应用场景间整合并重用向量基础建设,是投资回报最高的架构决策。
应该向任何向量数据库供应商提出哪五个问题?
五个问题能分辨可信的向量数据库供应商与机会主义者。这是你应该带到每一次供应商演示的问题。任何无法清楚回答的供应商,无论演示文件多漂亮,都未具备企业部署条件。
问题一——数据实际存储于哪里?有 PDPO 责任的香港企业必须知道确切的数据中心区域。亚太区对大多数应用场景可接受;非亚洲区域需要明确的法律审查。无法按要求提交数据驻留地图的供应商,并不具备企业级能力。
问题二——在我们的规模下,查询延迟的 SLA 是多少?要求按第二年预期查询量而非首年的第 95 及第 99 百分位延迟。供应商往往在小工作负载下报中位延迟,这对正式上线后的体验毫无参考价值。
问题三——如何处理嵌入模型更新?嵌入模型经常更新,新模型产生不相容的向量。供应商必须有清晰的迁移模式,不需全面重建索引的停机时间。具体询问他们如何为现有客户处理过上一次嵌入模型迁移。
问题四——存取控制与审计能力是怎样的?企业部署要求行级或文件级存取控制,确保使用者不能检索其无权查看的文件。审计日志必须记录每一次查询。这些对香港的金融服务及受监管行业是强制要求。
问题五——退出路径是什么?若你在三年后决定离开此供应商,如何以可携格式取回你的向量、中继数据与索引?视这问题为困难的供应商,就是打算锁住你的供应商。
向量数据库如何融入现有 IT 架构?
向量数据库是位于现有系统旁边的新层,而非取代传统数据库。你的 SQL 数据库继续存储结构化业务数据。文件管理系统继续存储档案。向量数据库存储的是这些系统中内容的语义表征,并为 AI 检索而索引。
2026 年多数香港企业采用的整合模式,是每日或每小时的管道,从来源系统抽取新增或变更的文件,通过嵌入模型,并更新向量数据库。这管道位于数据工程堆叠,通常以 Apache Airflow、Azure Data Factory 或 AWS Glue 等工具建构。
存取向量数据库通常经由应用层,而非终端使用者直接存取。AI 助手、客户服务工具或分析师工作台在处理查询时呼叫向量数据库,将检索及生成的答案呈现给使用者。终端使用者从不直接与向量数据库互动。
保安与治理遵循与其他数据系统相同的模式。向量数据库继承来源数据的分类——若一份文件属机密,其嵌入也属机密。存取控制必须与来源系统的存取控制一致,这需要明确的架构决策,而供应商在推销时鲜少主动提出。
这对企业 AI 路线图意味着什么?
对香港企业领袖的策略启示是:向量基础建设现在是常设能力,而非逐项目决策。将向量数据库选择变成项目层面的选择——每个 AI 应用场景各自挑供应商——会在十八个月内导致基础建设碎片化、成本重复、治理不一致。正确模式是选定一个企业标准向量平台,并在各应用场景间重用。
这项决策属于 2026 年企业架构计划的一部分,与云端平台、身份管理、数据仓库并列。它是一项五至七年展望的平台决策。视之为首个 AI 项目的战术性采购决定,只会累积技术债并快速膨胀。
做对这件事的组织,会以首个 AI 应用场景建立企业模式——选择准则、治理规则、嵌入标准、存取模式——并将该模式应用于后续每个应用场景。这在第三个应用场景时,可将部署时间由九个月缩短至六星期,并让总持有成本可预测。
懂AI,更懂你 UD相伴,AI不冷。28 年陪伴香港企业走过科技基础建设选择,让我们明白:多数组织投入不足的那一层,正是决定未来十年 AI 投资能否累积的那一层。向量基础建设,正是那一层。
🧠 正确建立你的企业 AI 记忆层
向量基础建设是你 2026 年及往后每个认真的企业 AI 应用场景的骨干。首次就把架构、供应商选择与治理做对,可以省下多年的返工。UD 已陪伴香港企业走过基础科技决策 28 年。UD 团队手把手带你完成每一步——从需求定义、供应商筛选、架构检视,到正式上线部署。