Векторная база данных — это специализированное хранилище, оптимизированное для эффективного поиска среди огромного количества векторов (эмбеддингов) тех, что наиболее близки по смыслу к заданному запросу, измеряя расстояние в многомерном пространстве (например, косинусное расстояние), а не точное совпадение значений, как в традиционных реляционных базах данных.
Такая база данных необходима, потому что перебор всех сохранённых векторов «в лоб» становится слишком медленным уже при миллионах записей — векторные базы используют специальные индексные структуры для приближённого поиска ближайших соседей, находящие достаточно точный результат за миллисекунды даже среди миллиардов записей.
Векторная база данных — обязательный компонент практически любой RAG-системы: документы компании заранее превращаются в эмбеддинги и сохраняются в такой базе, а при запросе пользователя система находит наиболее релевантные фрагменты для передачи модели в качестве контекста.