오늘날 대형언어모델은 극단적으로 빠르게 발전하고 있으나 여전히 개인화나 검색 효율과 관련해서는 한계가 있는 상황이다. LLM은 실시간으로 정보를 구축해서 제공할 수 없고, 개인화 서비스도 제공하지 않는다. 검색증강생성(RAG)의 도입으로 환각 문제는 많이 해결되었지만 여전히 장기 기억력은 없다. 같은 질문을 시간차로 질문하면 처음부터 다시 입력하고, AI가 나를 위한 맞춤형 서비스를 제공하지 않는 게 구조적인 문제 때문이다.이런 문제를 해소하기 위한 돌파구로 꼽히는 것이 벡터 데이터베이스 검색이다. 벡터 DB란 컴퓨터가 이미지, 텍스트 등의 데이터를 정확히 구분할 수 있도록 컴퓨터 형태로 수치화한 데이터다. 현재 검색 방식인 스칼라 DB는 데이터나 문자열 등의 특정 값(Scalar) 형태로 구분하고, 질문을 받고 응답할 때 결과값을 키워드나 조건을 기준으로 찾아서 제공하므로 비효율적이고 병목도 발생한다. 벡터DB는 의미적으로 유사한 형태를 찾는 식으로 동작해 검색 효율이 높고 질문