Semantic Filter Search
AI-gestützte Filter Search für ein komplexes Buchungsprodukt, bei der Freitext in passende Filterentscheidungen übersetzt wird.
- Semantic Search
- LLM
- CAG
- Structured Filters
- E-Commerce AI
Projektkontext
Das Projekt entstand in einem Buchungsumfeld mit einem vergleichsweise komplexen Produkt und sehr vielen Filtermöglichkeiten. Viele Nutzer buchen solche Produkte nur selten und wissen deshalb nicht immer, welche Filter sie wirklich brauchen.
Ziel war eine natürlichsprachige Eingabe, bei der Nutzer ihr Anliegen als Fließtext beschreiben können. Das System sollte daraus passende Filter ableiten und setzen, ohne die bestehende Filter- und Produktlogik zu umgehen.
Mein Beitrag
Ich habe die technische Konzeption des LLM-basierten Filter-Mappings begleitet und die Ansätze mit Blick auf Ergebnisqualität, Latenz, Komplexität und Wartbarkeit bewertet.
- Nutzerintentionen aus freien Texteingaben auf strukturierte Filterentscheidungen abgebildet
- Kontext-Engineering gemeinsam mit dem Produktmanagement-Team für korrekte Filterverwendung entwickelt
- RAG-basierten Ansatz als erste technische Variante evaluiert
- CAG-basierten Ansatz gegen Qualität, Laufzeit und Komplexität geprüft
- Technische Umsetzung so ausgerichtet, dass bestehende Filterlogik erhalten blieb
Technischer Ansatz
Der Kern lag darin, freie Sprache in strukturierte, kontrollierbare Filterausgaben zu übersetzen. Das LLM interpretierte die Nutzerintention, die eigentliche Produktauswahl blieb aber an die bestehende Filterarchitektur angebunden.
Als zusätzlicher Kontext war bekannt, wie einzelne Filter mit dem Produkt interagieren. Dadurch konnten negierende, doppelte oder sich gegenseitig ausschließende Filter intelligent vermieden und Filter im jeweiligen Produktkontext korrekt gesetzt werden.
Ein RAG-basierter Ansatz war für diesen Use Case nicht performant genug und lieferte schlechtere Ergebnisse. Der CAG-basierte Ansatz war schneller, erzielte bessere Filterentscheidungen und war technisch weniger komplex, wodurch er auch einfacher wartbar blieb.
Ergebnis
Das Feature ging produktiv in einem realen E-Commerce-Umfeld live und zeigt, wie LLM-Funktionalität in bestehende Such- und Filtersysteme eingebettet werden kann, ohne deren Kontrolllogik aufzugeben.
- Nutzer konnten ihren Bedarf in natürlicher Sprache beschreiben
- Freitext wurde in konkrete, weiterverarbeitbare Filterentscheidungen übersetzt
- Der CAG-basierte Ansatz war schneller, genauer und einfacher wartbar als die RAG-Variante
Technologien
- Python
- LiteLLM
- OpenAI
- ChromaDB
- Langfuse
- FastAPI
- Docker