Abstrakte blaue und grüne Lichtbahnen als Visualisierung semantischer Filterlogik

Semantic Filter Search

AI-gestützte Filter Search für ein komplexes Buchungsprodukt, bei der Freitext in passende Filterentscheidungen übersetzt wird.

  • Semantic Search
  • LLM
  • CAG
  • Structured Filters
  • E-Commerce AI

Projektkontext

Das Projekt entstand in einem Buchungsumfeld mit einem vergleichsweise komplexen Produkt und sehr vielen Filtermöglichkeiten. Viele Nutzer buchen solche Produkte nur selten und wissen deshalb nicht immer, welche Filter sie wirklich brauchen.

Ziel war eine natürlichsprachige Eingabe, bei der Nutzer ihr Anliegen als Fließtext beschreiben können. Das System sollte daraus passende Filter ableiten und setzen, ohne die bestehende Filter- und Produktlogik zu umgehen.

Mein Beitrag

Ich habe die technische Konzeption des LLM-basierten Filter-Mappings begleitet und die Ansätze mit Blick auf Ergebnisqualität, Latenz, Komplexität und Wartbarkeit bewertet.

  • Nutzerintentionen aus freien Texteingaben auf strukturierte Filterentscheidungen abgebildet
  • Kontext-Engineering gemeinsam mit dem Produktmanagement-Team für korrekte Filterverwendung entwickelt
  • RAG-basierten Ansatz als erste technische Variante evaluiert
  • CAG-basierten Ansatz gegen Qualität, Laufzeit und Komplexität geprüft
  • Technische Umsetzung so ausgerichtet, dass bestehende Filterlogik erhalten blieb

Technischer Ansatz

Der Kern lag darin, freie Sprache in strukturierte, kontrollierbare Filterausgaben zu übersetzen. Das LLM interpretierte die Nutzerintention, die eigentliche Produktauswahl blieb aber an die bestehende Filterarchitektur angebunden.

Als zusätzlicher Kontext war bekannt, wie einzelne Filter mit dem Produkt interagieren. Dadurch konnten negierende, doppelte oder sich gegenseitig ausschließende Filter intelligent vermieden und Filter im jeweiligen Produktkontext korrekt gesetzt werden.

Ein RAG-basierter Ansatz war für diesen Use Case nicht performant genug und lieferte schlechtere Ergebnisse. Der CAG-basierte Ansatz war schneller, erzielte bessere Filterentscheidungen und war technisch weniger komplex, wodurch er auch einfacher wartbar blieb.

Ergebnis

Das Feature ging produktiv in einem realen E-Commerce-Umfeld live und zeigt, wie LLM-Funktionalität in bestehende Such- und Filtersysteme eingebettet werden kann, ohne deren Kontrolllogik aufzugeben.

  • Nutzer konnten ihren Bedarf in natürlicher Sprache beschreiben
  • Freitext wurde in konkrete, weiterverarbeitbare Filterentscheidungen übersetzt
  • Der CAG-basierte Ansatz war schneller, genauer und einfacher wartbar als die RAG-Variante

Technologien

  • Python
  • LiteLLM
  • OpenAI
  • ChromaDB
  • Langfuse
  • FastAPI
  • Docker

Ähnliches Projekt im Kopf?

Wenn du AI-Automation, semantische Suche oder eine produktnahe Web-App planst, klären wir Scope, Daten, UX und einen realistischen ersten Release.

Projekt besprechen