NICHT KLASSIFIZIEREN, HALLUZINIEREN: DER CLEVERE TAGGING-TRICK

Das Wichtigste

Statt einem LLM tausende Kategorien vorzugeben, lässt man es freie Tags erfinden und matcht diese anschließend per Embedding gegen die echte Taxonomie. Simon Willison stellt eine clevere Lösung von Doug Turnbull für ein Problem vor, das jeder kennt, der große, unsortierte Content-Mengen kategorisieren muss.

Was ist passiert?

Willison sitzt auf einem Blog-Archiv mit 1.856 Tags, das er nie vollständig verschlagwortet hat. Das klassische Problem: Eine derart große Tag-Liste lässt sich keinem LLM sinnvoll als Kontext mitgeben, um zu fragen "welcher dieser Tags passt am besten".

Die Lösung von Doug Turnbull dreht das Problem um. Man zeigt dem Modell die existierende Taxonomie gar nicht. Stattdessen bekommt es nur ein paar Beispiele für das Format der gewünschten Tags und generiert daraufhin frei erfundene, plausible Klassifikationen für den jeweiligen Content.

Erst danach kommt Vector Search ins Spiel: Die halluzinierten Tags werden per Embedding mit dem echten Tag-Korpus verglichen, um die nächstgelegenen, tatsächlich existierenden Kategorien zu finden. Das Beispiel aus dem Prompt stammt aus dem E-Commerce-Bereich, funktioniert aber nach demselben Prinzip: Für die Suchanfrage "brown coffee table" soll das Modell eine passende, aber frei erfundene Produktklassifikation wie "Furniture / Living Room Furniture / Coffee Tables & End Tables / Coffee Tables" generieren.

Warum ist das relevant?

Das Verfahren löst ein sehr praktisches Skalierungsproblem. Große Taxonomien, ob Blog-Tags, Produktkategorien oder interne Wissensdatenbanken, passen oft nicht in ein Kontextfenster oder verwässern die Antwortqualität, wenn man sie komplett mitliefert.

Durch die Trennung von Generierung und Matching bleibt der Prompt schlank, während die Embedding-Suche die Präzision der finalen Zuordnung übernimmt. Für Entwickler, die RAG-Systeme oder Auto-Tagging-Pipelines bauen, ist das ein Muster, das sich unmittelbar übertragen lässt, überall dort, wo die Zielkategorien zahlreich, aber strukturell vorhersehbar sind.

Take-Away

Wer vor dem Problem steht, riesige Taxonomien mit LLMs zu bedienen, sollte das Modell nicht mit der vollständigen Liste überfordern. Ein Format-Beispiel geben, frei generieren lassen, dann per Embedding gegen den echten Bestand matchen, das spart Kontext und liefert oft bessere Treffer als starre Klassifikationsprompts.