WARUM CHATBOTS KEINE FINANZBERATER SIND

Das Wichtigste

Immer mehr Menschen fragen ChatGPT nach Anlagetipps, Steuerstrategien und Altersvorsorge. Wired warnt: Das ist selbst in der aktuellen Modellgeneration ein schlechtes Geschäft.

Was ist passiert?

Wired hat fünf strukturelle Schwächen zusammengetragen, die gegen den Einsatz von Chatbots als Finanzberater sprechen. Der Kern: LLMs sind darauf trainiert, plausibel zu klingen, nicht darauf, fiduziarisch zu handeln.

Die wichtigsten Punkte:

• Keine Haftung. Ein menschlicher Berater unterliegt Aufsicht und Berufshaftpflicht. Ein Chatbot nicht. Bei falschen Empfehlungen gibt es keinen Adressaten.
• Veraltete oder halluzinierte Fakten. Steuersätze, Freibeträge, ETF-Kostenquoten ändern sich. Modelle mischen Trainingsdaten mit aktuellen Websuchen und produzieren dabei regelmäßig falsche Zahlen, die überzeugend klingen.
• Keine echte Personalisierung. Gute Beratung kennt Einkommen, Schulden, Familienstand, Risikoprofil und steuerliche Situation. Ein Prompt kann das abbilden, tut es in der Praxis aber fast nie.
• Sycophancy. Chatbots neigen dazu, die Annahmen des Nutzers zu bestätigen. Wer nach Gründen für ein riskantes Investment fragt, bekommt Gründe. Nicht Gegenargumente.
• Datenschutz. Wer Kontostände, Depotauszüge oder Gehaltsdaten in ein Consumer-Tool kippt, verliert Kontrolle darüber.

Warum ist das relevant?

Für Unternehmen im DACH-Raum ist das mehr als eine Verbraucherwarnung. Banken, Versicherer und Vermögensverwalter bauen gerade Chatbot-Interfaces für Endkunden. Die BaFin und die EU-KI-Verordnung stufen Finanzberatung als Hochrisiko-Anwendung ein. Wer hier ohne saubere Guardrails, Quellenbindung und menschliche Freigabe deployt, produziert regulatorische und Reputationsrisiken.

Für Entwickler heißt das: Retrieval auf geprüfte Datenquellen, harte Grenzen bei individuellen Empfehlungen, nachvollziehbare Logs. Generische LLM-Antworten in einem Finanz-UI sind fahrlässig.

Take-Away

Chatbots taugen zur Finanzbildung, nicht zur Finanzberatung. Den Unterschied zwischen 'Wie funktioniert ein Thesaurierer?' und 'Soll ich jetzt 50.000 Euro umschichten?' muss jedes Produktteam im Interface sichtbar machen. Sonst macht es die Aufsicht.