PERPLEXITY SPLITTET KI-AUFGABEN ZWISCHEN CLOUD UND MAC

Das Wichtigste

Perplexity zerteilt einzelne Computer-Aufgaben zwischen Cloud-Modellen und einem lokalen Modell auf dem Mac. Ein On-Device-Klassifikator entscheidet, welche Daten die Maschine verlassen dürfen, welche maskiert und welche komplett zurückgehalten werden.

Was ist passiert?

Perplexity hat Hybrid Compute für Mac veröffentlicht, verfügbar für Pro-, Max- und Enterprise-Abonnenten. Die Idee löst ein strukturelles Problem von Agenten: Genau die Dokumente, die einen Assistenten nützlich machen, wie Vertragsunterlagen, Klientendaten oder interne Files, sind oft die Daten, die niemand in die Cloud schicken will.

Der Computer-Agent startet jede Aufgabe zunächst in der Cloud, wo Frontier-Modelle Websuche, Planung und komplexes Reasoning übernehmen. Sobald ein Schritt sensible Dateien berührt, wird genau dieser Schritt an ein kompaktes lokales Modell auf dem Mac übergeben, ohne die Aufgabe neu zu starten. Am Ende führt der Agent beide Ergebnisse wieder zusammen.

Interessant ist die Umkehrung zur Woche zuvor: Auf NVIDIA DGX Spark hatte Perplexity einen Modus gezeigt, der lokal startet und bei Bedarf in die Cloud eskaliert. Auf dem Mac ist die Logik umgedreht, aber der Orchestrator bleibt derselbe.

Technische Details

Das Herzstück ist die Privacy Gate, für die Perplexity auch den Klassifikator open-sourced hat. Bevor Inhalte aus geschützten Dateien die Cloud erreichen, prüft ein On-Device-Modell den Text und wählt zwischen vier Optionen: lokal behalten, maskieren, Aktion verweigern oder Nutzer um Zustimmung bitten. Kreditkartendaten, Zugangsdaten und amtliche Ausweise bekommen die strengste Behandlung.

Der Klassifikator heißt PII-Tracer, ein 0,6B-Modell auf Basis eines Qwen3-Backbones mit bidirektionaler Aufmerksamkeit über ein 4096-Token-Fenster. Trainiert wurde er über drei Epochen auf rund 714.000 Beispielen. Im begleitenden Benchmark PII-TRACE mit 13.148 synthetischen Konversationen in 13 Sprachen erreicht PII-Tracer unter zwölf getesteten Detektoren den höchsten Character-F1-Wert (0,629) und liegt bei der Konsistenz, also dem vollständigen Finden aller Wiederholungen eines sensiblen Begriffs, klar vorne: 79,4 Prozent gegenüber 57 Prozent beim nächstplatzierten Modell.

Ein technisches Detail lohnt Beachtung: Die Erkennungsrate sinkt bei langen Konversationen deutlich, von 0,975 bei unter 1.000 Zeichen auf 0,687 ab 10.000 Zeichen. Perplexitys Lösung ist kein neues Training, sondern ein Decoding-Trick mit überlappenden Sliding Windows, der die Recall-Werte wieder auf 0,965 hebt.

Drei lokale Modelle stehen zur Wahl, darunter ein eigens für Computer nachtrainiertes Perplexity-Modell sowie Qwen3.6 35B-A3B. Voraussetzung ist ein Mac mit Apple Silicon, macOS 15 oder neuer und mindestens 24GB Unified Memory (32GB empfohlen). Die Installation läuft über einen Klick in der Mac-App, ohne separate Runtime oder API-Key, und lokale Arbeit verbraucht keine Cloud-Credits.

Warum ist das relevant?

Für Entwickler und Unternehmen in regulierten Branchen wie Recht, Gesundheit oder Finanzen ist das mehr als ein Feature. Es ist die Voraussetzung dafür, agentische Assistenten überhaupt mit echten, sensiblen Unterlagen arbeiten zu lassen. Enterprise-Admins können organisationsweite Regeln festlegen, was zwingend lokal bleiben muss, was maskiert werden darf und was eine explizite Freigabe braucht, inklusive Audit-Logs.

Das Zusammenspiel mit iPhone macht das Setup praktisch: Eine Aufgabe lässt sich remote anstoßen, während die sensiblen Schritte auf dem Mac im Büro laufen. Perplexity empfiehlt dafür sogar einen dauerhaft laufenden Mac Mini als lokalen Inferenz-Knoten.

Take-Away

Wer in DACH mit sensiblen Kundendaten arbeitet und KI-Agenten produktiv einsetzen will, sollte sich Hybrid Compute anschauen, gerade weil der Ansatz die Datenschutzfrage nicht wegdiskutiert, sondern technisch beantwortet. Der offene PII-Tracer-Klassifikator auf Hugging Face lohnt zudem einen Blick für alle, die eigene Gating-Mechanismen für lokale Agenten bauen wollen.