Inside Sneakers
de

Portable Computer: Perplexity setzelt auf lokale KI, um die Abhängigkeit von der Cloud zu verringern

Portable Computer: Perplexity setzelt auf lokale KI, um die Abhängigkeit von der Cloud zu verringern
Bildnachweis : NVIDIA

Beschreibung

Perplexity bringt Portable Computer auf den Markt – eine Version seines Agenten Perplexity Computer, die in Zusammenarbeit mit NVIDIA entwickelt wurde und direkt auf einem lokalen Gerät ausgeführt werden kann. Die Lösung ist anfänglich über DGX Spark verfügbar. Dieser Ansatz ermöglicht Nutzern, private Daten lokal zu speichern und Aufgaben auszuführen, ohne dabei Perplexity-Credits verbrauchen zu müssen.

Funktionale Erweiterung durch lokale Verarbeitung

Portable Computer überträgt die fortgeschrittenen Fähigkeiten von Perplexity Computer auf einen lokalen Rechner. Dadurch können Nutzer Daten analysieren, Dateien zusammenfassen und komplexe Workflows ausführen, ohne sich ausschließlich auf Cloud-Dienste verlassen zu müssen. Zu Beginn läuft dieser Dienst unter NVIDIA DGX Spark mit Linux-Unterstützung; die Unterstützung für PCs mit NVIDIA RTX GPUs und Windows ist für später geplant.

Die gesamte Infrastruktur, die der Agent zur Ausführung benötigt, wird direkt auf dem Gerät betrieben. Dazu gehören ein Orchestrator, ein Scheduler (Planer), Tool-Routing, ein Task Manager und ein lokaler Suchindex. Dadurch können private Dateien auf dem Gerät verbleiben und lokal ausgeführte Aufgaben verursachen keine Kosten in Form von Perplexity-Credits.

Hybridansatz und Modellvielfalt

Das System verfolgt einen hybriden Ansatz. Falls eine Aufgabe erweiterte Recherchen oder stärkere Reasoning-Fähigkeiten erfordert, kann das lokale Modell die Erlaubnis einholen, auf die Cloud zuzugreifen. Perplexity betont jedoch dabei, dass sensible Informationen auch in diesem Fall weiterhin auf dem Gerät verbleiben.

Portable Computer lässt sich mit mehreren Modellen betreiben: Nutzer können zwischen Qwen 3.8 27B oder PPLX 27B (einer nachtrainierten Version des Modells durch Perplexity) wählen. Eine weitere Option ist NVIDIA Nemotron 3.5 Lightning.

Integration und Sicherheit

Neben der Arbeit mit lokalen Dateien kann Portable Computer sich auch mit weit verbreiteten Anwendungen wie Google Drive, Gmail, Slack oder GitHub verbinden. Code-Ausführung und die Nutzung von Tools erfolgen ausschließlich in Sandbox-Umgebungen, was einen kontrollierten Zugriff auf die verbundenen Dateien und Anwendungen gewährleistet.

Anforderungen an Hardware und Verfügbarkeit

Dieser fortschrittliche Ansatz setzt geeignete Hard- und Software voraus. Zunächst wird Portable Computer über das NVIDIA DGX Spark angeboten, welches über 128 GB Unified Memory verfügt und in den Vereinigten Staaten für 4.699 US-Dollar erhältlich ist. Perplexity plant anschließend eine Erweiterung des Betriebs auf PCs mit NVIDIA RTX GPUs.

Mit Portable Computer erforscht Perplexity somit ein Modell, bei dem Agenten einen immer größeren Teil ihrer Arbeit direkt auf der Hardware des Nutzers erledigen können und die Cloud lediglich für die notwendigen Aufgaben beibehalten wird.

Mit KI aus dem Französischen übersetzt

Weitere Inhalte, die Sie interessieren könnten.

Weitere Inhalte, die Sie interessieren könnten.

Weitere Inhalte, die Sie interessieren könnten.