محصولات جدید

پرپلکسیتی عامل Computer را به سخت‌افزار محلی NVIDIA می‌آورد

پرپلکسیتی Portable Computer را معرفی کرده است، نسخه‌ای local-first از عامل Computer که بخش اصلی runtime عامل را به سخت‌افزاری منتقل می‌کند که خود کاربر کنترل می‌کند. نسخه نخست روی NVIDIA DGX Spark و لینوکس اجرا می‌شود و برای مشترکان Pro و Max در دسترس است. برخلاف یک برنامه دسکتاپ که همچنان بیشتر استدلال را به cloud می‌فرستد، Portable Computer می‌تواند مدل، orchestrator، planner، tool router، scheduler، durable task queue و local search index را روی خود دستگاه اجرا کند.

این تغییر برای تیم‌های مهندسی که با کد منبع خصوصی، اسناد محرمانه یا workloadهایی با هزینه مداوم cloud inference کار می‌کنند اهمیت دارد. طبق اعلام رسمی پرپلکسیتی، کار محلی از اعتبارهای Perplexity مصرف نمی‌کند و سیستم می‌تواند پیش از انتقال یک مرحله به مدل‌های cloud برای استدلال قوی‌تر یا اطلاعات بیرونی، از کاربر اجازه بگیرد. بنابراین تغییر معماری فقط «هوش مصنوعی روی کامپیوتر شخصی» نیست. این یک طراحی hybrid برای agent است که اجرای محلی را مرز پیش‌فرض و cloud را مسیر escalation صریح در نظر می‌گیرد.

runtime عامل به workstation منتقل می‌شود

Portable Computer در ابتدا از Qwen 3.8 27B و PPLX 27B، نسخه post-trained پرپلکسیتی، پشتیبانی می‌کند. قرار است NVIDIA Nemotron 3.5 Lightning نیز به model picker اضافه شود. پرپلکسیتی می‌گوید مدل محلی می‌تواند در فایل‌ها و کد جست‌وجو کند، اسناد را ترکیب و تحلیل کند، روی دستگاه action انجام دهد و jobهای طولانی‌تر را ادامه دهد، در حالی که اجزای orchestration نیز محلی باقی می‌مانند.

به‌روزرسانی Local AI انویدیا نیز تأیید می‌کند که Portable Computer برای DGX Spark بهینه شده و هدفش اجرای workflowهای خصوصی به‌صورت محلی بدون مصرف token limit برای کارهای محلی است. DGX Spark بر پایه پلتفرم GB10 انویدیا و ۱۲۸ گیگابایت unified memory ساخته شده است، بنابراین هدف سخت‌افزاری آن با یک لپ‌تاپ اداری معمولی تفاوت زیادی دارد. این نکته برای ارزیابی خبر مهم است: محصولی‌شدن عامل‌های محلی توانمند را نشان می‌دهد، اما اثبات نمی‌کند همین workloadها اکنون روی ماشین‌های معمول توسعه‌دهندگان عملی هستند.

پرپلکسیتی می‌گوید پشتیبانی از PCهای مجهز به RTX و نیز Windows در راه است. تا قبل از آن، deployment به لینوکس و سخت‌افزار نسبتاً تخصصی NVIDIA محدود است. در نتیجه نسخه فعلی بیشتر شبیه یک agent appliance در سطح workstation است تا یک دستیار دسکتاپ عمومی.

حریم خصوصی به مرز routing وابسته است

مهم‌ترین استدلال عملی برای agentهای محلی، کنترل داده است. یک coding یا research agent دقیقاً زمانی مفید می‌شود که به فایل‌ها، repositoryها و context داخلی دسترسی داشته باشد، یعنی همان داده‌هایی که کاربر ممکن است نخواهد به یک ارائه‌دهنده مدل خارجی منتقل شوند. Portable Computer طوری طراحی شده که فایل‌ها و پردازش محلی روی دستگاه بمانند و انتقال به cloud نیازمند مجوز باشد.

این یک control boundary معنادار است، اما نباید بیش از حد تفسیر شود. local-first با offline-only یکسان نیست. web research، SaaSهای متصل و مدل‌های frontier cloud وقتی توسط کاربر فراخوانی شوند، طبیعتاً سیستم‌های خارجی را وارد زنجیره می‌کنند. پرپلکسیتی همچنین می‌گوید اجرای کد و ابزارها در sandboxهای ایزوله با دسترسی کنترل‌شده به فایل‌ها و برنامه‌ها انجام می‌شود. برای تیم‌های مهندسی و امنیت، سؤال واقعی این است که آیا این کنترل‌ها برای threat model سازمان قابل مشاهده و قابل اعمال هستند یا نه.

گزارش مستقل Computerworld نیز همین تنش را برجسته می‌کند. طراحی محلی می‌تواند exposure داده حساس و هزینه استفاده را کاهش دهد، اما سازمان‌ها همچنان باید بررسی کنند مرز حریم خصوصی چگونه enforce می‌شود، چه telemetry از دستگاه خارج می‌شود، cloud escalation چگونه به کاربر نشان داده می‌شود و مجوز connectorها چگونه با فایل‌های محلی تعامل می‌کنند.

local inference اقتصاد agent را تغییر می‌دهد

عامل‌های cloud دو هزینه متغیر دارند: inference مدل و زیرساخت لازم برای زنده نگه داشتن taskهای طولانی. Portable Computer بخشی از این هزینه را به سخت‌افزار تحت مالکیت منتقل می‌کند. پرپلکسیتی می‌گوید کار روی دستگاه credit مصرف نمی‌کند، بنابراین تحلیل مکرر اسناد، بررسی کد و planning روتین می‌تواند پس از پرداخت هزینه سخت‌افزار و subscription بدون مصرف metered cloud انجام شود.

این سیستم رایگان نیست. DGX Spark سخت‌افزار تخصصی است، دسترسی Pro یا Max همچنان لازم است، برق و نگهداری هزینه دارند و taskهای دشوار ممکن است همچنان به cloud inference پولی منتقل شوند. در نتیجه سؤال اقتصادی از «این workflow چند token مصرف می‌کند؟» به «کدام بخش workload به‌اندازه کافی ارزان و توانمند است که local بماند و چه زمانی استفاده از intelligence ابری ارزش دارد؟» تغییر می‌کند.

پرپلکسیتی benchmarkهایی منتشر کرده و ادعا می‌کند harness آن همراه با PPLX 27B در چند آزمون knowledge-work از harnessهای محلی جایگزین بهتر عمل می‌کند. این ارزیابی‌ها توسط خود vendor اجرا شده‌اند، بنابراین باید به‌عنوان ادعای منتسب‌شده دیده شوند، نه حکم مستقل درباره performance. نکته دفاع‌پذیرتر معماری است: پرپلکسیتی یک stack یکپارچه عرضه می‌کند که مدل محلی، machinery ماندگار task، search و ابزارهای sandboxed را کنار هم بسته‌بندی کرده است.

چرا برای تیم‌های نرم‌افزاری مهم است

برای سازمان‌های مهندسی نرم‌افزار، Portable Computer مهم است چون private codebase یکی از workloadهایی است که پرپلکسیتی صریحاً نام می‌برد. عاملی که بتواند repository را بررسی کند، context پروژه را جست‌وجو کند و tool-driven work انجام دهد بدون اینکه آن context به‌طور خودکار به مدل remote ارسال شود، trade-off میان مفیدبودن agent و exposure کد منبع را تغییر می‌دهد.

این محصول جهت گسترده‌تری را در معماری coding agentها هم نشان می‌دهد. بسیاری از محصولات امروز orchestration و inference را در cloud فروشنده متمرکز می‌کنند، حتی وقتی UI روی دستگاه کاربر اجرا می‌شود. Portable Computer بخش بیشتری از stack را روی workstation می‌آورد و در عین حال یک مسیر انتخابی برای استفاده از cloud حفظ می‌کند. این مدل hybrid می‌تواند برای تیم‌هایی مفید باشد که می‌خواهند context روتین و assetهای حساس محلی بمانند ولی برای مراحل دشوار همچنان به frontier reasoning دسترسی داشته باشند.

سؤال‌های حل‌نشده عملیاتی‌اند. تیم‌ها باید مقاومت sandbox در برابر escape، network policy، مدیریت secret، audit log، scope connectorها، داده نگهداری‌شده هنگام cloud escalation و recovery برای jobهای طولانی را آزمایش کنند. همچنین باید بسنجند مدل‌های محلی کلاس 27B واقعاً برای codebase و workflow آنها کافی هستند یا نه، نه اینکه فرض کنند benchmarkهای vendor مستقیماً به productivity مهندسی تبدیل می‌شوند.

اهمیت Portable Computer در نهایت کمتر به‌عنوان یک برنامه AI دسکتاپ دیگر و بیشتر به‌عنوان بسته‌بندی واقعی زیرساخت local-first agent است. این محصول inference مدل، orchestration، indexing محلی شبیه حافظه و tool execution را روی سخت‌افزار تحت مالکیت قرار می‌دهد و مدل remote را به یک مرحله اختیاری تبدیل می‌کند، نه محیط اجرای پیش‌فرض. اگر این رویکرد فراتر از DGX Spark قابل اعتماد باشد، deployment محلی و hybrid می‌تواند برای سازمان‌هایی که تاکنون agentهای پیشرفته را cloud-only می‌دانستند به یک انتخاب معماری واقعی‌تر تبدیل شود.

Sources
- Perplexity: Introducing Portable Computer
- NVIDIA Local AI: Portable Computer on DGX Spark
- Computerworld: Perplexity's on-device AI offering

تاریخ انتشار: