Perplexity lleva sus agentes de IA al PC y elimina el costo por tokens en las tareas locales
- angiecantillo1
- hace 1 hora
- 4 min de lectura
La empresa lanzó Portable Computer, una versión local de su plataforma de agentes que funciona directamente sobre hardware de Nvidia. La compañía busca cambiar la economía de los agentes de IA, mantener archivos y procesos sensibles dentro del dispositivo y recurrir a la nube únicamente cuando el usuario lo autorice.
La inteligencia artificial generativa nació en la nube, pero la siguiente etapa de la carrera podría estar mucho más cerca del escritorio.
Perplexity acaba de lanzar Portable Computer, una versión de su plataforma de agentes Computer diseñada para ejecutar modelos, herramientas, inferencia y el propio entorno de trabajo directamente sobre el hardware del usuario. El lanzamiento, desarrollado en colaboración con Nvidia, comienza con el supercomputador de escritorio DGX Spark y con máquinas Linux equipadas con GPUs Nvidia RTX.
La propuesta responde a dos problemas que empiezan a pesar cada vez más en la adopción empresarial de agentes: cuánto cuesta ejecutar tareas complejas durante largos periodos y qué ocurre con los datos que una organización entrega a un sistema de IA.
Portable Computer intenta resolver ambos trasladando el procesamiento al dispositivo. Las tareas que se completan localmente no consumen créditos ni generan un costo por token. Además, el modelo, los archivos y el trabajo pueden permanecer en la máquina, mientras que cualquier escalamiento hacia un modelo más potente en la nube requiere autorización del usuario.
El movimiento es significativo porque Perplexity no está planteando simplemente ejecutar un chatbot local. Está llevando al dispositivo una arquitectura completa de agentes.
Un agente completo, no solo un modelo
Portable Computer empaqueta en un mismo sistema los modelos locales, el motor de inferencia, el agente, las herramientas, los conectores con aplicaciones y un sandbox de seguridad.
Ese detalle es fundamental. Hasta ahora, ejecutar IA localmente ha significado para muchos usuarios descargar modelos, configurar servidores de inferencia, conectar herramientas y resolver manualmente problemas de rendimiento. Perplexity intenta convertir ese proceso en una experiencia mucho más parecida a instalar una aplicación.
La plataforma está diseñada para realizar tareas de varios pasos, como revisar carpetas de documentos, analizar datos, elaborar informes y trasladar resultados a sistemas empresariales.
En una demostración realizada por la compañía, Portable Computer recibió una carpeta con documentos financieros y formularios 1099 para actuar como un inversionista minorista. El sistema utilizó un modelo Qwen de 27,000 millones de parámetros para revisar los archivos y detectar situaciones hipotéticas en las que el usuario estaba pagando comisiones innecesarias. Todo el proceso ocurrió en un Nvidia DGX Spark y el contador de créditos de nube permaneció en cero.
La demostración apunta a uno de los casos de uso más interesantes de la IA local: información que resulta demasiado sensible para enviarla automáticamente a un proveedor externo.
La apuesta de Perplexity tampoco consiste en declarar obsoleta la nube. Portable Computer adopta un modelo local primero. El agente inicia cada tarea en el dispositivo y puede utilizar servicios como Google Drive, Gmail, GitHub y Slack. Si necesita una capacidad que el modelo local no puede ofrecer, puede recurrir a un modelo de frontera en la nube. La diferencia es que esa transferencia requiere autorización.
La arquitectura cambia así la relación de poder entre el usuario y el proveedor de IA.
En el modelo tradicional, los datos viajan hacia el modelo porque el procesamiento ocurre fuera del dispositivo. En el esquema de Perplexity, la decisión se invierte: el trabajo permanece local y solo una parte determinada de la tarea puede salir del equipo cuando exista una razón concreta para hacerlo.
La compañía también incorpora mecanismos para controlar esa transferencia. Antes de una consulta a un modelo remoto, el sistema puede analizar el contexto relevante y detectar información personal, permitiendo que el usuario sepa qué datos están a punto de abandonar el dispositivo.
Para empresas que trabajan con información financiera, código propietario, documentos legales o datos de clientes, esa distinción puede ser más importante que unos cuantos puntos porcentuales adicionales en un benchmark.
Para Nvidia, el lanzamiento tiene una lectura estratégica. La compañía ha construido buena parte de su crecimiento reciente alrededor de los centros de datos de IA, pero Portable Computer muestra que existe otra oportunidad: vender infraestructura capaz de ejecutar agentes directamente en oficinas, estudios, laboratorios y escritorios profesionales.
El primer dispositivo destacado es el DGX Spark, acompañado por sistemas Linux con GPUs RTX. El requisito mínimo es una GPU RTX con al menos 24 GB de VRAM, aproximadamente el nivel de una GeForce RTX 3090 o superior. Windows llegará en septiembre. En el lanzamiento, el producto está disponible para suscriptores Pro, Max, Enterprise Pro y Enterprise Max de Perplexity.
La barrera de entrada, sin embargo, sigue siendo elevada. Una computadora con 24 GB de VRAM está muy lejos de representar el equipo promedio de una oficina. Eso limita inicialmente el mercado de Portable Computer a desarrolladores, profesionales, empresas y usuarios capaces de invertir en hardware especializado.
Pero también explica por qué Nvidia está interesada. Si los agentes comienzan a realizar cada vez más tareas directamente en los equipos, la demanda de GPUs no estará determinada únicamente por los centros de datos.
Comentarios