Procesar IA en el celular reduce hasta 95% el consumo energético
- Malka Mekler
- 2 jul
- 2 Min. de lectura
Una prueba con el modelo Llama-2-7B mostró que procesar una consulta desde el dispositivo fue 94% más eficiente energéticamente y 96% más eficiente en consumo de agua.
Mover la inteligencia artificial del centro de datos a los dispositivos personales no solo es posible: puede ser una de las formas más efectivas de reducir su impacto ambiental. Así lo indica un estudio reciente publicado por investigadores de la Universidad de California en Riverside, en colaboración con Qualcomm, según reportó Axios.
La investigación comparó el rendimiento de seis modelos generativos de IA ejecutados localmente en teléfonos equipados con chips de Qualcomm frente a la ejecución tradicional en la nube. El resultado fue contundente, ya que operar estos modelos directamente desde el dispositivo implicó una reducción del consumo energético de entre 75% y 95%, además de menores niveles de uso de agua y una significativa disminución en la huella de carbono.
Uno de los experimentos más ilustrativos se realizó con el modelo Llama-2-7B respondiendo una consulta sobre programación en California. Ejecutarlo en el dispositivo fue 94% más eficiente en términos de energía y 96% más eficiente en uso de agua que hacerlo en la nube.
Aunque el tiempo de respuesta fue ligeramente superior al hacerlo desde el móvil, los investigadores consideran que cerrar esa brecha será clave para extender el uso local de estos modelos, especialmente en aquellos con mayor potencia y popularidad.
Qualcomm, por su parte, está desarrollando una herramienta de simulación que permite visualizar la diferencia en consumo energético y de recursos entre ejecutar una consulta en la nube o desde un dispositivo específico, en función de la ubicación del usuario.
El avance refuerza una visión que gana fuerza en la industria tecnológica: la posibilidad de que los smartphones se conviertan en centros autónomos de procesamiento de inteligencia artificial, con beneficios tanto en eficiencia como en privacidad.
Comments