Qualcomm, proveedor líder de procesadores y comunicaciones inalámbricas, ha dado importantes pasos en el campo de la inteligencia artificial (IA) en el Mobile World Congress Barcelona. El objetivo principal de la empresa es ejecutar IA a escala en dispositivos periféricos como teléfonos, computadoras y otros dispositivos.
Qualcomm ha ejecutado con éxito el primer modelo multimodal de gran lenguaje (LLM) del mundo en un teléfono Android, lo que permite una conversación de varias etapas similar a un chat entre el usuario y su dispositivo. Además, la compañía ha anunciado planes para acelerar la IA en una amplia gama de dispositivos de vanguardia, incluidas computadoras, vehículos, teléfonos, dispositivos industriales de IoT, puntos de acceso Wi-Fi e infraestructura celular de próxima generación.
Centro de IA de Qualcomm fácil de usar
Para facilitar el desarrollo de aplicaciones de IA, Qualcomm ha creado AI Hub, que proporciona a los desarrolladores una amplia biblioteca de modelos de IA optimizados para un alto rendimiento en Snapdragon y otras plataformas de Qualcomm. La plataforma ofrece muchas funciones, como representación de imágenes y texto, e inferencias hasta cuatro veces más rápidas en dispositivos con tecnología Snapdragon u otras plataformas Qualcomm.
AI Hub ofrece una experiencia fácil de usar, que permite a los desarrolladores elegir entre más de 75 modelos de IA y seleccionar entre entornos de trabajo TensorFlow, PyTorch u Onyx. Los modelos también están disponibles en Hugging Face y GitHub, lo que facilita a los desarrolladores la integración de la IA en sus aplicaciones.
¿Qué es LoRA?
Qualcomm también alcanzó otro logro técnico al ejecutar su primera implementación de orden bajo (LoRA) en un teléfono Android. Desarrollado por Microsoft, LoRA tiene como objetivo reducir la complejidad del entrenamiento de modelos en términos de latencia, costo y requisitos de hardware. LoRA ofrece un enfoque novedoso para la generación de imágenes que es diferente de las herramientas de IA generativa como DALL-E. Al reducir la complejidad del modelo, LoRA reduce los requisitos de memoria, mejora la eficiencia y permite personalizar versiones livianas sin necesidad de descargar o ajustar todo el modelo.
LoRA adopta un enfoque diferente a los modelos tradicionales de renderizado de IA. Estos modelos aprenden un patrón de píxeles para crear la imagen. LoRA utiliza una lista de vectores para crear la imagen. Los vectores representan las características básicas de la imagen (forma, color, textura, etc.).
El enfoque basado en vectores de LoRA reduce significativamente la complejidad y el tamaño del modelo. Esto permite entrenar el modelo más rápido, requiriendo menos hardware y consumiendo menos energía.
Snapdragon X Elite: El diseñado para aplicaciones de IA
Diseñado para ejecutar IA, el Snapdragon X Elite presenta una arquitectura SoC de 4 nm, una CPU Qualcomm Oryon de 12 núcleos con soporte de doble núcleo y una GPU Qualcomm Adreno integrada. Ofrece días de uso con una sola carga, eliminando la necesidad de recarga constante. Una de sus características más importantes es que también puede ejecutar modelos LLM de IA generativa con 13 mil millones de parámetros.
Para demostrar las capacidades del SoC, Qualcomm realizó una prueba comparativa de rendimiento entre el Snapdragon X Elite y un procesador x86 de la competencia con la configuración de GPU, CPU y NPU más eficiente. El punto de referencia utilizó GIMP, un potente editor de gráficos rasterizados de código abierto equipado con el complemento Stable Diffusion para la generación de imágenes GAI. Los resultados mostraron que Snapdragon X Elite con una NPU “45 TOPS” puede renderizar imágenes tres veces más rápido que su competidor x86. Para comprender mejor cuán poderosa es la potencia de procesamiento de 45 TOPS, podemos mirar el siguiente ejemplo:
- Un cerebro humano puede realizar unos 100 billones de operaciones por segundo.
- Una computadora de escritorio puede realizar alrededor de 10 billones de operaciones por segundo.
- Un teléfono inteligente puede realizar alrededor de 1 billón de operaciones por segundo.
Como puede verse, la potencia de procesamiento de 45 TOPS es 45 veces mayor que la de un teléfono inteligente y 4,5 veces mayor que la de una computadora de escritorio. Esto demuestra que la plataforma Snapdragon X Elite es una plataforma muy poderosa para aplicaciones de IA.
NPU, cuyo nombre empezamos a escuchar
NPU significa Neural Processing Unit, un procesador especializado para aplicaciones de inteligencia artificial y aprendizaje automático. Las NPU proporcionan un rendimiento superior, especialmente en el cálculo de operaciones matemáticas utilizadas por redes neuronales artificiales (ANN). Estas operaciones matemáticas incluyen funciones de multiplicación de matrices, convolución y activación.
Las NPU están diseñadas para funcionar de manera más eficiente con datos de baja precisión, lo que las hace ideales para cargas de trabajo de IA. También son mucho más eficientes energéticamente que las CPU y GPU para la informática de IA.
Las innovaciones de Qualcomm en IA
El optimismo de la compañía sobre el tema tiene como objetivo garantizar que la inteligencia artificial se utilice de manera eficiente en muchas plataformas diferentes. El procesador de teléfono Snapdragon 8 Gen 3 de la compañía y las plataformas de PC Snapdragon X Elite pueden realizar funciones importantes en áreas como la IA generativa, la visión por computadora y el procesamiento del lenguaje natural.
Qualcomm también ofrece capacidades avanzadas de IA a los desarrolladores a través de Qualcomm AI Hub. El centro proporciona recursos a los desarrolladores, incluidos más de 75 modelos de IA optimizados para un alto rendimiento en Snapdragon y otras plataformas de Qualcomm.
El uso de la inteligencia artificial en los teléfonos inteligentes es limitado, pero si la empresa cumple su palabra y desarrolla estas tecnologías como quiere, podremos utilizar la inteligencia artificial en nuestros teléfonos como la usamos en nuestros ordenadores. La IA también aporta una dimensión completamente nueva a la experiencia de juego, permitiendo a los asistentes de juego virtuales generar nuevo contenido de juego y ajustar dinámicamente las reglas del juego y la jugabilidad según el conocimiento o el deseo del jugador de una experiencia más desafiante.
La comercialización escalable de IA en dispositivos por parte de Qualcomm es una contribución importante a la democratización de la IA. Estos pasos visionarios convierten a Qualcomm en un actor clave en la IA, y la empresa puede acelerar aún más la adopción de la IA a gran escala.
Los avances en inteligencia artificial continúan. A este paso, la inteligencia artificial, que entró por primera vez en nuestros ordenadores, llegará a nuestros teléfonos de forma eficiente. Creo que también muestra cuánto crecerá este sector en el futuro, con procesadores creados solo para que los entienda la IA. Aunque actualmente se debate su ética y moralidad, en los próximos días el uso de esta tecnología de alguna manera será aceptado por todos los usuarios. Con los avances de Qualcomm, podemos esperar ver dispositivos impulsados por IA que puedan realizar tareas complejas con facilidad, haciendo nuestras vidas más convenientes y eficientes.
Crédito de la imagen destacada: Qualcomm
Source: Los sueños de inteligencia artificial de Qualcomm no tienen paralelo
