Raspberry Pi mejora sus soluciones para desarrollo de IA local

La Fundación detrás de Raspberry Pi ha anunciado el lanzamiento de una nueva placa de expansión que mejora el desarrollo de IA local en la computadora de placa única.

Las Raspberry Pi dominan el segmento de las SBC y se utilizan en multitud de proyectos, incluidos los del desarrollo de software. Aquí, la inteligencia artificial sigue ganando terreno y es uno de los apartados más perseguidos por los programadores. Y a ellos se dirige el lanzamiento de la placa de expansión Raspberry Pi AI HAT+ 2.

Las computadoras de placa única pueden beneficiarse enormemente de una unidad de procesamiento neuronal (NPU), ya que estas permiten analizar datos a través de redes neuronales. Los posibles casos de uso incluyen el reconocimiento de patrones en datos o incluso imágenes. La nueva tarjeta de expansión supone aumentar el rendimiento de la computación de IA de la Raspberry Pi 5, la última versión de estas SBC, hasta en 40 TOPS (INT4).

La placa de expansión utiliza una NPU conocida, la Hailo-10H, que tiene su propia memoria integrada con una capacidad de 8 Gbytes. Como resultado, la ejecución de modelos de IA idealmente tiene poco o ningún impacto en el rendimiento de la propia SBC, que como sabemos incluyen cantidades de memoria RAM limitada a pesar del lanzamiento de la nueva versión con 16 GB.

La instalación de la placa de expansión es sencilla y sigue el conocido concepto HAT. La placa se monta en la Raspberry Pi 5 con tornillos y luego se conecta mediante el conector GPIO y una conexión PCIe. Los modelos antiguos de Raspberry Pi no tienen interfaz PCIe, lo que significa que la compatibilidad se limita a la versión mencionada, la serie 5. La placa de expansión Raspberry Pi 5 debería ser fácil de usar, algo que se espera de un complemento oficial que es reconocido de forma nativa por el sistema operativo Raspberry Pi y puede utilizarse para ejecutar aplicaciones de IA.

Desarrollo de IA local a través de SBC

Según Raspberry Pi, los modelos DeepSeek-R10-Distill, Llama3.2, Qwen2.5-Coder, Qwen2.5-Instruct y Qwen2 están disponibles en el lanzamiento. Todos (excepto Llama3.2) son modelos de 1500 millones de parámetros, y la fundación asegura que habrá soporte a modelos más grandes en futuras actualizaciones.

Su capacidad es incomparable con lo que manejan los gigantes de la IA, los LLM basados ??en la nube de OpenAI, Meta o Anthropic y también lo que pueden ofrecer otras máquinas como las supercomputadoras personales de IA de NVIDIA que promete manejar «billones» de parámetros. Sin embargo, los modelos mencionados funcionan bien dentro de las limitaciones del hardware de las Raspberry y ofrecen otra ventaja fundamental: son extremadamente económicas y permiten a cualquiera iniciarse en el desarrollo de IA local.

La placa de expansión Raspberry Pi AI HAT+ 2 tiene un precio de 130 dólares y ya está disponible en los distribuidores habituales de la SBC.