Una tesis de la UMA comprime la IA para que funcione sin nube en dispositivos de bajo consumo

Una tesis doctoral defendida en la Universidad de Málaga (UMA) propone un método para que los modelos de inteligencia artificial funcionen directamente en dispositivos pequeños y de bajo consumo, sin enviar los datos a servidores externos. Su autora es Paula Ruiz Barroso, del grupo Scalable AI Computing (SAIC), del Instituto de Investigación en Ingeniería Mecatrónica y Sistemas Ciberfísicos de la UMA (Imech.UMA), según ha informado la universidad en un comunicado.

La tesis, fruto de cuatro años de trabajo predoctoral, la han dirigido los doctores Nicolás Guil Mata y Francisco Castro Payán, y ha obtenido sobresaliente cum laude en el programa de doctorado en Ingeniería Mecatrónica.

Por qué importa dónde se calcula

Buena parte de la inteligencia artificial que se usa hoy no se calcula en el aparato que se tiene en la mano, sino en grandes centros de servidores en la nube. Ese modelo centralizado, según la UMA, es caro, consume mucha energía y pone en riesgo la privacidad, porque los datos personales salen del dispositivo para procesarse.

La alternativa es hacer el cálculo en el propio aparato, lo que se conoce como edge computing o computación en el borde. Choca con un límite físico: los dispositivos portátiles y embebidos (los integrados dentro de otro aparato) tienen poca memoria y poca capacidad de proceso para mover modelos de aprendizaje profundo, el deep learning.

Qué propone la tesis

El trabajo plantea un co-diseño hardware-algoritmo: adaptar a la vez el modelo de IA y la forma en que se ejecuta sobre el chip, en lugar de optimizar cada parte por separado. Según la UMA, los resultados indican que mejorar sólo el software o sólo el hardware no basta para llevar la IA al uso cotidiano.

El método ataca tres obstáculos. Uno es la escasez de datos etiquetados, ejemplos que alguien ha revisado y clasificado a mano para enseñar al sistema: la tesis recurre al aprendizaje no supervisado y autosupervisado, en el que el modelo detecta patrones por sí mismo. Otro es el tamaño de las redes neuronales, que se reduce con técnicas de compresión como la cuantización (guardar los números del modelo con menos precisión para que ocupe menos), la poda o pruning (eliminar conexiones que apenas aportan) y la destilación de conocimiento (entrenar un modelo pequeño para que imite a uno grande). El tercero es el hardware, que se exprime repartiendo el trabajo entre todos los núcleos del procesador a la vez.

Tres pruebas

La metodología se ha validado experimentalmente en tres campos. En visión por computador, con un sistema que descubre, clasifica y sigue en tiempo real objetos quietos y en movimiento en vídeo, sin que las imágenes se hayan etiquetado antes.

En biometría, con el reconocimiento de personas por su forma de caminar (gait recognition): modelos adaptados para identificar a varias personas a la vez en tiempo real con un gasto mínimo de tiempo y batería.

Y en salud, con el análisis del electrocardiograma en dispositivos vestibles, los que se llevan puestos. El sistema se entrena sólo con registros de corazones sanos y señala como anomalía lo que se desvía estadísticamente de ese patrón, sin salir del aparato. La UMA lo plantea como una vía para la detección precoz de patologías cardíacas.

Esos dos últimos ejemplos enseñan las dos caras del planteamiento. Procesar en el dispositivo evita que una señal tan íntima como el latido viaje a un servidor ajeno; y esa misma eficiencia es la que permite identificar a personas por su manera de andar con un aparato pequeño y de poco consumo. La universidad cita la robótica, la salud y la seguridad como sectores a los que podría trasladarse.

La investigación ha dado lugar a cuatro artículos en revistas de primer nivel (Q1, el cuartil más alto por impacto en su área) y a una colaboración con la École Polytechnique Fédérale de Lausanne (EPFL), en Suiza, donde Ruiz Barroso hizo una estancia de investigación.