Los desarrolladores tecnológicos están trasladando la inteligencia artificial de lejanos centros de datos en la nube a dispositivos personales como teléfonos y ordenadores portátiles para lograr un procesamiento más rápido, mejor privacidad y menores costes. Esta IA en el dispositivo permite tareas que requieren respuestas rápidas y mantiene los datos sensibles en el lugar. Los expertos predicen avances significativos en los próximos años a medida que mejoren el hardware y los modelos.
La dependencia de la IA basada en la nube, como Claude de Anthropic, implica enviar indicaciones a centros de datos remotos, lo que puede introducir retrasos de segundos, inaceptables para tareas urgentes como alertar a un usuario sobre un obstáculo en su camino. La privacidad es otra preocupación, ya que información sensible como datos de salud o financieros viaja a través de múltiples sistemas no confiables. Para abordar estos problemas, las empresas están procesando cada vez más la IA en los propios dispositivos, eliminando la necesidad de conexión a internet y reduciendo costes al evitar pagos a operadores de centros de datos.
Este cambio lleva años en marcha. Ya en 2017, los iPhone utilizaban IA en el dispositivo para el reconocimiento facial mediante un motor neuronal. Implementaciones modernas, como Apple Intelligence de Apple con unos 3.000 millones de parámetros, manejan tareas específicas como resumir mensajes o reconocimiento visual a partir de capturas de pantalla. Los teléfonos Pixel de Google emplean el modelo Gemini Nano en el chip Tensor G5 para impulsar funciones como Magic Cue, que extrae información relevante de correos y mensajes sin búsqueda manual.
Los expertos destacan los desafíos y beneficios. Mahadev Satyanarayanan, profesor de Carnegie Mellon, compara la computación ideal en el dispositivo con el cerebro humano, señalando que aunque la naturaleza lo evolucionó durante mil millones de años, los humanos buscan lograr una eficiencia similar en cinco a diez años mediante hardware avanzado y modelos especializados. Vinesh Sukumar, responsable de IA generativa en Qualcomm, apunta diferencias de sistema para dispositivos compactos como relojes inteligentes, que a menudo requieren descargar al nube, pero con salvaguardas como permiso del usuario y manejo seguro para proteger los datos.
Private Cloud Compute de Apple ejemplifica medidas de privacidad: procesa datos descargados solo en servidores de la compañía, envía información mínima y no almacena nada. Para los desarrolladores, la IA en el dispositivo reduce costes continuos; Charlie Chapman de la app Dark Noise la usa para mezclar sonidos sin tarifas de nube, permitiendo escalabilidad sin riesgo financiero.
Mirando al futuro, la IA en el dispositivo destaca en clasificación de objetos en 100 milisegundos, pero aún descarga para detección, segmentación, reconocimiento de actividades y seguimiento. Satyanarayanan anticipa un progreso emocionante en cinco años, permitiendo funciones como alertas de viaje mediante visión por ordenador o recordatorios contextuales sobre conversaciones.
