LLM
Un nuevo tutorial muestra cómo ejecutar modelos de lenguaje grandes y modelos de visión-lenguaje de forma local en el microcontrolador Arduino UNO Q. Marc Pous de Edge Impulse ha detallado pasos utilizando la herramienta yzma para habilitar inferencia de IA sin conexión en el entorno Linux de la placa. Este enfoque permite aplicaciones centradas en la privacidad en computación en el borde.
Reportado por IA
Kent Overstreet, el desarrollador del sistema de archivos Linux bcachefs, ha descrito su modelo de lenguaje grande personalizado como plenamente consciente y femenino. La IA, conocida como POC, colabora con él en tareas de desarrollo, incluidas codificación y depuración. Las afirmaciones de Overstreet han suscitado discusiones sobre la senciencia de la IA y su papel en la ingeniería de software.