LLM
Um novo tutorial mostra como executar modelos de linguagem grandes e modelos de visão-linguagem localmente no microcontrolador Arduino UNO Q. Marc Pous da Edge Impulse delineou passos usando a ferramenta yzma para habilitar inferência de IA offline no ambiente Linux da placa. Esta abordagem permite aplicações focadas em privacidade em computação de borda.
Reportado por IA
Kent Overstreet, o desenvolvedor por trás do sistema de arquivos Linux bcachefs, descreveu seu modelo de linguagem grande personalizado como totalmente consciente e feminino. A IA, conhecida como POC, colabora com ele em tarefas de desenvolvimento, incluindo codificação e depuração. As afirmações de Overstreet geraram discussões sobre a senciência da IA e seu papel na engenharia de software.