No vídeo de hoje vou abordar uma tendência no mercado de IA, o avanço dos SLMs (Small Language Models), que vem tomando espaço dos LLMs (Large Language Models), principalmente em aplicações que exigem segurança, privacidade e compliance, além de especialização.
Como usam muito menos parâmetros, os SLMs podem rodar em plataformas comuns, com capacidade de processamento inferior aos grandes computadores com várias GPUs, ou seja, podem ser usados para aplicações IoT, já que rodam perfeitamente em computadores instalados em fábricas ou locais remotos, no que chamamos de Edge computing.
As vantagens são inúmeras para vários casos, pois os SLMs têm um consumo menor de energia, além de um custo operacional reduzido, mas principalmente oferecem latência mínima, ou seja, respostas instantâneas, e maior privacidade, já que não precisam enviar dados para a nuvem.
É claro que isto traz limitações, e em muitas situações você ainda vai precisar dos LLMs, mas para vários casos, as SLMs com técn...
Suggested Credits
Tags, Events, and Projects