Neste domingo (02), durante a Computex 2024, a Nvidia lança de maneira oficial o Nvidia NIM. O serviço, cuja sigla significa Nvidia Inference Microservices, traz ferramentas variadas para auxiliar empresas de todos os tamanhos a criar aplicativos com auxílio da inteligência artificial.
Recorrendo ao conceito de IA generativa, o serviço permite criar ferramentas como chatbots e copilotos em minutos. Ele também é capaz de maximizar a eficiência de qualquer infraestrutura, podendo produzir cinco vezes mais tokens por segundo ao rodar o Llama 3-8B da Meta.
