260064665452565
É uma questão de tempo pros modelos locais terem uma inteligencia suficiente pra começar a rodar workflows e criar assets uteis em "computadores normais"
A gente ta falando de 12B de parametros locais hoje em dia contra os modelos cloud SOTA na casa dos trilhoes de parametros.
GPT3 tinha 175B e GP4 1.8T
Nos proximos saltos de desenvolvimento (sim, eles vao acontecer, independente do q aconteça) o caminho natural é os modelos locais serem muito atrativos pra estruturas de trabalhos corporativos mais simples (aka: email, whatsapp, excel, powerpoint...)
Talvez o avanço seja em outra area que nao seja só aumento de parametros, ou talvez seja nos 2....
Eu colocaria meus 2 cents que rodar agentes de AI personalizados com contextos especificos em modelos de AI cloud vai ser o "pacote office completo"
Agora, rodar os mesmos agentes de AI com modelos locais de forma eficiente vai ser o diferencial
Posso estar totalmente errado 🤣 mas eu apostaria nisso, tendo em vista que um celular hoje que cabe na nossa mão tem 10.000 vezes mais memoria e 1 milhao de vezes a capacidade de calculo de um mainframe nos anos 1970 que ocupava uma sala...isso tem 50 anos, é mto pouco tempo....
Os modelos vao ficar mais inteligentes e de alguma forma a gente vai ter mais capacidade pra rodar eles (n me pergunte como)
O cloud deve continuar forte, principalmente pra empresas que precisam de capacidade realmente grande e pra trabalhos que naturalmente demandam mais.
Mas vai rolar uma renaissance dos modelos locais em algum momento
15:53