Estevão Rizzo
*Quem tem mais fome: Agentes ou Chatbots?*
Agentes podem consumir 136x mais energia que os chatbots comuns
Se você gasta mais neurônios e calorias para ir até o mercado do que para pensar na lista de compras, a IA está te imitando de novo. Um estudo do KAIST (Coreia do Sul) colocou números na conta e mostrou que um agente autônomo consome até *136,5 vezes mais eletricidade* por consulta do que um chatbot convencional.
- *Explicando o motivo*: enquanto o chatbot responde e só volta a existir quando uma nova interação é realizada, o agente fica em loop, buscando na web, rodando cálculos e disparando comandos sozinho.
*Colocando os números na ponta do lápis*:
- *Consulta complexa de agente*: 348,41 watt-hora em média, usando um modelo de 70 bilhões de parâmetros
- *Testes de autorreflexão*: 136,5x mais energia de GPU que um chatbot padrão
- *Tempo de resposta*: até 153,7 vezes mais tempo para serem geradas por agentes
O estudo vai além da consulta individual e coloca uma pulga - com o cachorro junto - atrás da orelha de quem ainda busca formas de tornar o uso de agentes mais amplo: se escalar para 13,7 bilhões de consultas diárias no mundo, a demanda de energia de data centers pode chegar a ~199 gigawatts.
O pesquisador Rhu Min-soo, que liderou o material, é direto: software mais esperto não resolve. Para ele, é preciso redesenhar modelo, chip e infraestrutura de energia do zero. Para as big techs e labs de IA, é mais fácil, barato e seguro tentar otimizar o que já existe.
*Fonte*: https://letsdatascience.com/news/advanced-ai-consumes-1365x-more-electricity-than-chatbots-5964d715
13:17