‘Milhões de dólares’: o custo de falar ‘obrigado’ e ‘por favor’ ao ChatGPT

Sam Altman, CEO da OpenAI, a empresa desenvolvedora do ChatGPT, disse que ser educado com o chatbot faz a empresa gastar muito dinheiro.

O usuário identificado como Tomie perguntou para Altman quanto que a OpenAI gastava com custos de eletricidade apenas pelas pessoas dizerem “por favor” e “obrigado”. A pergunta foi feita no dia 15 de abril, e respondida em 16 de abril.

“Dezenas de milhões de dólares bem gastos”, respondeu Altman. “Nunca se sabe”, finalizou.

Os chatbots, como o ChatGPT, dependem de grandes estruturas computacionais que ficam em datacenters. Para que eles funcionem é necessário um grande gasto com eletricidade.

As estimativas são que para escrever um pequeno parágrafo um chatbot necessite de 0,14 kWh de energia – o que é comparável a 14 lâmpadas LED ligadas por uma hora.

Fora o gasto de energia, é importante dizer que os datacenters também precisam de água para serem refrigerados. Estima-se que a cada 20 ou 30 comandos, o ChatGPT consome o equivalente a 500 ml de água.

Isso quer dizer que preciso ser mal-educado com o chatbot?

A interação “educada” com o chatbot é importante, pois gera respostas mais “colaborativas e respeitosas”. Quem diz isso é Kurtir Beavers, diretor de design da Microsoft para o Copilot, uma das parceiras da OpenAI.

“Ser educado ajuda a definir o tom da resposta”, diz o executivo em blog da empresa. Ele explica que os LLMs (modelos de linguagem de grande escala), como o ChatGPTM, foram treinados para emular interações humanas. Logo, se ele percebe que é um pedido educado, há maior chance de obter uma resposta mais educada.

A forma como você faz solicitações influencia na resposta. Essa é a conclusão de estudo feito por pesquisadores a Universidade de Cornell, nos EUA, publicado no ano passado. De acordo com a publicação, “pedidos feitos de forma mal-educada podem levar a uma deterioração no desempenho do modelo, incluindo erros, forte enviesamento e omissão de informação”.

Ao mesmo tempo, estudo concluiu que ser muito educado não necessariamente ajuda na resposta. Em alguns casos, os chatbots geraram respostas muito longas.