3 - 6 Hours 4 Modules
Main Topic: FinOps for Generative AI
Workload: 3 - 6 Hours
Level: Advanced
Target Audience: Cloud Architects, Developers, CTOs, and Financial Managers
Deep understanding of how AI billing works. The student will learn to measure and predict token consumption in real-time, transforming abstract spending into clear business metrics to prevent the organization from exceeding the planned budget.
Architecture of variable costs. How to create a "Router" that analyzes the complexity of the user's question: it sends simple requests to economical models and reserves elite models only for complex tasks.
Implementation of intelligent memory layers. The student will learn to configure Semantic Caching: if a similar question has already been answered previously, the system delivers the saved response instead of processing and paying for a new API call, drastically reducing latency and cost.
Setting up financial barriers. Techniques to prevent programming errors or infinite loops from draining the company's credits. Implementation of automatic alerts and strict limits by department or project, ensuring profitability and budget predictability.
O relatório “State of the Cloud Report 2025” da Flexera, mostra que os custos continuam sendo uma prioridade. Com a expectativa de que os gastos com nuvem vão aumentar em 28% nesse ano de 2026, a previsão orçamentária continua sendo um desafio e as organizações estão excedendo seus orçamentos em 17%.
Ao mesmo tempo, as organizações seguem amadurecendo sua governança sobre os investimentos em nuvem, buscando maneiras de otimizar os custos com licenças de software na nuvem.
ADOÇÃO DE IA ESTÁ EXPLODINDO
Sem surpresa, a adoção de serviços de nuvem pública relacionados à inteligência artificial (IA) está crescendo rapidamente. 79% das organizações já estão usando ou experimentando serviços de PaaS de IA e aprendizado de máquina (ML). Também houve um aumento no uso de serviços de data warehouse, que são frequentemente utilizados para alimentar modelos de IA.
72% das organizações já utilizam IA generativa (GenAI) - seja de forma intensiva ou moderada - e outros 26% estão atualmente em fase de experimentação. Não é preciso dizer que a GenAI veio para ficar e está a caminho de se tornar algo mainstream (popular e amplamente adotado) - ao menos em alguma medida - num futuro próximo.
| Desafio | % |
| Gerenciar os gastos com nuvem | 84% |
| Segurança | 77% |
| Gerenciar licenças de software | 75% |
| Governança | 75% |
| Falta de recursos/ especialização | 75% |
