Kde nájsť prehľad nákladov na Gemini

Pri používaní Gemini API potrebujete základné denné štatistiky o spotrebe tokenov a nákladoch, aby ste mohli optimalizovať svoje výdavky. Tieto štatistiky síce existujú, ale nájsť ich je skutočná výzva.

Firmy zamerané na jazykové modely (LLM) ako OpenAI a Anthropic vám dajú prehľadný a stručný dashboard. Môžete ho celý preskúmať za pár minút a nájsť, čo potrebujete. Google, ako generická cloudová spoločnosť, má obrovské množstvo dashboardov a reportov. Ich objavovaním by ste mohli stráviť niekoľko dní. Na to nikto nemá čas.

Prvé miesto, kde hľadáte, je AI Studio, pretože tam ste získali svoj API kľúč pre Gemini. AI Studio síce má reporty pre spotrebu a fakturáciu, ale tie sú príliš primitívne. Vyzerajú ako rýchle demo pre budúcu implementáciu reportov. Nepovedia vám spotrebu a náklady podľa typu tokenu.

Potom je tu Dashboard fakturácie v Cloud Console, na ktorý odkazuje AI Studio. Ten je obrovský, ale aspoň obsahuje potrebné informácie, ak viete, kde hľadať. Musíte vybrať Reports v menu vľavo, kliknúť na Group by nad grafom a zvoliť zoskupenie SKU. To vám ukáže počet tokenov a náklady zoskupené podľa typu tokenu a modelu. Ak sa zastavíte myšou nad grafom, nájdete tiež rozpis nákladov za daný deň. Nie je to také použiteľné ako dashboardy OpenAI a Anthropic, ale je to dostatočne dobré na kontrolu a optimalizáciu celkových výdavkov, pomeru vstupných a výstupných tokenov a využitia prompt cache.

Ak ste veľká firma, ktorá už vo veľkej miere používa Google cloud a vyznáte sa v Cloud Console, tak vám to nebude vadiť. Ak ale chcete len Gemini API, takéto skrývanie rozpisu nákladov pôsobí takmer ako podvod. Ak patríte do druhej skupiny, moje odporúčanie je vyhnúť sa Gemini, ibaže ho nutne nepotrebujete.