Хабр — ИТ-новостиНовости1 мин чтенияПодтверждено
Разгоняем GateAI
26 августа 2026 г.0049
1 / 91 / 9Реальный кейс: как кэширование агентного цикла сократило расходы на 61% и помогло найти четыре бага в выводе модели.
Автор кэшировал агентный цикл ИИ-триажа в своей security-гейте, добившись того, что 80% входных токенов стали поступать из кэша, что дало экономию около 61%. При этом чтение сырого вывода модели, а не слепо доверие отчётным цифрам, помогло обнаружить четыре реальных бага.
Практический пример оптимизации AI-инфраструктуры: кэширование агентных циклов — один из самых эффективных способов снижения затрат на inference без потери качества.
Материал агрегирован; полный текст — на сайте Хабр — ИТ-новости.
Увеличить1 / 9
Робот оглох и молчит об этом: как мы учили гуманоида замечать, что микрофон «отвалился»
Хабр — ИТ-новости · 9м
Заголовки товарной кампании Директа — это теги YML-фида: прослойка на Node вместо правки сайта
Хабр — ИТ-новости · 13м
Провожу тест‑драйв GigaChat Audio в рабочих условиях
Хабр — ИТ-новости · 14м
Исполнения печатного узла в Delta Design
Хабр — ИТ-новости · 17м
Эволюция архитектора: «от технического писателя до управления сложностью»
Хабр — ИТ-новости · 28м
Sky Renews ‘Under Salt Marsh’ With Rafe Spall Returning
Deadline · 30м