Revolut внедри собствени GLM модели в своята инфраструктура и отчетe рязко намаляване на разходите и ускорение на работните процеси за инженерите си.
Британската финтех компания премина от използване на търговски услуги като Claude Code на Anthropic и Codex на OpenAI към локално хоствани GLM модели, което според Дейвид Абитбол, ръководител на отдел „Операции и инфраструктура“ в Revolut, е довело до десетократно намаление на разходите за писане на код и до съкращаване на времето за разработка.
Главни резултати и обхват
Внедряването на AI инструменти за около 2000 инженери е намалило времето за писане на код с 60% и общото време за изпълнение на задачи с 70%. В рамките на приблизително година компанията е свела разходите за заявки към AI системи за програмиране с около 90%.
Преди тази стъпка Revolut е използвала моделите Gemini и в началото на 2026 г. е експериментирала с Claude Code, а впоследствие е разгръщала собствените версии GLM-5.1 и след това GLM-5.3.
Как постигнаха икономията
Разгръщането на GLM-5.1 е струвало приблизително 0,30 долара на милион входни/изходни токена — около една десета от цената на търговските алтернативи. За работа с GLM-5.3 компанията използва 56 ускорителя Nvidia B200.
Освен хардуерната мощ, подобренията се дължат и на софтуерни и архитектурни оптимизации: фина настройка на параметрите на модела, прилагане на квантуване NVFP4 и разделяне на обработката на входния контекст от генерирането на отговори, разпределяйки тези процеси между различни етапи на инфраструктурата.
Revolut е ограничила работния контекст до приблизително 256 000 токена, като според Абитбол поддържането на прозорец от един милион токена не означава непременно реална потребност. След оптимизациите системата предоставя първия токен за по-малко от три секунди и генерира приблизително 200 токена в секунда.
Промяна в ежедневните работни процеси
Намалените разходи позволяват на инженерите да правят повече заявки без ограничения: сред типичните задачи, възлагани на моделите, са отстраняване на грешки в кода, анализ на заявки в Jira и управление на документация в Confluence. Абитбол посочва, че автоматизацията на тези операции е донесла значителна част от спестеното време, тъй като основните пречки пред разработката често са били свързани със спомагателни задачи.
Ограничения и маршрутизиране на заявки
GLM-5.3 работи само с текст и не покрива задачи, които изискват анализ на изображения на потребителски интерфейси. За такива заявки маршрутизаторът на Revolut ги пренасочва към Gemini или GPT, докато GLM остава основният модел за генериране на код.
В допълнение, The Register съобщава, че строгите ограничения върху броя на токените в търговските услуги са пречели на инженерите да използват AI за ежедневни задачи, което е допринесло за решението на компанията да премине към собствено решение.
Поверителност и регионално хостване
Абитбол признава, че използването на модели, разработени в Китай, може да породи опасения относно поверителността и сигурността, но посочва, че основният риск произтича от достъпа чрез API, хоствани в Китай. Той подчертава, че тези опасения значително намаляват, когато моделите се внедряват локално или чрез регионални облачни ресурси.
КОМЕНТАРИ (0)