Проучване на Мичиганския университет установи, че обработката на заявки към големи езикови модели на различни езици може да увеличи енергийните разходи до 180 пъти в сравнение с английски. Това има пряко значение за разходите на комерсиалните AI услуги, които често таксуват на база обработени и генерирани „токени“.
Изследователите измериха консумацията на енергия при изпълнение на заявки на 122 езика и отчетоха вариации от 1,4 до 180 пъти в зависимост от езика и конкретния модел. В изследването са включени пет варианта на модели: Qwen 3 (8, 14 и 32 милиарда параметъра, разработен от Alibaba), Gemma 3 (27 милиарда параметъра, от Google) и Llama 3.1 (8 милиарда параметъра, от Meta).
Методика и оборудване
За измерванията бе използвана собствената система на учените „ML.Energy“ за оценка на енергийната консумация по време на изчисления. Тестовете са изпълнявани върху хардуерна платформа с два графични ускорителя NVIDIA: L40S и RTX 6000 Pro Blackwell.
Причините за разликите
Основният фактор за по-високото потребление е увеличаването на броя на „токените“ — основните текстови единици, на които моделът разбива входа и чрез които генерира изход. Токенизаторите, обучени главно върху латинската азбука, се оказват по-малко ефективни при други писмени системи и често разделят думите на повече фрагменти.
При езици с ограничени обучителни ресурси моделите понякога генерират значително по-дълги отговори — в някои случаи с 20–25 пъти повече изходни токени отколкото при английски заявки. Повече токени повишават изискванията към паметта и налагат обработка в по-малки партиди, което намалява ефективността на използване на GPU и повишава енергийната консумация.
Конкретни резултати
Изследването отчита, че максималната разлика в енергията за един изходен токен достига коефициент 8,3. Общите енергийни разходи за обработка на идентичен набор от заявки варират до 179 пъти — от 17,6 kJ при английски до 3147 kJ за езика пущу.
За някои езици са посочени средни множители: генерирането на текст на хинди изисква средно 7,9 пъти повече енергия, а за бенгалски език — 15,3 пъти повече. Използването на латинската азбука не гарантира ефективност: повечето западноевропейски езици също изискват повече енергия, до два пъти в сравнение с английски.
Изследователите отбелязват и връзка между енергийната консумация и точността: езиците, които изискват повече изчислителни ресурси, обикновено показват по-слаби резултати при тестовете.
Данни и тестови набори
Оценките са направени въз основа на наборите от данни за разбиране при четене „Belebele“ (122 езика), теста за математическо мислене GSM8K и колекция от потребителски заявки от платформата LM-Arena. В допълнителни експерименти задачи, първоначално формулирани на английски, са превеждани чрез системата на Meta „No Language Left Behind“.
Според изчисленията на учените около 5,2 милиарда души говорят езици, чиято обработка изисква поне два пъти повече енергия в сравнение с английски. Това ще оскъпи използването на търговски AI услуги за големи групи потребители.
„Повечето хора ще искат да използват модели с изкуствен интелект, задавайки въпроси на родния си език – което е неизбежно развитие с навлизането на AI в повече сфери на обществения живот. Но това „двойно натоварване“ [заради използването на езици, различни от английския] прави по-вероятно някои хора да не могат да си позволят AI, а компаниите да не желаят да предлагат модели на определени езици“, заключават авторите, представяйки една отрезвяваща оценка.
Предложения за намаляване на неравенството
За да се смекчат различията, авторите предлагат няколко подхода: разработване на модели, оптимизирани за отделни езици; насочване на заявките към най-подходящите езиково-специфични модели; или превод на заявките на английски преди обработка, при условие че качеството на превода е достатъчно високо.
Като допълнителна стратегия те посочват разширяване на обучителните корпуси с материали на слабо представени езици, в което биха могли да участват и носители на тези езици.
КОМЕНТАРИ (0)