Google ихчамроқ AI усулини тақдим этди
Google TurboQuant деб номланган янги алгоритмни тақдим этди, у йирик тил моделларининг хотира сарфини олти бараваргача камайтириши мумкин. Компания маълумотига кўра, усул аниқликни сақлаб қолади ва унумдорликка сезиларли зарар етказмайди, бу эса AI тизимларини арзонроқ ва ишга туширишни осонроқ қилиши мумкин. Бу ҳақда Tech.onliner.by хабар беради.
ТурбоҚуант'нинг асосий нишони тил моделларининг суҳбат давомида таянадиган кешидир. Бу кеш тизим бир хил ҳисоб-китобларни қайта такрорламаслиги учун муҳим маълумотларни сақлайди. Аммо фойдаланувчи мулоқоти узайгани сари, кеш ҳам кенгаяди, бу эса жавобларни секинлаштириши ва аппаратга бўлган талабни ошириши мумкин.
Google айтишича, TurboQuant сақланган маълумотларни сиқиш ва шу жараёнда юзага келадиган хатоларни тузатиш орқали бир неча босқичда ишлайди. Алгоритм бир вақтнинг ўзида хотира босимини ва ҳисоблаш харажатларини камайтириш учун ишлаб чиқилган. Яна бир муҳим жиҳати шундаки, уни мавжуд моделларга қўшимча тайёргарликсиз қўллаш мумкин.
Бу ишланма, айниқса, смартфонлар ва ресурслари чекланган бошқа қурилмаларда ишлайдиган AI воситалари учун жуда фойдали бўлиши мумкин. Агар у кенг жорий этилса, TurboQuant AI хизматлари учун эксплуатация харажатларини камайтиришга ёрдам бериши ва илғор моделларни кичикроқ ҳамда қуввати пастроқ қурилмаларда амалийроқ қилиши мумкин.