GPU
Graphics processing unit (GPU)
Бир вақтнинг ўзида минглаб оддий ҳисобларни бажарадиган махсус процессор; AI моделлари асосан шуларда ўқитилади ва ишлайди.
GPU дастлаб компьютер ўйинларида графика чизиш учун яратилган. Экрандаги миллионлаб нуқтанинг рангини бир вақтда ҳисоблаш керак эди. Маълум бўлишича, нейрон тармоқлар ҳам айнан шундай иш талаб қилади: жуда кўп оддий кўпайтириш ва қўшишни бир пайтда бажариш.
Оддий процессор (CPU) бир нечта жуда кучли устага ўхшайди. GPU эса минглаб оддий ишчи. Катта далада пахта териш керак бўлса, битта зўр теримчидан кўра минг кишилик ҳашар тезроқ ишни битиради. AI ҳисоб-китоблари ҳам худди шундай "пахта терими".
Мисол: Meta энг катта Llama моделини 16 мингта GPUʼда ўқитган. Бундай компьютерлар улкан маълумот марказларида туради, қиммат ва жуда кўп электр сарфлайди. Энг машҳур GPU ишлаб чиқарувчиси Nvidia.
GPU фақат ўқитишда ишламайди. Сиз ҳар сафар савол ёзганингизда ҳам жавоб қаердадир GPUʼда ҳисобланади. Шунинг учун ёпиқ моделларнинг APIʼси пуллик.
Хато тушунча: "AIʼни ишлатиш учун албатта суперкомпютер керак". Улкан моделларни ўқитиш учун ҳа. Лекин кичик очиқ моделларни бугун оддий компьютерда ҳам ишлатса бўлади.