admin 
„Groq“, startuolis, kuriantis lustus, skirtus generatyviems dirbtinio intelekto modeliams paleisti greičiau nei įprasti procesoriai, pirmadienį pranešė, kad per naują „Blackrock“ vadovaujamą finansavimo etapą surinko 640 mln. Taip pat dalyvavo Neuberger Berman, Type One Ventures, Cisco, KDDI ir Samsung Catalyst Fund.
Dalis, kuri padidina „Groq“ bendrą sumą iki daugiau nei 1 mlrd. USD, o bendrovę vertina 2,8 mlrd. USD, yra didelis „Groq“ laimėjimas, kuris, kaip pranešama, iš pradžių siekė surinkti 300 mln. USD už šiek tiek mažesnę (2,5 mlrd. USD) vertę. Tai daugiau nei dvigubai padidina ankstesnį „Groq“ vertinimą (~1 mlrd. USD) 2021 m. balandžio mėn., kai bendrovė surinko 300 mln. USD per „Tiger Global Management“ ir „D1 Capital Partners“ vadovaujamą turą.
„Meta“ vyriausiasis dirbtinio intelekto mokslininkas Yannas LeCunas dirbs „Groq“ techniniu patarėju, o Stuartas Pannas, buvęs „Intel“ liejyklų verslo vadovas ir buvęs HP CIO, prisijungs prie startuolio kaip vyriausiasis veiklos vadovas, šiandien taip pat paskelbė „Groq“. LeCuno paskyrimas yra šiek tiek netikėtas, atsižvelgiant į Meta investicijas į savo AI lustus, tačiau tai neabejotinai suteikia Groq galingą sąjungininką žiaurioje erdvėje.
2016 m. slaptai atsiradęs „Groq“ kuria tai, ką ji vadina LPU (kalbos apdorojimo bloko) išvadų varikliu. Bendrovė teigia, kad jos LPU gali paleisti esamus generatyvius AI modelius, panašius į OpenAI ChatGPT ir GPT-4o, 10 kartų didesniu greičiu ir dešimtadaliu energijos.
„Groq“ generalinio direktoriaus Jonathano Rosso pretenzija į šlovę padeda išrasti tenzorinį apdorojimo įrenginį (TPU), „Google“ pritaikytą AI greitintuvo lustą, naudojamą modeliams mokyti ir valdyti. Rossas kartu su Douglasu Wightmanu, verslininku ir buvusiu „Google“ patronuojančios įmonės „Alphabet's X moonshot“ laboratorijos inžinieriumi, beveik prieš dešimtmetį įkūrė „Groq“.
„Groq“ teikia LPU valdomą kūrėjų platformą „GroqCloud“, kuri siūlo „atvirus“ modelius, tokius kaip „Meta's Llama 3.1“ šeima, „Google Gemma“, „OpenAI's Whisper“ ir „Mistral's Mixtral“, taip pat API, leidžiančią klientams naudoti jos lustus debesies atveju. („Groq“ taip pat turi AI valdomų pokalbių robotų žaidimų aikštelę „GroqChat“, kuri buvo paleista praėjusių metų pabaigoje.) Liepos mėn. „GroqCloud“ turėjo daugiau nei 356 000 kūrėjų; Groq teigia, kad dalis pajamų iš turo bus panaudota pajėgumams didinti ir naujiems modeliams bei funkcijoms pridėti.
„Daugelis šių kūrėjų dirba didelėse įmonėse“, – „TechCrunch“ sakė Stuartas Pannas, Groq COO. „Mūsų skaičiavimais, daugiau nei 75 % Fortune 100 yra atstovaujama.
Tęsiantis generatyviniam AI bumui, „Groq“ susiduria su vis didesne konkurencija tarp konkurentų AI lustų naujokų ir „Nvidia“, didžiulio AI aparatinės įrangos sektoriaus rinkos dalyvio.
Apskaičiuota, kad „Nvidia“ valdo 70–95% AI lustų, naudojamų generatyviems AI modeliams mokyti ir diegti, rinkos, o įmonė imasi agresyvių veiksmų, kad išlaikytų savo dominavimą.
„Nvidia“ įsipareigojo kasmet išleisti naują AI lusto architektūrą, o ne kas antrus metus, kaip buvo istoriškai. Pranešama, kad steigiamas naujas verslo padalinys, kurio tikslas – kurti pagal užsakymą sukurtus lustus debesų kompiuterijos įmonėms ir kitoms įmonėms, įskaitant dirbtinio intelekto aparatinę įrangą.
Be „Nvidia“, „Groq“ konkuruoja su „Amazon“, „Google“ ir „Microsoft“, kurios visos siūlo (arba netrukus pasiūlys) tinkintus lustus dirbtinio intelekto apkrovoms debesyje. „Amazon“ turi savo „Trainium“, „Inferentia“ ir „Graviton“ procesorius, kuriuos galima įsigyti per AWS; „Google Cloud“ klientai gali naudoti anksčiau minėtus TPU ir laikui bėgant „Google“ Axion lustą; ir „Microsoft“ neseniai pristatė „Azure“ egzempliorius savo „Cobalt 100“ procesoriaus peržiūrai, o „Maia 100 AI Accelerator“ egzemplioriai pasirodys per kelis ateinančius mėnesius.
Kai kurių analitikų teigimu, „Groq“ taip pat galėtų laikyti „Arm“, „Intel“, „AMD“ ir vis daugiau naujų įmonių konkurentais dirbtinio intelekto lustų rinkoje, kurios metiniai pardavimai per ateinančius penkerius metus gali siekti 400 mlrd. USD. „Arm“ ir „AMD“ ypač klesti dirbtinio intelekto lustų verslai, nes debesų tiekėjai išleidžia kapitalą, kad patenkintų generatyvaus AI pajėgumų poreikį.
Praėjusių metų pabaigoje „D-Matrix“ surinko 110 mln. USD, kad komercializuoti tai, ką ji apibūdina kaip pirmą tokio tipo išvadų skaičiavimo platformą. Birželio mėn. bendrovė „Etched“ iš slapto atsirado su 120 mln. Pranešama, kad „SoftBank“ „Masayoshi Son“ siekia surinkti 100 milijardų dolerių, kad galėtų konkuruoti su Nvidia. Teigiama, kad OpenAI derasi su investicinėmis įmonėmis, kad pradėtų dirbtinio intelekto lustų kūrimo iniciatyvą.
Siekdama išnaudoti savo nišą, „Groq“ daug investuoja į įmones ir vyriausybę.
Kovo mėn. „Groq“ įsigijo „Definitive Intelligence“, Palo Alto įsikūrusią įmonę, siūlančią įvairius į verslą orientuotus dirbtinio intelekto sprendimus, kad suformuotų naują verslo padalinį „Groq Systems“. „Groq Systems“ priklauso organizacijoms, įskaitant JAV vyriausybines agentūras ir suverenias šalis, kurios nori pridėti „Groq“ lustus prie esamų duomenų centrų arba statyti naujus duomenų centrus naudojant „Groq“ procesorius.
Visai neseniai „Groq“ bendradarbiavo su „Carahsoft“, vyriausybės IT rangovu, siekdama parduoti savo sprendimus viešojo sektoriaus klientams per „Carahsoft“ perpardavėjų partnerius, o startuolis turi ketinimų protokolą įdiegti dešimtis tūkstančių savo LPU Europos įmonėje „Earth Wind & Power“ Norvegijoje. duomenų centras.
„Groq“ taip pat bendradarbiauja su Saudo Arabijos konsultacijų įmone „Aramco Digital“, kad įdiegtų LPU būsimuose duomenų centruose Artimuosiuose Rytuose.
Tuo pačiu metu ji užmezga ryšius su klientais, Mauntin Vju, Kalifornijoje įsikūrusi „Groq“ žengia link naujos kartos savo lusto. Praėjusį rugpjūtį bendrovė paskelbė, kad sudarys sutartį su puslaidininkių įmone „Global Foundries“, kad gamintų 4 nm LPU, kurie, kaip tikimasi, padidins našumą ir efektyvumą, palyginti su „Groq“ pirmosios kartos 13 nm lustais.
„Groq“ teigia, kad iki 2025 m. pirmojo ketvirčio pabaigos planuoja įdiegti daugiau nei 108 000 LPU.
