AI-sirujen valmistaja Cerebras Systems on lanseerannut CS-4:n, uuden rack-kokoisen AI-järjestelmän, joka kohdistuu Nvidian GPU-palvelinmarkkinoihin ja suurten kielimallien päätöksentekotyöhön. Yhtiön mukaan CS-4 voi tuottaa tokeneita jopa 30 kertaa nopeammin kuin perinteiset GPU-palvelimet, kun kaikki järjestelmän resurssit on varattu yhdelle käyttäjälle.
Huomionarvoista on, että tämä luku perustuu Cerebrasin sisäisiin testeihin ja mittaa tekstin generaatiota, kun yhdellä käyttäjällä on yksinoikeus järjestelmän laskentaresursseihin. Se ei edusta järjestelmän kumulatiivista läpimenoa useiden käyttäjien palvelussa samanaikaisesti.
San Franciscossa pidetyssä tapahtumassa Cerebras sanoi, että CS-4:ssa on kolme WSE-3 Turbo -wafer-kokoista prosessoria. Yhtiön mukaan jokainen prosessori integroi noin 4 biljoonaa transistorin, mikä tekee siitä yhden suurimmista julkisesti ilmoitetuista AI-prosessoreista tähän mennessä. Toisin kuin Nvidian ja AMD:n yleisesti käyttämät monisiruarkkitehtuurit, Cerebras käyttää monoliittista, täyden waferin designia, joka lyhentää sirun sisäisiä tietosiirto polkuja.
CS-4 on suunniteltu AI-päätöksentekoa varten, ei mallin koulutukseen. Sen muistirakenne käyttää staattista satunnaispääsymuistia, eli SRAM:ia, sen sijaan, että hyödyntäisi dynaamista satunnaispääsymuistia, eli DRAM:ia, jota käytetään yleisesti alalla. SRAM tarjoaa huomattavasti nopeammat lukemis- ja kirjoitusnopeudet kuin DRAM, mutta sen monimutkaisempi rakenne ja korkeampi kustannus kapasiteettia kohden tekevät sen yleisesti vaikeaksi integroida prosessoreihin, joilla on rajoitettu sirualue. WSE-3 Turbo on suunnilleen illallislautasen kokoinen, tarjoten riittävästi fyysistä tilaa SRAM:n suoraan integroimiseen prosessoriin.
Cerebras asettaa nopean tekstin generaation CS-4:n ensisijaiseksi kilpailueduksi. Yhtiö sanoi, että sen wafer-kokoinen prosessori voi tallentaa kaikki AI-mallin vaatimukset suoraan sirulle, jolloin välikäytävien tarpeet ulkoisilta muistikiteiltä poistuvat ja datan siirron myöhästymistä vähennetään.
Cerebrasin mukaan CS-4-näytteet ovat tällä hetkellä saatavilla rajoitetulle määrälle asiakkaita, ja laajempi saatavuus on suunniteltu myöhempänä aikaa tämän vuoden kolmannella neljänneksellä.