Cerebras представила четверте покоління системи AI-інференсу CS-4, продуктивність подвоєна, споживання енергії подвоєно

Cerebras представила четверте покоління системи AI-інференсу CS-4, яке базується на 5-нм кристалі WSE-3. Продуктивність подвоюється завдяки подвоєнню тактової частоти та споживання енергії. Один шафа CS-4 вміщує 3 кристали, має модульний дизайн, а TDP становить приблизно 125-135 кВт. CS-4 забезпечує швидкість інференсу близько 4000 токенів/сек/користувач, що приблизно вдвічі більше, ніж у CS-3, і підтримує розподілений інференс з гетерогенними системами, такими як AMD та AWS Trainium. Cerebras стверджує, що CS-4 забезпечує приблизно 2000 разів більшу пропускну здатність внутрішньої пам'яті, ніж у NVIDIA Rubin (43 PB/s), але обсяг SRAM залишився незмінним на рівні 44 ГБ, тому для довгого контекстного інференсу все ще потрібна багатокристальна укладка. Наприклад, для DeepSeek V4 Pro (1.6T параметрів) при 1M контекстному вікні потрібно близько 20 систем, а при 256 паралельних запитах - близько 40 систем, що відповідає CAPEX понад 20 мільйонів доларів. Cerebras співпрацює з такими клієнтами, як OpenAI, плануючи щорічно досягати приблизно подвоєння продуктивності, з метою досягти зростання пропускної здатності в 20 разів до 2027 року. Дизайн шафи CS-4 буде продовжено в наступному поколінні платформи Nexus.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.