69‑й IT Press Tour: стоечный сервер как процессор — ExpectedIT намерена стереть границы между серверами

На открытии 69‑го IT Press Tour в Любляне одной из первых сессий стала презентация компании, о которой многие в зале раньше не слышали, — и речь шла о чипе, который пока физически не существует. Это могло бы показаться плохим началом, но таковым не было. ExpectedIT — двадцатичеловеческая немецкая deep‑tech компания, зарегистрированная в Эсслингене‑ам‑Неккаре под Штутгартом. Она пытается сделать то, чего на рынке массовых серверов не предпринимали всерьёз десятилетиями: устранить границу между одним сервером и другим.

Генеральный директор ExpectedIT Клас Моро присоединился к сессии по видеосвязи из Швеции; некоторых в зале он знал по предыдущим проектам. Ранее он представлял ZeroPoint Technologies на туре в Стамбуле, возглавлял её шесть лет и продавал IP для ультра‑быстрой компрессии памяти полупроводниковым компаниям в США и Китае. До этого он провёл 17 лет в Ericsson, начиная со середины 1990‑х, занимаясь разработкой полупроводников. Он ушёл из ZeroPoint в прошлом году и присоединился к ExpectedIT в апреле текущего года — причина перехода показательная для того, как финансируется европейский deep‑tech: «Zero Point была про лицензирование IP», — сказал Моро на туре. — «Инвесторы и заказчики могут говорить, что лицензирование IP — это хорошо. Но покупка компонента с полной IPR, с самой технологией, доступной и проверенной, они ценят гораздо больше». Иначе говоря: продавать кремний выгоднее, чем продавать слайды. Ему хотелось создать то, что можно положить на стол.

Что компания на самом деле строит

Продукт называется LPool, сокращённо от large pool, и позиционирование укладывается в одну фразу, продублированную в презентации: «стойка — это процессор». Это сознательное отзеркаливание того, что сделал Nvidia: когда она создала NVLink и затем масштабировала его в NVL72‑стойки, весь ряды GPU в стойке повёл себя как единый огромный ускоритель — с когерентной тканью для GPU. Хостовая сторона — CPU, память, сетевые контроллеры и NVMe, которые кормят эти GPU — такой общей ткани не получила. ExpectedIT утверждает, что именно на хостовой стороне сейчас теряются деньги.

Физически дизайн представляет собой коммутаторный чип. Один чип LPool размещается рядом с каждым CPU на материнской плате и подключается по электрическому интерфейсу PCIe, который практически все серверные процессоры уже поддерживают. Кабели идут между платами, чтобы охватить всю стойку. ExpectedIT добавляет тонкий протокольный слой поверх физического уровня PCIe и утверждает, что при появлении практичных оптических PHY он сможет работать и по ним. Ключевой момент — топология. Сегодня, когда Intel соединяет 4 или 8 сокетов между собой по UPI, каждый CPU выделяет по одной линии для каждого другого CPU: общаешься с одним соседом — используешь пропускную способность одной ссылки, остальные ссылки простаивают. LPool снимает все линии с CPU и распределяет их на несколько пул‑чипов. Динамически CPU может направить весь свой бюджет каналов к одному пиру или распределить его между многими. «Динамически вы можете использовать всю вашу полосу к одному другому CPU или распределить её одновременно по многим CPU», — резюмировал Моро. В презентации эффект сформулирован так: «Чип Pool растворяет границу между серверными нодами, делая все их ядра CPU, память и NIC доступными для каждого GPU в стойке».

Потолок сокетов и почему переход на большие конфигурации дорог

Вся стратегия компании базируется на ограничении платформ x86: AMD ограничивается двумя сокетами, Intel может дойти до восьми, но ExpectedIT утверждает, что топологии с четырьмя и восемью сокетами настолько неэффективны, что ими пользуются немногие. Выше восьми сокетов в мейнстримном x86‑мире пути вообще нет. Поэтому если нагрузке нужно больше вычислений или памяти, чем вмещают два сокета, покупают самые большие сокеты и самые большие DIMM, какие только доступны — и стоимость растёт экспоненциально. «Переход с середины на верхнюю точку производительности — это не просто вдвое дороже», — заметил Моро. — «Это может быть в четыре или в восемь раз дороже». Тот, кто недавно смотрел цены на 128‑гигабайтные RDIMM, понимает, о чём речь: цена за ёмкость на модуль перестала быть мелочью.

Роадмап ExpectedIT: поколение 1 поддерживает 10 сокетов, поколение 2 — 48 по PCIe шестого поколения, поколение 3 — 96 по PCIe седьмого поколения. Меньшие сокеты и меньшие DIMM, их больше, лучшая пропускная способность на ядро и более низкая совокупная стоимость. Решение нейтрально по поставщикам — работает с Intel, AMD и Arm. Последний пункт особенно интересует гипермасштаберов: им выгодно иметь как можно меньше SKU серверов. Если одна универсальная двухсокетная плата может быть составлена в любую конфигурацию под задачу, это упрощает производство и складирование.

Цель — освободить «заблокированные» ресурсы

Если пройтись по стойке сегодня, там десятки сервер‑блейдов, у каждого свои CPU, память, NVMe и NIC, связанные по Ethernet. Ethernet для человека быстрый, но в терминах CPU‑к‑памяти он медлителен. Приложение, вышедшее за пределы одного сервера, приходится делить и перемещать — это медленно и неудобно — или оно просто работает медленно. В этих разрывах теряется ресурс: один сервер использует половину своей памяти, соседний нуждается вдвое больше — перераспределить нельзя, один пул простаивает, другой испытывает нехватку. В презентации ExpectedIT приведены данные Microsoft Research о коэффициентах «memory stranding» на уровне 30–40% в продуктивных виртуализованных средах. Аналогично часть пропускной способности хранилища простаивает на одном узле, пока очередь задач на другом растёт, и полоса NIC также не может быть позаимствована через шасси. Есть ещё утверждение о сетевом охвате: стандартная стойка достигает примерно 2048 CPU в первом уровне сети центра обработки данных, а агрегация всех NIC стойки в один домен может увеличить охват tier‑1 CPU до девяти раз. Коммерческая метрика, которую продвигает ExpectedIT: до 50% больше «токенов» с того же железа, потому что простаивающие GPU — это уже оплаченные GPU.

От чат‑моделей к агентам и дальше

Моро разделил рынок на три эры, чтобы объяснить, почему CPU снова становится критичным. Эра 1 — чат: вы задаёте вопрос, GPU делает прямой проход, вы получаете ответ; в обучении и инференсе доминировали GPU, и NVLink превратил стойку в единый массив GPU. Эра 2 — агентная: непрерывные процессы, работающие круглосуточно, вызывающие инструменты и API, просматривающие документы и код. Каждый такой шаг оркеструется CPU, и доля CPU в работе резко выросла. Эра 3 — ещё формирующаяся — обучение во время инференса: модели, которые продолжают учиться в рабочем режиме с параллельными пулами акторов и терабайтными буферами повторного воспроизведения. В презентации указано, что уже вложено более 30 миллиардов долларов венчурного капитала в эту идею: примеры называют компании, привлекшие крупные посевные и ранние инвестиции и ищущие машины большего размера, чем продают текущие поставщики, что даёт ExpectedIT возможность для входа.

Партнёр по дизайну ExpectedIT, лаборатория FractalBrain из Лондона, работающая над непрерывно обучающимися системами с сотрудниками из Google DeepMind, IBM, CERN и Кембриджа, подписала письмо о намерениях. FractalBrain, по словам Моро, покупает «столько Intel CPU и Samsung DIMM, сколько физически помещается в сервер, и этого всё равно недостаточно».

Рыночные оценки и чьи слова приведены в презентации

ExpectedIT привела в слайде несколько внешних данных, чтобы подкрепить тезис о возвращении роли CPU. Гендиректор AMD в одном из недавних докладов пересмотрела вперёд прогноз серверных CPU вверх, объяснив это ростом потребностей в инференсе и агентных системах. Nvidia в своих материалах отмечала, что «CPU становится бутылочным горлышком», строя «CPU‑стойки» и оценивая потребность для агентных задач в разы выше, чем для генеративного AI. UBS Research и Morgan Stanley давали оценки значительного роста TAM серверных CPU к горизонту середины следующего десятилетия, с крупной долей бремени вычислений переходящей на CPU. ExpectedIT подчеркивает, что эти оценки исходят от людей с видимостью крупнейших инфраструктурных заказов. Из общего TAM в районе 150 миллиардов ExpectedIT выделяет сервисируемый рынок чипов LPool и совместимых CPU примерно в 30 миллиардов и оценивает свою достижимую долю в сотни миллионов евро в виде лицензий и продаж чипов.

Вопрос CXL из зала

Один из первых вопросов касался технологии CXL: нельзя ли использовать её для пула памяти? Ответ ExpectedIT — нет: LPool работает поверх электрического PCIe с собственным тонким протоколом, поскольку CXL уже построена поверх PCIe с более эффективным протоколом, и ExpectedIT идёт шаг дальше. Моро подчеркнул, что он сам активно участвовал в индустрии CXL и не отрицает её существование, но считает, что она не решает главную проблему — эффективный шаринг ресурсов внутри стойки. В презентации приводится исследование Alibaba (Beluga), в котором CXL‑базированный пул памяти для KV‑кэша дал примерно до семи раз большую пропускную способность AI‑нагрузки. Ответ ExpectedIT — сохранить память в самих серверах и правильно связать их между собой, избегая CXL‑коммутаторов, спец‑коробок памяти и связанных с ними затрат на мощность и капитал. На вопрос о влиянии архитектуры на энергопотребление Моро сказал, что экономия достигается за счёт «аппарата, который вы не покупаете»: добавление памяти через CXL требует много дополнительного железа, которое потребляет энергию и стоит денег.

Важно: с Intel у ExpectedIT подписано соглашение

Ключевой слайд сдвигает профиль риска ExpectedIT. UPI — проприетарный протокол Intel для межсокетного обмена; построить совместимое устройство без согласия Intel нельзя. У ExpectedIT есть лицензионное соглашение с Intel, подписанное примерно за пару недель до сессии в Любляне. Поэтому первым целевым продуктом является платформа Intel Xeon поколения, на которую ориентирована архитектура. Моро уточнил, что Intel не лицензирует LPool как технологию; просто UPI‑интерфейс и протокол хорошо подходят для использования в их решении, и компания решила ориентироваться на Intel в первую очередь, потому что в нём есть поддерживаемая функция. AMD и Arm планируются позже, переговоры с ними идут.

Что уже сделано и что остаётся

ExpectedIT честно разделила статус задач:

  • Готово: логика «memory directory» чипа завершена и прошла начальную бэкенд‑верификацию для TSMC N6, так что у компании есть оценка энергопотребления, площади и скорости без физического производства чипа. Демонстрация меж‑CPU PCIe‑туннелирования выполнена на FPGA, включая программный стек. Архитектура прошла технический обзор инженерными командами в Microsoft и Meta. Лицензионное соглашение с Intel подписано.
  • В процессе: демонстрация AI‑нагрузки, сравнивающая системы с LPool и без него, результаты должны появиться к концу третьего квартала текущего года.
  • Не начато: верификация LPool‑чипа с реальным Intel CPU — это требует наличия самого чипа. Валидация со стороны клиентов — серия писем о намерениях от разных уровней стека: FractalBrain по рабочим нагрузкам; Core42 (G42) — оператор суверенного облака, с дорожной картой к плотным 32‑сокетным стойкам; исландский облачный оператор 1984 ehf подписал пилот для центра с возобновляемой энергией. SiPearl, европейский дизайнер CPU, рассматривает LOI. В презентации есть анонимная цитата в духе: «Эта технология LPool действительно что‑то новое в том, как мы строим серверы, и многообещающая», приписанная неназванному вице‑президенту Microsoft; ExpectedIT отмечает, что человек устно поддержал проект перед венчурными инвесторами, но имя не называется.

Команда и след IBM

Архитектура имеет наследие: со‑основатель и директор по продукту доктор Бурхард Штайнмахер‑Буров провёл более двадцати лет в IBM, был аппаратным архитектором суперкомпьютеров Blue Gene и имеет около ста патентов; задача Blue Gene была именно в эффективном соединении огромного числа вычислительных элементов с памятью и сетью. Технический директор и со‑основатель Árni Ingimundarson работал над дизайном CPU IBM POWER и в Texas Instruments; один из со‑основателей, Клаус Энтенманн, приносит финансовый опыт после руководства Daimler Financial Services; Александр Шварц пришёл из европейского стартап‑мира с опытом Airbnb, PayPal и eBay; финансовый директор Альберт Вебер пришёл из Берлина с опытом в VC‑компаниях, IPO и выходе. В консультативный совет вошли видные фигуры индустрии: Винтон Серф и другие ветераны полупроводниковой отрасли, в том числе один анонимный исполнительный директор гипермасштабера. Штат — примерно шестнадцать инженеров плюс руководство, около двадцати человек в целом, в основном вокруг Штутгарта; команда должна удвоиться после закрытия Serie A.

Финансирование и дорожная карта на выпуск чипа

ExpectedIT привлекла внимание своей откровенностью о потребностях в финансировании. Компания планирует раунд Serie A на €25 миллионов, который откроется осенью и должен закрыться к концу первого квартала следующего года; из этой суммы €10 миллионов уже обещаны в виде соинвестирования Европейского совета по инновациям, к которым добавляется ранее полученный грант EIC в €2,5 миллиона. Компания также прошла отбор в европейскую программу по дизайну чипов EuroCDP, что потенциально добавит ещё порядка €16 миллионов, доводя общую сумму до примерно €41 миллионов. Эти средства идут на tape‑out чипа — сама себестоимость tape‑out оценивается около €10 миллионов (включая маски), при этом ExpectedIT не стремится к передовому узлу: цель — примерно шесть нанометров. Производство планируется у TSMC, Samsung или Intel Foundry, поставщик ещё не выбран.

Вывод

ExpectedIT предлагает архитектуру, которая ставит задачу перераспределения и совместного использования CPU, памяти, NIC и NVMe внутри стойки, чтобы устранить «заблокированные» ресурсы и повысить полезную отдачу оборудования в условиях роста агентных и непрерывных AI‑нагрузок. Компания показала предварительные инженерные результаты, имеет поддержку со стороны лабораторий и операторов, а также лицензионное соглашение с Intel по использованию UPI‑интерфейса в своём решении. Основной риск остаётся в том, что чип ещё не изготовлен и не верифицирован с реальным CPU; его выпуск требует успешного tape‑out и дальнейшего согласования с поставщиками серверных платформ. Если решения ExpectedIT подтвердят заявленные преимущества на практических AI‑нагрузках, архитектура способна изменить способ конструирования хостовой стороны дата‑центрных систем и упростить масштабирование серверов за счёт композиции унифицированных двухсокетных плат в более крупные логические ресурсы стойки.