Ayar Labs: оптические соединения для AI-датацентров

Ayar Labs — свет вместо проводов

Современные AI-датацентры выглядят довольно узнаваемо: бесконечные ряды стоек, внутри каждой десятки GPU, внутри стойки сверхбыстрые соединения, а между стойками отдельная сеть и километры кабелей.

И это связано не столько с удобством архитектуры, сколько с физикой.

Внутри одной стойки GPU обычно соединяются медными линиями. Это дешево, быстро и даёт хорошую пропускную способность. Но у меди есть неприятное свойство: на очень высоких скоростях сигнал начинает деградировать буквально через пару метров.

Поэтому всё, что быстрее примерно 800 Gbps, практически невозможно тянуть далеко. В результате самые быстрые соединения ограничиваются пределами стойки. А когда нужно соединять стойки между собой приходится переходить на оптические модули, которые добавляют задержку, потребление энергии и дополнительную сложность.

Из-за этого архитектура AI-кластеров получается довольно жёсткой: есть мощные вычислительные "острова" внутри стоек и сеть между ними. Но возможно, что скоро изменится

Стартап Ayar Labs делает довольно радикальную вещь - они пытаются заменить медные межчиповые соединения на оптические прямо внутри самих ускорителей.

Компания разрабатывает фотонные chiplet-модули TeraPHY, которые встраиваются рядом с GPU или AI-чипами. Данные сразу превращаются в свет и уходят по оптоволокну, минуя классические электрические интерфейсы.

На практике это означает гораздо большую дальность соединений и более высокую пропускную способность при меньшем энергопотреблении.

В одном из их прототипов используется восемь оптических чиплетов. В сумме получается больше 200 Tbps пропускной способности на один пакет. Для масштаба: это примерно в пять раз больше, чем у GPU поколения Nvidia Rubin GPU (это самая последняя модель).

Но главный эффект не только в скорости.

Если соединения становятся оптическими, они больше не ограничены расстоянием внутри стойки. В теории можно соединять огромные кластеры GPU как единое пространство.

CTO компании говорил, что цель - кластеры примерно из 10 000 GPU без резкого роста энергопотребления стойки.

Сейчас в это активно начинают верить и инвесторы. На днях Ayar подняли $500 млн, причём среди инвесторов снова есть Nvidia.

Если у них все получится, то можно сказать, что AI-революцию в итоге ускорят не новые модели и не новые GPU, а свет внутри датацентров.

Подписывайтесь на Telegram Startup Hunt.