Ключевым ограничением становятся оптические линии связи и сетевое оборудование
Илон Маск пояснил, почему кластер Colossus 2 изначально был оснащен 110 тыс. ускорителей Nvidia GB200, а затем, согласно плану, будет увеличиваться на 110, 220, 330 и 440 тыс. GPU.
Рост числа чипов Nvidia, кратный 110, обусловлен ограничением на количество оптоволоконных кабелей для центрального коммутатора. Размер такой системы определяется не только возможностями серверной инфраструктуры, но и максимальным количеством оптоволоконных соединений, которые можно фактически подключить к центральному коммутатору.
Ранее Маск сообщил, что Colossus 1 был оснащен 150 тыс. GPU Nvidia H100, 50 тыс. H200 и 30 тыс. GB200. Вторая версия суперкомпьютера масштабируется иначе: Colossus 2 получил 110 тыс. Nvidia GB200 и 440 тыс. GB300.
При этом строительство кластера продолжается. Еще 220 тыс. ускорителей GB300 должны полностью вступить в работу на следующей неделе, а дополнительные 220 тыс. — в ноябре. Если планы будут осуществлены, еще одна партия из 220 тыс. GB300 будет введена в эксплуатацию к концу декабря.
Источник