A Celestial AI, uma startup estadunidense voltada a tecnologias de hardware para inteligência artificial, recentemente garantiu US$ 175 milhões em financiamento que ajudará a comercializar o Photonic Fabric, um meio de interconexão óptica que combina memórias DDR5 e HBM. Essa solução poderia revolucionar o desempenho de chips para IA.
Entre os investidores da tecnologia, está a AMD. A gigante de hardware não comentou publicamente sobre a ideia de adotar as novas soluções ópticas para aumentar o desempenho e a eficiência de seus aceleradores de IA, mas é possível que esteja buscando novas tecnologias para fortalecer sua competitividade frente à dominância da NVIDIA.
Ainda em sua primeira geração, o Photonic Fabric poderá fornecer uma taxa de transferência de dados de 1,8 Tbps por cada milímetro quadrado de área de interconexão. Espera-se ainda que a segunda geração seja quatro vezes mais rápida que sua antecessora.
Essas vantagens, no entanto, poderiam ficar confinadas devido às limitações da memória de largura de banda alta (HBM), que precisam ficar “empilhadas” nos chips de inteligência artificial para garantir capacidade suficiente para o treinamento de IA, por exemplo. A partir desse problema, a Celestial AI também elaborou uma nova solução.
Para alcançar capacidades mais significativas, a startup pretende integrar memórias DDR5 com HBM, empilhando dois módulos de HBM e um conjunto de quatro pentes de DDR5, combinando 72 GB e até 2 TB, respectivamente. O uso da memória DDR5, além de garantir um bom desempenho, poderia também ajudar a reduzir o custo de produção do hardware.
As diferentes memórias seriam interconectadas por meio do Photonic Fabric. A Celestial AI afirma que essa arquitetura pode reduzir o consumo de energia em até 90%, se comparado com as soluções tradicionais de interconexão de hardware.
Cabe lembrar que esse conceito não é totalmente novo na indústria. Noticiamos, em setembro de 2023, que a TSMC, NVIDIA e Broadcom teriam firmado uma parceria para explorar o uso de componentes ópticos — como laser — para transmitir dados em velocidades muito mais altas nos processadores, mirando especialmente a produção de chips para IA.
A NVIDIA possui seu próprio meio de conexão para componentes de hardware, o NVLink, que é um dos principais recursos dos superchips Grace Hopper. A AMD, por sua vez, conta com o Infinity Fabric, que é utilizado para conectar múltiplos aceleradores Instinct MI300.
A Celestial AI acredita que sua tecnologia de interconexão fotônica não chegará ao mercado antes de 2027. Até lá, muitos concorrentes no segmento devem surgir, portanto, a indústria de hardware para inteligência artificial está apenas em sua fase inicial de amadurecimento.
