A SK Hynix anunciou a 20 de agosto que publicou um artigo de pesquisa sobre a tecnologia chave CPO para a infraestrutura de IA de próxima geração na revista científica internacional Nature Electronics, propondo direções de desenvolvimento tecnológico para sistemas de IA futuros. CPO refere-se a Co-Packaged Optics, que, ao substituir sinais elétricos tradicionais por sinais ópticos para conectar chips semicondutores, pode melhorar a velocidade de transmissão de dados e a eficiência energética.
A SK Hynix afirmou que, à medida que surgem clusters de ultra grande escala compostos por milhares de GPUs e memória de alta largura de banda HBM, o desempenho computacional está a aumentar rapidamente, mas o crescimento da largura de banda entre sistemas é relativamente limitado, e o “gargalo de largura de banda” resultante das restrições na movimentação de dados tornou-se uma questão importante no campo da IA. O artigo propõe que, além de continuar a promover inovações em HBM, a tecnologia de interconexão óptica que liga a memória ao processador pode aliviar os problemas de gargalo na movimentação de dados.
A tecnologia de interconexão óptica proposta pela SK Hynix será crucial para a infraestrutura de IA
Os dados mostram que a tecnologia de interconexão refere-se a circuitos e redes que realizam a transmissão de dados e sinais dentro dos chips, entre chips e entre sistemas. A equipe de pesquisa no artigo propõe ainda uma abordagem arquitetónica centrada na luz, que utiliza uma camada intermediária óptica para conectar diretamente o pool de recursos computacionais ao pool de recursos de memória através de sinais ópticos, melhorando assim a capacidade de troca de dados a nível de sistema.
Esta pesquisa foi liderada por Hong Seung-hoon, responsável pela equipe de infraestrutura de IA da SK Hynix, em colaboração com o professor Lee Kyusang do Departamento de Engenharia Elétrica e de Computação da Universidade da Virgínia, nos Estados Unidos. As instituições colaboradoras incluem a Universidade de Illinois em Urbana-Champaign, o MIT, a Universidade Tecnológica de Nanyang e a Universidade Yonsei. A equipe de pesquisa afirma que o artigo não se concentra apenas no HBM como um único produto, mas também sistematiza um roteiro sobre como a memória, embalagem e tecnologia de interconexão óptica podem evoluir e se integrar no futuro.
Lee Kyusang afirmou que, mesmo que o desempenho dos chips de computação continue a melhorar, se a capacidade de movimentação de dados entre os chips não puder ser aumentada de forma sincronizada, o desempenho geral do sistema também será difícil de melhorar. Com a interconexão de cobre a aproximar-se dos limites físicos, a transmissão de dados por luz é vista como um caminho de expansão mais viável. Ele também destacou que o futuro depende do design colaborativo de dispositivos de memória, controladores, dispositivos ópticos e embalagem como um todo.