엔비디아 AI 칩은 '이 회사'의 서버에 탑재된다

[테크월드뉴스=김승훈 기자] AI반도체 기업 엔비디아의 질주가 무섭다. AI반도체 시장의 90%를 장악하면서 독점적 지위를 확보하고 있다.

엔비디아의 폭발적 성장에 가려져 있지만 조용히 영향력을 키워가는 기업들도 여럿 있는데 슈퍼마이크로가 그중 하나로 꼽힌다. 오랜 기간 엔비디아와 긴밀한 협력 관계를 맺으며 기술개발에 주력해 온 덕분에 AI 시대를 선도하는 컴퓨터 및 서버 업체라는 평가를 받고 있다.

▶ 저전력 기술 개발·엔비디아와 협력으로 서버 시장 메기 역할

1993년 대만 출신의 찰스 리앙과 그의 아내 사라 리우가 설립한 '슈퍼마이크로컴퓨터'는 초기에는 주로 컴퓨터 마더보드나 서버용 기판 등을 생산했다.

당시 컴퓨터 서버 시장은 이미 휴렛팩커드(HP), 델과 같은 대기업들이 선점한 상태였다. 슈퍼마이크로는 업계 후발주자로 시장에서 살아남기 위한 전략으로 틈새시장 공략을 택했다.

즉, 경쟁사가 범용 서버를 소품종으로 대량 생산하며 시장을 장악하고 있던 것과 달리 고객이 원하는 조건에 맞춰 최적화된 다품종 제품을 소량 생산한 것이다. 사실상 1인 기업이다 보니 가능했던 전략이었다.

슈퍼마이크로의 운명을 바꾼 것은 다름아닌 영화 '투모로우'였다.

찰스 리앙은 급격한 지구 온난화로 인해 전 세계에 빙하기가 도래한 재난영화 '투모로우'를 보다가 '사람들이 너무 많은 에너지를 소비하고 있다'는 것에 대한 문제 의식을 갖게 됐다고 한다. 이후 에너지 소비를 줄일 수 있는 고효율 저전력 시스템과 부품 개발에 주력하게 된다. 그리고 경쟁사보다 빨리 고효율의 고성능 제품을 선보이며 성장 가도를 달리게 된다.

2007년 기업공개 당시 2억 5000만 달러였던 시가총액이 현재는 500억 달러(약 65조 원)에 이른다. 시총 기준으로 무려 200배 성장한 셈이다.

초기부터 엔비디아와 협력 관계를 맺은 것도 큰 힘이 됐다.

찰스 리앙과 엔비디아의 젠슨 황은 같은 대만계 미국인이라는 공통점이 있다. 심지어 회사 설립년도도 1993년으로 동일하다. 두 사람은 수십년 동안 실리콘밸리에서 글로벌 기업에 맞서기 위해 연구개발에 매진해 왔다. 양사의 엔지니어들도 수시로 서로의 사무실을 오가며 의견을 주고 받았다고 한다.

찰스 리앙은 최근 월스트리트저널과의 인터뷰에서 슈퍼마이크로 본사와 엔비디아 본사가 차로 15분 거리에 있다는 점이 협업에 도움이 됐다며 “덕분에 엔지니어링팀이 이른 아침부터 자정까지 머리를 맞댈 수 있었다”고 말했다.

▶ AI 시대 도래하며 급증한 서버 및 서버 랙 수요 흡수

슈퍼마이크로는 최근 몇 년간 빠르게 성장한 데이터센터 산업의 수혜를 톡톡히 보고 있다.

디지털 시대의 핵심인 클라우드 서비스 수요가 늘면서 데이터센터의 중요성이 부각되어 온데다 챗GPT로 대표되는 생성형 AI가 상용화되며 앞으로 더 많은 데이터센터가 필요한 상황이다.

데이터센터는 보통 수만 개 이상의 서버를 운용한다. 일례로 네이버가 세종시에 구축한 데이터센터 '각(閣)' 세종에는 10만개의 서버가 운영되고 있으며 최대 60만개까지 수용할 수 있다.

이처럼 급증한 서버 수요를 충족시킨 기업이 바로 슈퍼마이크로다. AI반도체 시장을 90% 가까이 장악하고 있는 엔비디아의 AI반도체(GPU)를 공급받아 자사 서버 제품에 탑재해 AI 시대에 최적화된 서버를 선보인 것이다.

서버뿐만 아니라 서버 랙도 슈퍼마이크로의 효자 상품이다.

서버의 마더보드에는 엔비디아나 AMD, 인텔의 반도체 칩이 꽂혀있으며, 일종의 금속 선반인 서버 랙에 층층이 쌓인다. 슈퍼마이크로는 이 서버 랙 제조에 남다른 경쟁력을 가진 것으로 평가받고 있다.

가장 핵심은 서버의 열을 식히는 쿨링(냉각) 시스템이다. 특히, 반도체가 대량의 데이터를 고속으로 연산해 많은 열기를 발산하는 AI 서버에서는 반도체의 성능 만큼이나 열을 식히는 기술이 중요하다.

열 발생량이 많을수록 서버 수명이 단축되고, 심할 경우에는 작동이 중단될 수 있기 때문이다.

데이터센터가 마비된다면 어떤 피해가 생기는지 지난 2022년 경험한 바 있다. 당시 성남시 판교 SK C&C 데이터센터에 화재가 나면서 카카오톡을 비롯한 카카오 주요 서비스가 무려 127시간 30분 동안 마비되면서 고객들이 큰 불편을 겪었다.

AI 서버를 구동하는 데이터센터는 기존 CPU 서버보다 5배 더 많은 열을 발생시키고 평방피트 당 10배로 더 많은 냉각을 필요로 하는데 슈퍼마이크로는 액체 냉각 시스템을 개발해 발열을 효율적으로 낮추는데 성공했다. 데이터서버 자체를 전기가 흐르지 않는 특수 용액에 통째로 넣어 식히는 방법이다. 공기나 물로 열을 식히는 기존 방식보다 전력 소모와 운영 비용을 대폭 절감할 수 있어 최근 쿨링 시스템의 대세로 자리매김하고 있다.

액체 냉각 방식을 적용한 슈퍼마이크로 4U 엔비디아 HGX H100/H200 8-GPU 시스템은 데이터센터의 총 전기 비용을 최대 40% 절감할 수 있다고 전해진다.

▶ 다양한 고객 니즈 모두 충족… 인텔·테슬라·메타 등 글로벌 기업도 만족

앞서 언급한 슈퍼마이크로의 고객 맞춤형 전략은 AI 시대에 더욱 빛을 발하고 있다. 즉, 과거보다 더욱 다양해진 고객의 니즈를 충족시켜주는 최적화된 서버 생산이 슈퍼마이크로를 더욱 돋보이게 하고 있는 것이다.

예를들어 자율주행차 기술 개발자들은 거대 언어 모델(LLM) 제작사들보다 다양한 서버 구성을 필요로 하는데, 슈퍼마이크로는 LLM과 자율주행차 모드를 위한 맞춤형 인프라를 제공할 수 있다는 설명이다.

서버 랙 제조 역량도 뛰어나다. 경쟁사는 서버랙 제조에 필요한 부품을 아웃소싱해 이를 조립하지만 슈퍼마이크로는 부품 설계·제조부터 최종 제품 생산에 이르기까지 모든 과정을 직접 통제한다. 덕분에 경쟁사보다 2~6개월 빠르게 새로운 AI 칩을 자사의 서버랙에 통합하는 일이 가능하다.

여기에 '플러그 앤 플레이' 방식의 서버 랙은 고객사에게 또 다른 매력으로 꼽힌다.

플러그 앤 플레이는 특정 장치나 시스템을 쉽고 빠르게 설치하고 사용할 수 있음을 의미한다. 컴퓨터의 UBS 포트에 무선 키보드를 연결하면 별다른 설치과정 없이 바로 사용이 가능한 것처럼 슈퍼마이크로의 서버 랙은 여러 제조사의 AI 칩을 쉽게 적용할 수 있다.

덕분에 엔비디아나 AMD, 인텔, 테슬라, 메타 등 글로벌기업들의 데이터센터에는 슈퍼마이크로의 서버와 서버 랙이 사용되고 있다.

무엇보다 엔비디아와 끈끈한 협력관계를 통해 사고 싶어도 바로 살수 없다고 하는 엔비디아 AI반도체 물량을 상대적으로 많이 확보하고 있으며, 신제품도 가장 먼저 공급받다 보니 경쟁사보다 유리할 수밖에 없다.

WSJ에 따르면 찰스 리앙은 "엔비디아 첨단 AI 칩에 대한 수요가 급증, 공급 부족이 장기화되는 시기에도 대량의 재고를 확보할 수 있었다"며 "엔비디아가 무엇을 개발하든 우리는 거의 모든 것을 함께 한다. 이것이 바로 엔비디아가 신제품을 출시할 때마다 우리가 경쟁사보다 더 빨리 새로운 제품을 출시할 수 있는 또 다른 이유"라고 말했다.

상황이 이렇다 보니 앞으로의 전망도 매우 맑음이다. 2023년 매출액은 71억2300만달러였으나 올해는 이보다 약 50% 증가한 107억5600만달러가 예상된다. 또, 오는 25년도에는 126억2000만달러로 17% 증가가 전망된다.

▶ 국내기업, 슈퍼마이크로와 협력 또는 경쟁… AI반도체·액체냉각 시장 조준

국내 기업들도 AI 서버 시장에서 존재감을 뽐내고 있는 슈퍼마이크로와 협력 또는 경쟁을 하며 AI 시대를 준비하고 있다.

AI 기업으로 변신을 꿈꾸고 있는 SK텔레콤은 지난달 스페인 바르셀로나에서 개최된 모바일 월드 콩그레스(MWC) 2024에서 슈퍼마이크로와 글로벌 AI 데이터센터 공급을 위한 협약을 체결했다.

이번 협약으로 SK텔레콤은 AI 데이터센터에 슈퍼마이크로의 서버를 사용하게 된다. 눈에 띄는 것은 해당 서버에 자회사인 사피온의 신경망처리장치(NPU) 칩을 탑재하기로 한 것이다.

사피온은 지난해 11월 전작 대비 4배 이상의 연산 능력, 2배 이상의 전력 효율을 갖춘 데이터센터용 AI 반도체 'X330'을 출시해 상용화에 성공했다. 앞서 지난해 초에는 슈퍼마이크로의 서버에 밸리데이션(Validation) 적격성 검증을 마치며 대규모 데이터센터 적용 가능성을 확인했다.

이번 협력으로 슈퍼마이크로의 해외 판로를 통해 사피온의 NPU 서버를 글로벌 시장에 판매하는 것도 가능해질 것으로 보인다.

슈퍼마이크로 비즈니스 개발 부문 부사장인 월리 리우(Wally Liaw)는 “슈퍼마이크로는 사피온과 긴밀히 협력해 X220이 슈퍼마이크로 주력 서버에 최적화될 수 있도록 지원하고 있다”고 말했다.

SK이노베이션은 슈퍼마이크로처럼 액체 냉각 시스템을 개발하고 있다. 자회사 SK엔무브를 통해 올 하반기 국내에서 처음으로 액체 냉각 제품을 선보인다는 계획이다. SK엔무브는 앞서 미국 액침냉각 스타트업 GRC(Green Revolution Cooling)에 2500만 달러 지분투자를 하고 함께 기술개발을 해왔다.

올해 하반기 SK텔레콤 데이터센터에 관련 기술을 적용해본 후 미국 델(DELL) 테크놀로지스에 제품을 공급할 것으로 알려졌다. 델은 SK이노베이션이 가지고 있는 자체 보유 기술을 높히 평가한 것으로 전해진다. 기술 완성도가 확인된다면 구글, 마이크로소프트 등 미국 빅테크 기업들에게도 공급이 가능할 것이라는 전망이 나온다.

SK이노베이션측은 "그동안 전기 절연성능, 하드웨어 부품 등과의 호환성, 안정성 등을 종합적으로 실험해왔고 상용화가 가능한 수준까지 왔다"고 말했다.