2026.06.25 목요일
검색
'추론 칩' 검색결과
기간검색
-
~
검색영역
검색어
-
오픈AI, 첫 자체 AI칩 '할라페뇨' 공개…엔비디아 의존 줄이기 시동 [경제일보] 오픈AI가 브로드컴과 공동 개발한 첫 자체 AI 반도체 ‘할라페뇨’를 공개했다. 챗GPT와 코덱스 등 대형 AI 서비스를 운영하며 커진 추론 비용을 낮추고 엔비디아 GPU 의존도를 줄이려는 전략이다. 외신에 따르면 오픈AI와 브로드컴은 24일 현지시간 추론 특화 AI 칩 할라페뇨를 공개했다. 할라페뇨는 범용 GPU를 개량한 제품이 아니라 대형언어모델 추론을 위해 처음부터 설계한 맞춤형 반도체다. 오픈AI는 올해 말부터 이 칩을 데이터센터에 배치할 계획이다. AI 반도체 시장에서 추론은 새 격전지로 떠올랐다. 모델을 학습시키는 단계에는 막대한 연산 자원이 필요하지만 실제 서비스에서는 이용자 요청에 답하는 추론 비용이 계속 발생한다. 챗GPT처럼 글로벌 이용자가 많은 서비스는 추론 효율이 곧 운영비와 수익성에 직결된다. 오픈AI는 초기 테스트에서 할라페뇨의 전력 대비 성능이 기존 최상위 AI 칩보다 개선됐다고 밝혔다. 브로드컴의 호크 탄 최고경영자는 외신 인터뷰에서 엔비디아 블랙웰과 구글 TPU에 견줄 성능을 언급했다. 다만 양사는 최종 성능 측정이 진행 중이라며 세부 수치는 공개하지 않았다. 실제 경쟁력은 데이터센터 배치 이후 전력 효율과 안정성, 단가가 확인돼야 판단할 수 있다. 이번 공개는 오픈AI의 풀스택 전략과 맞물린다. 오픈AI는 모델과 서비스뿐 아니라 칩과 메모리 시스템, 네트워크, 데이터센터 운영까지 직접 통제하려는 방향으로 움직이고 있다. AI 서비스 이용량이 커질수록 외부 GPU 공급에만 의존하기 어렵기 때문이다. 공급 부족과 높은 가격, 전력 부담은 AI 기업의 공통 과제다. 빅테크의 자체 칩 개발도 같은 흐름이다. 구글은 TPU를 통해 자사 AI 모델과 클라우드 서비스에 맞춘 연산 인프라를 구축했다. 아마존은 학습용 트레이니움과 추론용 인퍼런시아를 운영하고 있다. 마이크로소프트와 메타도 자체 AI 가속기 개발에 투자하고 있다. 오픈AI의 할라페뇨 공개는 이 대열에 본격 합류했다는 신호다. 엔비디아에 미칠 영향은 단기적으로 제한적이라는 시각이 많다. 자체 칩은 특정 서비스와 추론 환경에 최적화되는 경우가 많다. 대규모 학습과 범용 AI 인프라에서는 엔비디아 GPU의 생태계와 소프트웨어 경쟁력이 여전히 강하다. 다만 추론 영역에서 맞춤형 ASIC이 늘어나면 AI 반도체 시장의 성장 축은 더 넓어질 수 있다. 국내 반도체 업계에도 파급력이 있다. 빅테크가 자체 AI 칩을 늘리면 고대역폭메모리와 첨단 패키징 수요도 함께 커진다. 삼성전자와 SK하이닉스 같은 메모리 기업에는 새로운 고객군이 늘어나는 효과가 기대된다. 다만 할라페뇨에 어떤 HBM이 탑재됐는지는 공개자료 기준으로 확인되지 않아 특정 공급사를 단정하기는 어렵다. 오픈AI의 과제는 기술 공개 이후 수익성 입증이다. 자체 칩이 실제로 추론 비용을 낮추고 서비스 속도와 안정성을 높여야 한다. IPO 가능성이 시장에서 거론되는 만큼 인프라 비용을 통제할 수 있다는 점도 투자자에게 중요한 메시지가 될 수 있다. AI 경쟁은 모델 성능만으로 끝나지 않는다. 더 좋은 답을 더 싸고 빠르게 제공하는 인프라 경쟁으로 옮겨가고 있다. 할라페뇨는 오픈AI가 엔비디아 생태계에서 벗어나겠다는 선언이라기보다 비용과 성능을 직접 통제하려는 첫 시도에 가깝다. 이 칩이 데이터센터에서 검증되면 AI 반도체 시장은 GPU 중심에서 맞춤형 추론 칩 경쟁으로 한 단계 더 갈라질 전망이다.2026-06-25 16:53:13
-
HBM 넘어 파운드리로…엔비디아 공급망 파고드는 삼성전자 [경제일보] 엔비디아가 인공지능(AI) 반도체 공급망 다변화에 나서면서 삼성전자 파운드리 사업에도 반전 기대감이 커지고 있다. 세계 최대 AI 반도체 기업인 엔비디아가 일부 차세대 AI 칩 생산을 삼성전자에 맡기며 협력 범위를 넓히고 있는 가운데 향후 추가 수주 가능성에도 관심이 쏠린다. 9일 반도체 업계에 따르면 젠슨 황 엔비디아 최고경영자(CEO)와 전영현 삼성전자 디바이스솔루션(DS)부문장 겸 부회장은 전날 서울 신라호텔에서 만나 차세대 HBM과 파운드리 협력 방안을 논의했다. 전 부회장은 회동 직후 "(삼성 파운드리가) 4나노·8나노 자율주행 칩과 엔비디아 가속기 그로크 칩 부문에서 협력하고 있다"며 "그다음 세대 협력도 논의 중"이라고 밝혔다. 업계는 이번 만남이 단순한 HBM 공급 논의를 넘어 파운드리 협력 확대 가능성을 확인하는 자리였다고 보고 있다. 삼성전자는 최근 HBM4와 HBM4E 등 차세대 AI 메모리 공급 확대를 추진하고 있지만 파운드리 사업에서도 엔비디아를 핵심 고객사로 확보하는 데 공을 들이고 있다. 엔비디아는 그동안 AI 가속기 생산 대부분을 TSMC에 맡겨왔다. 최신 AI GPU인 블랙웰 역시 TSMC 공정을 기반으로 생산되고 있으며, 차세대 플랫폼인 베라 루빈도 TSMC 첨단 공정을 중심으로 개발·양산이 추진되는 것으로 알려졌다. 다만 생성형 AI 확산으로 AI 반도체 수요가 폭증하면서 엔비디아 역시 생산 거점을 다변화해야 한다는 필요성이 커지고 있다. 특정 기업에 대한 의존도를 낮추고 안정적인 공급망을 구축하기 위해 일부 물량을 다른 파운드리 업체와 협력하는 방안이 거론되는 이유다. 삼성전자가 엔비디아의 자율주행 칩과 그로크 기술 기반 AI 추론용 칩 생산에서 협력하고 있는 점도 같은 흐름으로 해석된다. 업계에서는 엔비디아가 고성능 AI 가속기 생산을 당장 삼성으로 옮길 가능성은 높지 않지만, 추론용 AI 칩이나 차량용 반도체 등 일부 영역에서 협력 범위를 넓힐 수 있다는 전망이 나온다. 삼성전자 입장에서 엔비디아와의 협력은 단순 수주 이상의 의미를 가진다. 삼성 파운드리는 그동안 TSMC와의 점유율 격차 확대와 대형 고객사 확보 부진으로 고전해왔다. 시장조사업체 트렌드포스에 따르면 지난해 4분기 기준 TSMC의 글로벌 파운드리 시장 점유율은 70.4%로 압도적 1위를 유지한 반면 삼성 파운드리는 7.1%에 그쳤다. 특히 AI 반도체 시장에서는 엔비디아·애플·AMD 등 주요 빅테크 물량을 기반으로 TSMC의 영향력이 더욱 커지고 있다. 첨단 공정 수율과 패키징 역량, 안정적인 양산 경험이 고객사 확보의 핵심 경쟁력으로 부상하면서 삼성 파운드리의 추격 부담도 커진 상황이다. 이런 가운데 엔비디아와의 협력 확대는 삼성 파운드리에 중요한 레퍼런스가 될 수 있다. 세계 최대 AI 반도체 기업인 엔비디아의 일부 물량을 안정적으로 생산할 경우 첨단 공정 기술력과 양산 신뢰도를 동시에 입증하는 효과가 있기 때문이다. 이는 향후 글로벌 팹리스와 빅테크 기업을 상대로 신규 수주를 확보하는 데도 긍정적인 신호로 작용할 수 있다. 다만 엔비디아가 고성능 AI 가속기 생산의 중심축을 당장 삼성으로 옮길 가능성은 크지 않다는 게 업계의 대체적인 시각이다. TSMC가 여전히 첨단 공정과 패키징 분야에서 강한 경쟁력을 보유하고 있어서다. 업계에서는 삼성전자가 우선 자율주행 칩과 AI 추론용 칩 등 일부 영역에서 협력 경험을 쌓고, 이를 바탕으로 차세대 AI 칩 수주 범위를 넓혀갈 수 있을지가 관건이라고 보고 있다. 특히 삼성전자는 메모리와 파운드리를 모두 보유한 세계 유일의 종합 반도체 기업이라는 강점을 갖고 있다. HBM과 AI 칩 생산을 함께 제공할 수 있는 만큼 향후 엔비디아를 비롯한 글로벌 빅테크 기업들의 공급망 전략 변화에 따라 새로운 기회를 확보할 수 있다는 분석도 나온다. 결국 이번 회동의 의미는 HBM 공급 여부보다 엔비디아 공급망 내 삼성전자의 역할 변화 가능성을 확인했다는 데 있다. 엔비디아가 AI 반도체 수요 확대에 대응해 공급망 다변화에 나설 경우 삼성전자가 HBM에 이어 파운드리에서도 존재감을 확대할 수 있을지 관심이 쏠린다.2026-06-09 16:00:16
-
GTC 2026 달군 한미 AI 동맹…엔비디아·삼성·SK '메모리 삼국지' 본격화 [경제일보] 미국 실리콘밸리에서 열린 GTC 2026 현장에서 글로벌 인공지능(AI) 패권을 둘러싼 반도체 기업 간 전략 경쟁이 본격화됐다. 엔비디아와 삼성전자, SK하이닉스가 차세대 메모리 주도권을 놓고 복합적인 협력과 견제를 병행하는 구도가 뚜렷해졌다는 평가다. 이번 행사는 단순한 기술 발표를 넘어, 엔비디아가 글로벌 공급망 재편 전략을 가늠하는 시험대로 작용했다. 동시에 한국 메모리 기업들은 기존 생산 중심 역할을 넘어 설계 단계까지 영향력을 확대하며 전략적 파트너로서의 위상을 강화했다. 가장 주목된 장면은 젠슨 황 최고경영자의 행보다. 그는 SK하이닉스 부스를 찾아 차세대 가속기 모델에 서명하며 협력을 강조하는 한편, 기조연설에서는 삼성이 자사 추론용 칩 생산에 참여하고 있다고 공개적으로 언급했다. 특정 기업에 대한 일방적 의존을 피하면서 공급망 균형을 유지하려는 의도가 읽힌다. 이 같은 행보는 급증하는 AI 반도체 수요에 대응하기 위한 전략적 선택으로 해석된다. 단일 공급망 의존은 납기 지연과 가격 협상력 약화로 이어질 수 있기 때문이다. 기존의 TSMC와 SK하이닉스 중심 구조에 삼성전자를 포함시키며 경쟁 구도를 유도하려는 전략으로 풀이된다. 한국 기업들도 수동적 대응에 머물지 않고 주도권 확보에 나섰다. 최태원 회장은 현장에서 고대역폭 메모리(HBM) 중심 생산 확대에 따른 D램 공급 불균형 가능성을 언급하며, 메모리 산업 전반의 수급 관리 필요성을 강조했다. 이는 단순 공급자가 아닌 시장 조율자로서 역할을 강화하겠다는 메시지로 해석된다. 삼성전자는 설계·파운드리·패키징을 통합한 턴키 생산 역량을 전면에 내세웠다. 데이터 처리 병목을 줄이고 납기를 단축할 수 있다는 점을 강조하며 차별화 전략을 분명히 했다. 특히 차세대 HBM 제품을 공개하며 기술 주도권 경쟁에서 우위를 확보하려는 의지도 드러냈다. 현재 AI 반도체 시장은 단일 기업 중심 구조에서 벗어나 상호 의존성이 높은 협력 체제로 빠르게 재편되고 있다. 엔비디아의 GPU 설계 경쟁력은 HBM 기술이 뒷받침돼야 완성된다. 반대로 삼성전자와 SK하이닉스 역시 엔비디아 플랫폼을 통해 고부가가치 시장을 확대하고 있다. AI 산업의 중심이 학습에서 추론으로 이동하면서 맞춤형 메모리 수요도 빠르게 증가하고 있다. 이에 따라 단순 생산 능력뿐 아니라 설계와 패키징을 포함한 통합 역량이 핵심 경쟁 요소로 부상하고 있다. 결국 이번 GTC는 글로벌 AI 반도체 생태계가 ‘경쟁적 협력’ 구조로 전환되고 있음을 보여준 무대로 평가된다. 공급망 주도권을 둘러싼 미묘한 균형 속에서 한국 반도체 산업의 전략적 입지는 한층 강화될 것으로 전망된다.2026-03-18 10:01:00
-
엔비디아 젠슨 황 "삼성에 감사"…삼성전자 GTC서 7세대 HBM4E 최초 공개 [경제일보] 글로벌 인공지능(AI) 패권을 쥐고 있는 엔비디아의 연례 개발자 회의 'GTC 2026' 무대에서 삼성전자(대표 한종희)의 이름이 연신 울려 퍼졌다. 젠슨 황 엔비디아 최고경영자(CEO)가 직접 삼성전자의 파운드리(반도체 위탁생산) 역량을 치켜세운 데 이어 삼성전자는 현장에서 차세대 7세대 고대역폭메모리(HBM4E) 실물을 세계 최초로 공개하며 메모리 시장의 주도권 탈환을 공식화했다. 16일(현지시간) 미국 캘리포니아주 새너제이 SAP센터에서 열린 GTC 2026 기조연설에서 황 CEO는 AI 추론 전용 칩 생태계를 설명하며 "삼성이 우리를 위해 그록(Groq)3 언어처리장치(LPU) 칩을 제조하고 있다"며 "지금 최대한 빠르게 생산을 늘리고 있으며 삼성에게 정말 감사드린다"고 극찬했다. 그록3 LPU는 엔비디아의 차세대 그래픽처리장치(GPU)인 '루빈(Rubin)'과 역할을 분담해 AI 추론 성능과 전력 효율성을 극대화하는 핵심 칩이다. 황 CEO는 이 칩이 올해 하반기인 3분기께 출하가 시작된다고 밝혔다. 그동안 대만 TSMC에 절대적으로 의존해 온 엔비디아가 차세대 핵심 추론 칩 생산을 삼성전자 파운드리에 맡겼다는 사실이 황 CEO의 입을 통해 공식 확인된 셈이다. 이는 단순한 파운드리 수주를 넘어 다가오는 'AI 추론 시대'에 삼성전자가 엔비디아의 대체 불가능한 하드웨어 파트너로 격상되었음을 시사한다. 파운드리 낭보와 함께 삼성전자는 전시장 부스에서 압도적인 메모리 기술력을 과시했다. 지난달 세계 최초로 6세대 HBM4 양산 출하를 선언한 데 이어 이날 행사에서는 한 세대 더 앞선 7세대 'HBM4E' 실물 칩과 적층용 베이스 다이 웨이퍼를 대중에 처음 공개했다. 올해 하반기 샘플 출하를 목표로 하는 HBM4E는 핀당 16Gbps(초당 기가비트) 전송 속도와 4.0TB/s(초당 테라바이트)의 대역폭을 지원한다. 이는 최신작인 HBM4의 13Gbps 전송 속도와 3.3TB/s 대역폭을 훌쩍 뛰어넘는 괴물급 스펙이다. 삼성전자는 10나노급 6세대(1c) D램 공정 기술과 자사 파운드리의 4나노미터(㎚) 베이스 다이 설계 역량을 결합해 이 같은 초격차 성능을 구현했다고 설명했다. 업계에서는 삼성전자가 HBM4 양산 직후 곧바로 HBM4E를 공개한 것을 두고 HBM3와 HBM3E 시장을 선점했던 경쟁사 SK하이닉스의 기선을 제압하기 위한 포석으로 해석한다. 실제로 삼성전자는 전시장 내 'HBM4 히어로 월(Hero Wall)'을 통해 메모리 생산과 파운드리 로직 설계 및 첨단 패키징까지 모두 내부에서 소화하는 종합반도체기업(IDM)만의 '턴키(Turn-key·일괄 생산)' 강점을 전면에 내세웠다. SK하이닉스가 베이스 다이 제작을 위해 TSMC와 연합 전선을 구축한 것과 달리 삼성전자는 설계부터 최종 조립까지 자체적으로 해결해 데이터 병목을 줄이고 납기를 단축할 수 있다는 것이다. 여기에 열 저항을 기존 열압착접합(TCB) 대비 20% 개선하고 16단 이상 고적층을 안정적으로 지원하는 차세대 하이브리드구리접합(HCB) 패키징 기술도 영상을 통해 선보이며 발열 제어 기술에 대한 자신감을 드러냈다. 삼성전자의 공세는 HBM에만 국한되지 않는다. 엔비디아의 차세대 AI 가속기 플랫폼인 '베라 루빈(Vera Rubin)' 생태계 전체를 자사 제품으로 채우겠다는 야심도 드러냈다. 루빈 GPU에 들어가는 HBM4는 물론 중앙처리장치(CPU) '베라'에 탑재될 서버용 저전력 메모리 모듈 소캠(SOCAMM)2와 기업용 6세대 SSD 'PM1763' 스토리지를 함께 전시해 AI 데이터센터 구동에 필요한 모든 형태의 메모리를 공급할 수 있는 토털 솔루션 역량을 부각했다. 이러한 행보는 AI 산업의 무게 중심이 거대언어모델(LLM) '학습'에서 실생활에 적용되는 '추론'으로 이동함에 따라 전력 효율과 공간 최적화가 필수적인 맞춤형(커스텀) 메모리 수요가 폭발적으로 증가하고 있는 배경과 맞닿아 있다. 송용호 삼성전자 AI센터장(부사장)은 17일 GTC 특별 초청 발표 무대에 올라 반도체 제조 과정에서 스스로 학습하고 판단하는 'AI 팩토리' 비전을 공유하고 엔비디아 인프라 혁신을 뒷받침할 삼성전자의 중장기 기술 청사진을 제시할 예정이다. HBM 시장에서 절치부심했던 삼성전자가 2026년을 기점으로 파운드리와 차세대 패키징 융합이라는 승부수를 띄우며 글로벌 AI 반도체 생태계의 판을 근본적으로 뒤흔들고 있다.2026-03-17 07:50:01
-
엔비디아의 독주 막을까... 빅테크 '자체 칩 전쟁' 2라운드 돌입 [이코노믹데일리] 마이크로소프트(MS)가 자체 개발한 차세대 인공지능(AI) 칩 '마이아 200'을 전격 공개하며 엔비디아가 장악한 AI 칩 시장에 도전장을 내밀었다. 빅테크 기업들이 '탈(脫) 엔비디아'를 외치며 자체 칩 개발에 속도를 내는 가운데 MS의 이번 행보가 시장 판도를 뒤흔들지 주목된다. 27일(한국시간) MS는 자사 뉴스룸을 통해 AI 추론 가속기 '마이아 200'을 공개했다. 이는 2023년 11월 첫선을 보인 '마이아 100'의 후속작으로 TSMC의 3나노 공정을 기반으로 제작됐다. 특히 SK하이닉스의 최신 고대역폭메모리인 HBM3E를 탑재해 데이터 처리 속도를 획기적으로 높였다. 마이아 200의 핵심은 '추론 효율성'이다. MS는 이 칩이 아마존웹서비스(AWS)의 최신 칩 대비 경량 연산 성능이 3배 높고 구글의 TPU보다 연산 효율성이 뛰어나다고 밝혔다. 사티아 나델라 MS CEO는 "업계 최고의 추론 효율성을 위해 설계됐으며 같은 예산 대비 성능이 30% 높다"고 자신했다. 이는 엔비디아 GPU의 높은 가격과 공급 부족 문제를 정면 돌파하겠다는 의지로 풀이된다. 훈련된 AI 모델이 서비스를 실행하는 '추론' 단계에서는 고비용의 엔비디아 GPU보다 가성비(가격 대비 성능)가 뛰어난 맞춤형 칩이 유리하기 때문이다. 마이아 200은 오픈AI의 최신 모델인 'GPT-5.2'와 MS의 '코파일럿' 구동에 최적화돼 운영 비용을 대폭 절감할 것으로 기대된다. ◇ 빅테크의 '칩 독립선언'... 엔비디아 독주 체제 균열? MS뿐만 아니라 구글, 아마존, 메타 등 빅테크들은 이미 자체 칩 개발에 사활을 걸고 있다. 구글은 'TPU'를 자사 서비스에 전면 적용 중이며 AWS는 최근 성능을 대폭 개선한 '트레이니엄3'를 공개했다. 오픈AI 역시 브로드컴과 손잡고 자체 칩 개발을 추진 중이다. 이러한 움직임은 엔비디아 의존도를 낮추고 공급망을 다변화하려는 생존 전략이다. 월스트리트저널(WSJ)은 "AI 기업들의 자체 칩은 엔비디아에 또 다른 위협이 된다"고 분석했다. 하지만 엔비디아의 반격도 만만치 않다. 엔비디아는 단순 칩 제조를 넘어 CPU, 서버, 소프트웨어, 모델을 아우르는 '풀스택 AI' 기업으로 진화하고 있다. 최근에는 AI 추론 칩 스타트업 '그록(Groq)'을 인수하며 약점인 추론 시장 방어에도 나섰다. 또한 올해 TSMC의 최대 고객사로 등극할 것으로 예상되는 등 압도적인 물량 공세를 예고하고 있다. 전문가들은 2026년이 AI 칩 시장의 분기점이 될 것으로 내다본다. 엔비디아의 범용 GPU가 여전히 학습 시장을 주도하겠지만 서비스 단계인 추론 시장에서는 빅테크들의 맞춤형 칩(ASIC)이 점유율을 빠르게 잠식할 것이라는 분석이다. MS는 마이아 200을 미국 아이오와주 데이터센터에 배치하기 시작했으며 향후 애리조나주 등으로 확대할 계획이다. 칩부터 데이터센터까지 아우르는 '엔드투엔드' 설계로 인프라 구축 기간을 절반으로 단축시킨 점도 강점이다. 업계 관계자는 "MS의 마이아 200은 단순한 기술 과시용이 아니라 실질적인 비용 절감을 위한 전략적 무기"라며 "빅테크들의 자체 칩 생태계가 확장될수록 엔비디아의 가격 결정력은 약화될 수밖에 없을 것"이라고 전망했다.2026-01-27 16:47:56
-
![[위기의 한국 AI 반도체 ①] 가성비만으론 못 이긴다… 그록 품은 엔비디아](https://image.ajunews.com//content/image/2026/01/20/20260120160433984020.jpg)
"가성비만으론 못 이긴다"… 그록 품은 엔비디아 [이코노믹데일리] 엔비디아의 29조원 ‘크리스마스 쇼크’는 단순한 기업 인수를 넘어 글로벌 AI 반도체 질서의 변곡점을 알리는 사건이었다. 지난해 12월 24일 전 세계 반도체 업계는 산타클로스의 선물 대신 ‘AI 황제’ 젠슨 황이 보낸 경고장을 받아들었다. 엔비디아가 미국 AI 추론 칩 스타트업 그록을 약 200억달러, 우리 돈 29조원에 달하는 금액으로 사실상 흡수했다는 소식이었다. 이는 2019년 멜라녹스 인수에 투입된 70억달러를 훌쩍 뛰어넘는 엔비디아 역사상 최대 규모의 베팅이다. 동시에 그동안 “타도 엔비디아”를 외치며 AI 추론 시장의 틈새를 노려온 전 세계 후발 주자들에게는 사실상의 사형 선고에 가까운 메시지로 받아들여졌다. 본지는 엔비디아의 그록 인수가 던지는 전략적 함의와 그 여파로 생존의 기로에 선 한국 AI 반도체 산업의 현주소를 짚어본다. 이번 딜의 본질은 ‘규모’보다 ‘방식’에 있다. 엔비디아는 그록을 자회사로 편입하는 전통적 인수합병 대신 핵심 지식재산권에 대한 비독점 라이선스를 확보하고 창업자 조나단 로스를 포함한 엔지니어링 조직을 통째로 흡수하는 이른바 ‘인재·기술 흡수형 인수’ 방식을 택했다. 미국 연방거래위원회와 각국 규제 당국의 반독점 감시망을 피해 가면서도 실질적인 기술 내재화는 완성하는 고도의 계산이었다. 업계에서는 엔비디아가 자신의 마지막 약점으로 지적돼 온 ‘추론 비용’과 ‘지연 시간 문제’를 자본력으로 단숨에 제거해 버렸다는 평가가 지배적이다. 그동안 AI 반도체 시장은 학습과 추론으로 양분돼 있었다. 엔비디아 GPU는 학습 영역에서 독보적이었지만 실제 서비스를 담당하는 추론 단계에서는 전력 소모와 비용 부담이 크다는 한계를 안고 있었다. 특히 실시간 응답이 중요한 대규모 언어모델 서비스에서는 GPU 구조상 병목 현상이 발생해 속도 저하 문제가 반복적으로 제기돼 왔다. 이 틈을 파고든 것이 바로 그록이었다. 구글의 텐서 처리 장치를 설계했던 조나단 로스가 창업한 그록은 GPU와는 전혀 다른 해법을 제시했다. 그록의 언어 처리 장치는 고대역폭 메모리를 과감히 배제하고 초고속 정적 메모리를 대량으로 집적하는 구조를 채택했다. 용량은 작지만 처리 속도가 압도적으로 빠른 이 메모리를 기반으로 칩 간 연결을 소프트웨어로 최적화해 속도 한계를 돌파했다. 그 결과 그록은 엔비디아 GPU 대비 최대 10배 빠른 추론 속도와 10분의 1 수준의 에너지 효율을 구현하며 ‘실시간 AI’ 시대의 가능성을 열었다. 엔비디아는 바로 이 기술을 손에 넣었다. 젠슨 황 최고경영자는 그록의 저지연 프로세서 기술을 자사의 AI 팩토리 아키텍처에 통합하겠다고 공식화했다. 이는 향후 엔비디아의 차세대 칩이 학습은 물론 초저지연 추론 시장까지 사실상 독식하겠다는 선언으로 해석된다. 강력한 소프트웨어 생태계인 쿠다 위에 그록의 속도 기술이 결합될 경우 고객사들이 호환성 위험을 감수하며 다른 신경망 처리 장치를 선택할 유인은 급격히 줄어들 수밖에 없다. 이른바 ‘엔비디아 생태계 밖은 지옥’이라는 말이 과장이 아니라는 인식이 업계 전반에 퍼지고 있다. 이 충격파는 곧바로 한국 AI 반도체 산업으로 전이됐다. 그동안 국내 신경망 처리 장치 기업들은 엔비디아 대비 가격 경쟁력과 전력 효율을 앞세워 틈새를 공략해 왔다. 그러나 엔비디아가 추론 성능과 가격 경쟁력까지 동시에 확보할 경우 ‘가성비’만으로는 생존을 장담하기 어려운 국면이 열렸다는 위기감이 고조되고 있다. 이것이 한국 AI 반도체 산업이 직면한 냉혹한 현실이다.2026-01-20 16:07:37
많이 본 뉴스
영상
Youtube 바로가기
![[데스크칼럼] 롤러코스터 증시, 천수답 시장을 끝내야 한다](https://image.ajunews.com/content/image/2026/06/25/20260625111259683088_518_323.png)