2026.07.14 화요일
검색
'인퍼런시아' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 인프라도 '튜닝' 경쟁…노타, AWS AI칩 최적화 시장 진출 [경제일보] 엔비디아 GPU를 대체할 인공지능(AI) 인프라에 대한 관심이 높아지는 가운데 AI 모델을 클라우드 환경에 맞게 최적화하는 시장도 함께 성장하고 있다. AI 서비스 확산으로 인프라 비용 부담이 커지면서 AWS의 자체 AI 칩인 '트레이니움'과 '인퍼런시아'를 도입하려는 기업이 늘고 있지만, 기존 AI 모델을 새로운 칩 환경에서 효율적으로 구동하기 위해서는 별도의 최적화 작업이 필요하기 때문이다. 7일 노타는 AWS AI 칩 환경에서 기업 고객이 AI 모델의 성능을 극대화할 수 있도록 지원하는 AI 모델 경량화 및 튜닝 서비스를 출시했다고 밝혔다. 노타는 AWS 공인 파트너 자격으로 트레이니움과 인퍼런시아 환경에 맞춘 모델 최적화 서비스를 제공한다. 최근 생성형 AI 도입이 확산되면서 기업들의 관심은 AI 모델 개발뿐 아니라 운영 비용 절감으로도 옮겨가고 있다. 이에 노타는 대규모 언어 모델(LLM)을 서비스하는 기업들이 GPU 확보 비용과 전력 소비 부담이 커지면서 AWS를 비롯한 글로벌 클라우드 사업자들이 자체 개발한 AI 칩 도입을 검토하는 사례가 증가한 것으로 분석한다. AWS의 트레이니움은 AI 모델 학습을, 인퍼런시아는 AI 추론을 위해 설계된 전용 칩이다. AWS는 자체 AI 칩을 통해 가격 대비 성능과 에너지 효율을 높이는 전략을 추진하고 있으며, 글로벌 AI 기업들도 이를 활용해 인프라 비용 절감에 나서고 있다. 다만 기존 AI 모델을 새로운 AI 칩 환경으로 이전하는 과정은 쉽지 않은 것으로 알려졌다. 모델 구조와 연산 방식이 하드웨어마다 달라 별도의 포팅과 최적화가 필요하며, 이를 수행할 전문 인력도 부족한 상황이다. 이로 인해 AI 모델을 다양한 칩 환경에 맞게 경량화하고 성능을 조정하는 최적화 기술의 중요성이 커지고 있다. 노타는 해당 수요를 겨냥해 자사 AI 모델 최적화 플랫폼 '넷츠프레소'를 기반으로 기술검증(PoC)과 모델 포팅, 경량화, 성능 튜닝까지 전 과정을 지원한다. AI 모델 크기를 최대 90% 이상 줄이면서도 정확도를 유지할 수 있도록 지원하고, AWS AI 칩 환경에 맞춘 최적 배포를 제공하는 것이 특징이다. 특히 노타는 AWS 트레이니움과 인퍼런시아 환경에서 대규모 언어 모델을 최적화한 경험도 확보했다고 설명했다. 320억개 파라미터 규모 언어 모델에 경량화 기술을 적용해 모델 크기를 68% 줄이면서도 정확도 손실은 1% 미만으로 유지한 사례를 확보했으며, 다양한 AI 모델 아키텍처에 대한 포팅과 튜닝 경험도 축적했다고 강조했다. 앞서 노타는 모바일 기기뿐 아니라 데이터센터와 엣지 디바이스 등 다양한 환경에서 AI 모델 최적화 기술을 제공해온 바 있다. 그동안 삼성전자, Arm, 퓨리오사AI, 모빌린트 등과 협력하며 하드웨어별 AI 모델 경량화 기술을 검증했으며, 이번 서비스를 계기로 클라우드 AI 인프라 영역까지 사업을 확대한다는 전략이다. 채명수 노타 대표는 "AWS AI 칩은 뛰어난 가격 대비 성능을 제공하며, 노타는 이러한 AWS 칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 말했다.2026-07-07 08:23:06
-
오픈AI, 첫 자체 AI칩 '할라페뇨' 공개…엔비디아 의존 줄이기 시동 [경제일보] 오픈AI가 브로드컴과 공동 개발한 첫 자체 AI 반도체 ‘할라페뇨’를 공개했다. 챗GPT와 코덱스 등 대형 AI 서비스를 운영하며 커진 추론 비용을 낮추고 엔비디아 GPU 의존도를 줄이려는 전략이다. 외신에 따르면 오픈AI와 브로드컴은 24일 현지시간 추론 특화 AI 칩 할라페뇨를 공개했다. 할라페뇨는 범용 GPU를 개량한 제품이 아니라 대형언어모델 추론을 위해 처음부터 설계한 맞춤형 반도체다. 오픈AI는 올해 말부터 이 칩을 데이터센터에 배치할 계획이다. AI 반도체 시장에서 추론은 새 격전지로 떠올랐다. 모델을 학습시키는 단계에는 막대한 연산 자원이 필요하지만 실제 서비스에서는 이용자 요청에 답하는 추론 비용이 계속 발생한다. 챗GPT처럼 글로벌 이용자가 많은 서비스는 추론 효율이 곧 운영비와 수익성에 직결된다. 오픈AI는 초기 테스트에서 할라페뇨의 전력 대비 성능이 기존 최상위 AI 칩보다 개선됐다고 밝혔다. 브로드컴의 호크 탄 최고경영자는 외신 인터뷰에서 엔비디아 블랙웰과 구글 TPU에 견줄 성능을 언급했다. 다만 양사는 최종 성능 측정이 진행 중이라며 세부 수치는 공개하지 않았다. 실제 경쟁력은 데이터센터 배치 이후 전력 효율과 안정성, 단가가 확인돼야 판단할 수 있다. 이번 공개는 오픈AI의 풀스택 전략과 맞물린다. 오픈AI는 모델과 서비스뿐 아니라 칩과 메모리 시스템, 네트워크, 데이터센터 운영까지 직접 통제하려는 방향으로 움직이고 있다. AI 서비스 이용량이 커질수록 외부 GPU 공급에만 의존하기 어렵기 때문이다. 공급 부족과 높은 가격, 전력 부담은 AI 기업의 공통 과제다. 빅테크의 자체 칩 개발도 같은 흐름이다. 구글은 TPU를 통해 자사 AI 모델과 클라우드 서비스에 맞춘 연산 인프라를 구축했다. 아마존은 학습용 트레이니움과 추론용 인퍼런시아를 운영하고 있다. 마이크로소프트와 메타도 자체 AI 가속기 개발에 투자하고 있다. 오픈AI의 할라페뇨 공개는 이 대열에 본격 합류했다는 신호다. 엔비디아에 미칠 영향은 단기적으로 제한적이라는 시각이 많다. 자체 칩은 특정 서비스와 추론 환경에 최적화되는 경우가 많다. 대규모 학습과 범용 AI 인프라에서는 엔비디아 GPU의 생태계와 소프트웨어 경쟁력이 여전히 강하다. 다만 추론 영역에서 맞춤형 ASIC이 늘어나면 AI 반도체 시장의 성장 축은 더 넓어질 수 있다. 국내 반도체 업계에도 파급력이 있다. 빅테크가 자체 AI 칩을 늘리면 고대역폭메모리와 첨단 패키징 수요도 함께 커진다. 삼성전자와 SK하이닉스 같은 메모리 기업에는 새로운 고객군이 늘어나는 효과가 기대된다. 다만 할라페뇨에 어떤 HBM이 탑재됐는지는 공개자료 기준으로 확인되지 않아 특정 공급사를 단정하기는 어렵다. 오픈AI의 과제는 기술 공개 이후 수익성 입증이다. 자체 칩이 실제로 추론 비용을 낮추고 서비스 속도와 안정성을 높여야 한다. IPO 가능성이 시장에서 거론되는 만큼 인프라 비용을 통제할 수 있다는 점도 투자자에게 중요한 메시지가 될 수 있다. AI 경쟁은 모델 성능만으로 끝나지 않는다. 더 좋은 답을 더 싸고 빠르게 제공하는 인프라 경쟁으로 옮겨가고 있다. 할라페뇨는 오픈AI가 엔비디아 생태계에서 벗어나겠다는 선언이라기보다 비용과 성능을 직접 통제하려는 첫 시도에 가깝다. 이 칩이 데이터센터에서 검증되면 AI 반도체 시장은 GPU 중심에서 맞춤형 추론 칩 경쟁으로 한 단계 더 갈라질 전망이다.2026-06-25 16:53:13
-
앤트로픽, MS 자체 AI칩 '마이아' 사용 논의…엔비디아 의존 낮춘다 [경제일보] 마이크로소프트(MS)가 자체 개발한 인공지능(AI) 반도체 ‘마이아’를 앤트로픽에 공급하는 방안을 논의 중인 것으로 알려졌다. 협상이 성사되면 MS가 자체 AI칩을 외부 대형 AI 모델 개발사에 제공하는 첫 사례가 될 수 있다. 로이터는 21일(현지시간) IT 전문매체 디인포메이션을 인용해 앤트로픽이 MS가 설계한 AI칩 기반 서버를 임대하는 방안을 논의하고 있다고 보도했다. 협상은 아직 초기 단계이며 최종 타결 여부는 확정되지 않았다. MS와 앤트로픽은 해당 보도에 대해 논평을 거부했다. 논의 대상은 MS의 최신 AI 가속기 ‘마이아 200’이다. MS는 지난 1월 마이아 200을 공개하며 대규모 AI 추론 작업에 특화된 자체 칩이라고 설명했다. 마이아 200은 TSMC 3나노 공정 기반으로 제작됐고 FP4 기준 10페타플롭스 이상, FP8 기준 5페타플롭스 이상의 연산 성능을 제공한다고 MS는 밝혔다. 또 표준 이더넷 기반 네트워크로 최대 6144개 AI 가속기 클러스터까지 확장할 수 있도록 설계됐다. 앤트로픽이 마이아 200을 사용하게 될 경우 주된 용도는 클로드 모델의 추론 작업이 될 전망이다. 추론은 이미 학습된 AI 모델이 이용자 질문에 답변을 생성하는 과정이다. 이용량이 빠르게 늘어날수록 추론 비용은 AI 서비스 운영비의 핵심 부담이 된다. 대형 AI 기업들이 엔비디아 GPU뿐 아니라 자체 칩과 클라우드 전용 가속기를 병행하려는 이유도 여기에 있다. 앤트로픽은 이미 아마존과 구글의 자체 칩 생태계를 활용하고 있다. 아마존은 앤트로픽의 주요 투자자이자 클라우드 파트너이며 앤트로픽은 AWS의 트레이니움·인퍼런시아 계열 칩을 활용해왔다. 구글과도 협력을 확대해 차세대 TPU 기반 다중 기가와트 규모 컴퓨팅 용량을 확보하기로 했다. 앤트로픽은 지난달 구글·브로드컴과의 협력을 발표하며 2027년부터 차세대 TPU 용량을 순차적으로 확보한다고 밝혔다. MS와의 협상이 성사되면 앤트로픽은 아마존, 구글, MS 등 3대 클라우드 사업자의 자체 AI칩을 모두 활용하는 주요 AI 모델 개발사가 된다. 이는 단순한 서버 임대를 넘어 AI 인프라 조달 전략의 다변화를 뜻한다. 엔비디아 GPU는 여전히 학습과 고성능 추론의 중심이지만 공급 부족과 높은 비용 때문에 AI 기업들은 자체 칩과 전용 가속기를 함께 사용하는 방향으로 움직이고 있다. MS에도 의미가 크다. MS는 지난해 앤트로픽, 엔비디아와 전략적 협력을 발표하며 앤트로픽이 클로드 모델을 애저에서 확장하고 300억달러 규모의 애저 컴퓨팅 용량을 구매하기로 했다고 밝혔다. 당시 협력은 엔비디아 시스템 기반 애저 인프라가 중심이었다. 이번 마이아 논의는 MS가 단순 클라우드 제공자를 넘어 자체 반도체를 외부 AI 기업에 공급하는 단계로 나아가는 신호가 될 수 있다. MS는 그동안 마이아 칩을 주로 내부 AI 서비스에 활용해왔다. MS는 마이아 200이 마이크로소프트 365 코파일럿, 파운드리 모델, 오픈AI 최신 모델 등 자사 클라우드 서비스와 AI 모델 운영에 쓰일 것이라고 설명했다. 자체 칩을 외부 고객에게 본격 제공할 수 있다면 구글 TPU, 아마존 트레이니움처럼 클라우드 차별화 수단으로 키울 수 있다. AI 반도체 경쟁 구도도 바뀌고 있다. 지금까지 AI 인프라 시장은 엔비디아 GPU가 압도적인 지위를 차지했다. 그러나 추론 수요가 폭증하면서 클라우드 사업자들은 비용 효율과 공급 안정성을 위해 자체 칩을 키우고 있다. 구글은 TPU를 제미나이와 외부 고객용 클라우드에 활용하고 아마존은 트레이니움과 인퍼런시아를 AWS 고객에게 제공한다. MS가 마이아를 앤트로픽에 공급한다면 후발주자로 평가받던 자체 칩 전략이 외부 검증을 받는 계기가 된다. 다만 단기간에 엔비디아 의존이 급격히 줄어들 가능성은 낮다. 앤트로픽은 MS·엔비디아와의 기존 협력에서 엔비디아 Grace Blackwell과 Vera Rubin 시스템을 활용하는 컴퓨팅 용량도 확보하기로 했다. 프런티어 모델 학습에는 여전히 엔비디아 GPU 생태계와 소프트웨어 스택의 강점이 크다. 마이아 200은 주로 대규모 추론 비용을 낮추고 공급처를 넓히는 보완재 역할을 할 가능성이 높다. 마이아200이 실제 AI 인프라 시장에서 통할지는 가격 대비 성능과 소프트웨어 생태계가 좌우할 전망이다. AI 칩은 연산 성능만 높다고 경쟁력이 생기지 않는다. 모델 최적화, 컴파일러, 네트워크, 메모리 대역폭, 개발자 도구, 운영 안정성이 함께 갖춰져야 한다. 앤트로픽이 차세대 마이아 설계 과정에 참여할 수 있다는 관측도 MS가 고객 워크로드에 맞춘 반도체 공동 최적화 전략을 강화하고 있음을 보여준다. 이번 논의는 AI 경쟁의 중심이 모델 성능에서 인프라 조달 능력으로 확장되고 있음을 보여준다. 클로드 이용량이 늘어날수록 앤트로픽은 더 많은 데이터센터 전력, 칩, 네트워크, 클라우드 용량을 안정적으로 확보해야 한다. MS는 마이아를 통해 애저의 원가 구조를 개선하고 외부 AI 고객을 붙잡을 수 있다. 협상이 타결된다면 AI 반도체 시장의 메시지는 분명하다. 엔비디아 독주가 끝났다는 뜻은 아니지만 빅테크 자체 칩이 더 이상 내부 실험용에 머물지 않고 대형 AI 서비스의 실제 운영 인프라로 들어가기 시작했다는 신호다. MS의 마이아가 앤트로픽 클로드의 추론 비용을 얼마나 낮출 수 있을지가 다음 관전 포인트다.2026-05-22 09:03:35
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 환율 안정에 안주할 때 아니다…외환 방어력 키울 골든 타임이다](https://image.ajunews.com/content/image/2026/07/13/20260713092838404021_518_323.jpg)