검색결과 총 5건
-
AI 인프라도 '튜닝' 경쟁…노타, AWS AI칩 최적화 시장 진출
[경제일보] 엔비디아 GPU를 대체할 인공지능(AI) 인프라에 대한 관심이 높아지는 가운데 AI 모델을 클라우드 환경에 맞게 최적화하는 시장도 함께 성장하고 있다. AI 서비스 확산으로 인프라 비용 부담이 커지면서 AWS의 자체 AI 칩인 '트레이니움'과 '인퍼런시아'를 도입하려는 기업이 늘고 있지만, 기존 AI 모델을 새로운 칩 환경에서 효율적으로 구동하기 위해서는 별도의 최적화 작업이 필요하기 때문이다. 7일 노타는 AWS AI 칩 환경에서 기업 고객이 AI 모델의 성능을 극대화할 수 있도록 지원하는 AI 모델 경량화 및 튜닝 서비스를 출시했다고 밝혔다. 노타는 AWS 공인 파트너 자격으로 트레이니움과 인퍼런시아 환경에 맞춘 모델 최적화 서비스를 제공한다. 최근 생성형 AI 도입이 확산되면서 기업들의 관심은 AI 모델 개발뿐 아니라 운영 비용 절감으로도 옮겨가고 있다. 이에 노타는 대규모 언어 모델(LLM)을 서비스하는 기업들이 GPU 확보 비용과 전력 소비 부담이 커지면서 AWS를 비롯한 글로벌 클라우드 사업자들이 자체 개발한 AI 칩 도입을 검토하는 사례가 증가한 것으로 분석한다. AWS의 트레이니움은 AI 모델 학습을, 인퍼런시아는 AI 추론을 위해 설계된 전용 칩이다. AWS는 자체 AI 칩을 통해 가격 대비 성능과 에너지 효율을 높이는 전략을 추진하고 있으며, 글로벌 AI 기업들도 이를 활용해 인프라 비용 절감에 나서고 있다. 다만 기존 AI 모델을 새로운 AI 칩 환경으로 이전하는 과정은 쉽지 않은 것으로 알려졌다. 모델 구조와 연산 방식이 하드웨어마다 달라 별도의 포팅과 최적화가 필요하며, 이를 수행할 전문 인력도 부족한 상황이다. 이로 인해 AI 모델을 다양한 칩 환경에 맞게 경량화하고 성능을 조정하는 최적화 기술의 중요성이 커지고 있다. 노타는 해당 수요를 겨냥해 자사 AI 모델 최적화 플랫폼 '넷츠프레소'를 기반으로 기술검증(PoC)과 모델 포팅, 경량화, 성능 튜닝까지 전 과정을 지원한다. AI 모델 크기를 최대 90% 이상 줄이면서도 정확도를 유지할 수 있도록 지원하고, AWS AI 칩 환경에 맞춘 최적 배포를 제공하는 것이 특징이다. 특히 노타는 AWS 트레이니움과 인퍼런시아 환경에서 대규모 언어 모델을 최적화한 경험도 확보했다고 설명했다. 320억개 파라미터 규모 언어 모델에 경량화 기술을 적용해 모델 크기를 68% 줄이면서도 정확도 손실은 1% 미만으로 유지한 사례를 확보했으며, 다양한 AI 모델 아키텍처에 대한 포팅과 튜닝 경험도 축적했다고 강조했다. 앞서 노타는 모바일 기기뿐 아니라 데이터센터와 엣지 디바이스 등 다양한 환경에서 AI 모델 최적화 기술을 제공해온 바 있다. 그동안 삼성전자, Arm, 퓨리오사AI, 모빌린트 등과 협력하며 하드웨어별 AI 모델 경량화 기술을 검증했으며, 이번 서비스를 계기로 클라우드 AI 인프라 영역까지 사업을 확대한다는 전략이다. 채명수 노타 대표는 "AWS AI 칩은 뛰어난 가격 대비 성능을 제공하며, 노타는 이러한 AWS 칩의 성능을 고객이 자사 모델에서 온전히 활용할 수 있도록 모델 튜닝을 지원한다"며 "AWS AI 칩 기반 인프라 도입을 검토하는 기업 고객에게 실질적인 비용 효율화 성과를 제공하겠다"고 말했다.
2026-07-07 08:23:06
-
AI 추론 최적화 수요 확대…노타, 상반기 수주 174억원 기록
[경제일보] 생성형 인공지능(AI) 시장이 '학습' 중심 경쟁에서 실제 서비스를 운영하는 '추론' 경쟁으로 빠르게 이동하면서 AI 모델을 효율적으로 구동하는 최적화 기술의 중요성이 커지고 있다. 이에 피지컬 AI와 온디바이스 AI 확산으로 제한된 연산 자원에서도 AI를 안정적으로 실행하려는 수요가 늘어나면서 AI 경량화 기술 기업인 노타의 사업 기회도 확대되는 모습이다. 26일 노타는 올해 2분기 수주액이 약 61억원을 기록했다고 밝혔다. 지난해 같은 기간 약 28억원과 비교하면 두 배 이상 증가한 규모다. 1분기 수주액 약 113억원을 포함한 상반기 누적 수주액은 약 174억원으로 집계됐다. 최근 AI 산업은 거대언어모델(LLM)의 성능 경쟁을 넘어 실제 서비스 환경에서 얼마나 빠르고 효율적으로 AI를 실행할 수 있는지가 핵심 경쟁력으로 떠오르고 있다. AI 모델 규모가 커질수록 연산량과 전력 소비가 증가하는 만큼, 반도체 성능을 최대한 활용하면서도 추론 속도를 높이는 최적화 기술이 기업들의 새로운 투자 분야로 부상하고 있는 것이다. 특히 제조 현장과 자율주행, 로봇, 스마트시티 등 피지컬 AI 분야가 확대되면서 클라우드 서버가 아닌 단말기에서 AI를 직접 구동하는 온디바이스 AI 시장도 빠르게 성장하고 있다. 산업 현장에서는 네트워크 연결 여부와 관계없이 실시간으로 AI를 실행해야 하는 사례가 늘어나면서 AI 모델을 경량화하고 하드웨어 환경에 맞게 최적화하는 기술 수요가 확대되고 있다. 이에 노타는 시장 변화에 맞춰 AI 최적화 플랫폼 '넷츠프레소'와 AI 비전 솔루션 'NVA(노타 비전 에이전트)'를 양축으로 사업을 확대하고 있다. 노타에 따르면 플랫폼 부문은 올해 2분기 전년 동기 대비 184% 성장했다. 최근 AI 반도체 기업 모빌린트와 넷츠프레소 라이선스 계약을 체결하면서 삼성전자, 퓨리오사AI, Arm 등에 이어 반도체 및 하드웨어 기업과의 협력 범위를 지속 확대하고 있다. 넷츠프레소는 AI 모델을 반도체와 하드웨어 환경에 맞춰 경량화·최적화하는 플랫폼이다. 제한된 연산 자원에서도 AI 모델을 안정적으로 구동할 수 있도록 지원하며, 피지컬 AI와 온디바이스 AI뿐 아니라 데이터센터 환경에서도 AI 추론 효율을 높이는 기술로 활용되고 있다. 노타는 AI 반도체 종류가 다양해질수록 각 칩 특성에 맞는 최적화 기술의 중요성도 함께 높아지고 있다고 설명했다. 산업 현장 중심의 AI 솔루션 사업도 성장세를 이어갔다. NVA 솔루션 부문은 지난해 같은 기간보다 약 1.8배 성장했다. 제조업과 건설, 플랜트, 산업안전 분야를 비롯해 영상 관제와 도시 안전, 교통 인프라 등 다양한 분야에서 적용 사례를 확대하며 사업 기반을 넓히고 있다. 최근에는 교통 영상 기반 비전언어모델(VLM) 분석과 다중 운집 분석 등 공공안전 분야 레퍼런스도 확보했다. 산업 현장과 도시 인프라에서 클라우드 의존도를 낮추고 현장 단말에서 AI를 즉시 실행하려는 수요가 늘면서 NVA의 적용 범위도 지속 확대되고 있다. IT 업계에서는 향후 AI 시장 경쟁이 모델 자체의 성능뿐 아니라 얼마나 다양한 반도체 환경에서 효율적으로 구동할 수 있는지가 중요 요인으로 작용할 것으로 전망하고 있다. AI 서비스가 제조와 모빌리티, 로봇, 공공안전 등 실제 산업 현장으로 확산될수록 추론 최적화와 경량화 기술은 AI 생태계의 핵심 기반 기술로 자리 잡을 것이라는 분석이다. 특히 노타는 플랫폼과 솔루션을 동시에 확대하며 AI 최적화 시장 공략에 속도를 낸다는 전략이다. 플랫폼 사업에서는 반도체 및 컴퓨팅 환경 전반으로 협력 범위를 넓히고, 솔루션 사업에서는 산업안전과 모빌리티, 교통, 공공안전 등 피지컬 AI 수요를 기반으로 레퍼런스를 확대해 AI 추론 최적화 시장에서 경쟁력을 강화한다는 계획이다. 채명수 노타 대표는 "AI가 다양한 디바이스와 산업 현장으로 확산될수록, 제한된 자원 안에서 AI를 빠르고 안정적으로 실행하는 추론 최적화 기술의 중요성은 더욱 커지고 있다"며 "올해 2분기 수주 성과는 넷츠프레소를 중심으로 한 반도체향 사업 확대와 NVA 기반 경량 AI 솔루션의 현장 적용성이 함께 입증된 결과"라고 말했다.
2026-06-26 15:16:27
-
-
-
"GPU 넘어 NPU로"…금융위·과기정통부, 'K-엔비디아' 키운다
[경제일보] 정부가 'K-엔비디아' 육성을 목표로 인공지능(AI) 반도체 산업에 대한 대규모 투자와 정책 지원에 나선다. 금융위원회는 과학기술정보통신부와 손잡고 민관 협력 기반의 투자 전략을 본격화해 글로벌 AI 패권 경쟁 속에서 국산 AI 반도체 경쟁력 확보에 속도를 낼 전망이다. 17일 금융위원회와 과기정통부는 서울 프레스센터에서 한국산업은행 및 국내 AI 반도체 기업들과 함께 'K-엔비디아 육성 프로젝트' 간담회를 열고 국민성장펀드를 활용한 투자 전략과 협력 방안을 논의했다. 이번 프로젝트는 글로벌 AI 반도체 시장이 특정 기업 중심의 GPU(그래픽처리장치)에 과도하게 의존하고 있는 구조에서 벗어나, 저전력·고효율 기반의 NPU(신경망처리장치) 중심 산업 생태계를 구축하기 위한 전략적 사업이다. 과기정통부는 이미 지난해 'AI 반도체 산업 도약 전략'을 발표하고 국산 AI 반도체 설계·생산 지원을 핵심 과제로 제시한 바 있다. 특히 GPU의 높은 전력 소모와 비용 부담이 AI 서비스 확산의 한계로 지적되면서, 글로벌 빅테크 기업들도 추론 특화 NPU 기술 확보 경쟁에 나서고 있는 상황이다. 배경훈 과기정통부 장관은 "AI 기술 변곡점에서 우리 기업들이 글로벌 강자로 도약할 수 있도록 국산 NPU 산업 육성에 정책 역량을 집중하겠다"고 밝혔다. 금융당국도 대규모 자금 지원을 통해 산업 성장 기반을 뒷받침한다. 금융위는 국민성장펀드를 활용해 향후 5년간 총 50조원 규모의 자금을 AI·반도체 분야에 공급하고, 올해에만 10조원을 집중 투자할 계획이다. 이억원 금융위원장은 "AI 산업은 초기 인프라 구축뿐 아니라 지속적인 하드웨어 업그레이드와 시장 확산을 위한 장기 투자가 필수적인 분야"라며 "민간 자금과 연계한 장기 인내자본을 통해 AI 기업의 성장을 적극 지원하겠다"고 강조했다. 특히 이번 투자 전략은 단순한 자금 공급을 넘어 산업 단계별 맞춤 지원에 초점을 맞춘다. 초기 인프라 구축, 운영, 유지·확장 단계까지 전 주기를 고려한 투자 구조를 설계해 민간 투자 유입을 유도하고 산업 생태계 전반의 경쟁력을 끌어올리겠다는 구상이다. 이날 간담회에는 리벨리온, 퓨리오사AI, 딥엑스, 하이퍼엑셀, 모빌린트 등 국내 주요 AI 반도체 기업들이 참여해 차세대 NPU 개발 로드맵을 공유했다. 기업들은 대규모 투자 재원이 적기에 확보될 경우 양산 시점을 앞당겨 글로벌 시장 진출 ‘골든타임’을 확보할 수 있다고 강조했다. 정책금융기관 역할도 확대된다. 한국산업은행은 AI 반도체를 국가 전략 산업으로 규정하고, 팹리스부터 파운드리, 패키징까지 밸류체인 전반에 대한 투자를 강화할 방침이다. 이는 단일 기업 지원을 넘어 산업 생태계 구축을 목표로 한 접근이다. 정부는 이번 'K-엔비디아' 프로젝트를 시작으로 국가 AI 컴퓨팅센터 구축, 피지컬 AI 생태계 조성, 산업 전반의 AI 전환(AX) 가속화 등 후속 메가 프로젝트도 지속적으로 발굴할 계획이다. 전문가들은 이번 정책이 단기적인 산업 지원을 넘어 국가 경쟁력 확보 차원에서 의미가 크다고 평가한다. AI 반도체는 데이터센터, 자율주행, 로봇, 국방 등 다양한 산업의 핵심 인프라로 자리 잡고 있어, 기술 주도권 확보 여부가 향후 국가 경제 구조를 좌우할 수 있기 때문이다. 정부는 정책과 금융의 유기적 결합을 통해 'AI 3대 강국' 도약을 목표로 내세웠다. 배 장관은 "정책과 금융이 톱니바퀴처럼 맞물릴 때 AI 산업의 거대한 엔진이 제대로 작동할 것"이라며 "민관이 원팀이 되어 글로벌 시장 선점을 지원하겠다"고 말했다. 대규모 자금과 정책 지원이 결합된 이번 프로젝트가 국내 AI 반도체 기업의 글로벌 경쟁력을 끌어올리고, '제2의 엔비디아' 탄생으로 이어질 수 있을지 주목된다.
2026-03-17 16:44:43