2026.04.13 월요일
검색
'인간 중심 AI' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 경쟁 '모델 규모'에서 '효율'로…노타, LLM 경량화 기술 개발 [경제일보] 수천억개의 파라미터를 갖춘 인공지능 모델을 구동하기 위해 필요한 대규모 GPU 인프라와 막대한 메모리가 기업의 AI 도입 장벽으로 작용하면서 대형 언어모델(LLM)의 운영 비용이 인공지능 산업의 새로운 과제로 떠오르고 있다. 이에 글로벌 AI 기업들이 모델 성능을 유지하면서도 비용을 낮추기 위한 경량화·최적화 기술 경쟁에 속도를 내는 가운데 국내 기업들도 관련 기술 개발에 나서고 있다. 5일 AI 경량화 및 최적화 전문 기업 노타는 업스테이지의 대형 언어모델 '솔라'의 모델 크기를 대폭 압축해 추론 비용을 줄이고 처리 속도를 높이면서도 높은 정확도를 유지하는 차세대 양자화 기술을 개발했다고 밝혔다. 이번 개발은 과학기술정보통신부가 추진하는 '독자 AI 파운데이션 모델 프로젝트'의 일환으로 진행됐다. 노타는 업스테이지의 '솔라 오픈 100B' 모델에 자체 경량화·최적화 기술을 적용해 성능은 유지하면서 메모리 효율을 크게 개선했다고 설명했다. 해당 프로젝트는 국내 독자 AI 모델 생태계 구축을 목표로 추진되는 사업으로 모델 개발뿐 아니라 학습·추론 효율을 높이기 위한 핵심 기술 확보도 중요한 과제로 꼽힌다. 특히 이번 기술은 최근 차세대 LLM 구조로 확산되고 있는 'MoE(전문가 혼합 구조)' 모델의 기술적 난제를 해결하는 데 초점을 맞췄다. MoE는 입력에 따라 일부 전문가 모델만 선택적으로 작동하는 방식으로 구글과 메타 등 글로벌 빅테크들이 차세대 LLM 구조로 채택하고 있는 기술로 알려졌다. 모델 전체가 동시에 작동하는 기존 방식보다 연산 효율을 높일 수 있어 초대형 모델 설계에 유리하지만, 구조 특성상 기존 양자화 방식으로는 성능 저하가 발생하기 쉽다는 한계가 있었다. 노타는 MoE 구조에 최적화된 독자 알고리즘 '노타 MoE 양자화' 방법론을 개발해 해당 문제를 해결했다고 설명했다. 모델 전체를 일괄적으로 압축하는 기존 방식과 달리 연산 중요도에 따라 정밀도를 차등 적용해 양자화 과정에서 발생하는 성능 저하를 최소화했다. 즉, 성능에 영향을 크게 미치는 연산은 정밀도를 유지하고 상대적으로 영향이 작은 부분만 압축해 효율성과 정확도를 동시에 확보하는 방식이다. 노타에 따르면 100B(1000억개) 파라미터 규모의 솔라 모델에 해당 기술을 적용해 기존 약 191.2GB(기가바이트) 수준이던 메모리 사용량을 약 72.8% 감소한 51.9GB까지 줄인 것으로 나타났다. 성능 지표인 PPL은 6.81을 기록해 원본 모델의 6.06과 큰 차이를 보이지 않는 수준을 유지했다. 일부 범용 양자화 기법이 적용될 경우 성능이 크게 저하되는 것과 비교하면 메모리 효율과 정확도를 동시에 확보한 결과라는 설명이다. 이 같은 경량화 기술은 향후 온디바이스 AI와 피지컬 AI 확산에도 중요한 기반이 될 전망이다. 그동안 초대형 LLM은 막대한 GPU 자원을 요구해 데이터센터 중심으로 운영될 수밖에 없었다. 그러나 모델을 경량화하면 로봇, 자율주행차, 스마트 디바이스 등 다양한 엣지 환경에서도 고성능 AI를 구현할 수 있는 가능성이 커진다. 스탠퍼드대학교 인간중심 AI 연구소가 발간한 'AI 인덱스 리포트'에 따르면 최근 인공지능 산업에서는 모델 성능 경쟁과 함께 추론 비용과 연산 효율성이 주요 경쟁 지표로 부상하고 있다. 보고서는 초대형 모델 규모가 빠르게 커지면서 이를 운영하기 위한 GPU 인프라와 전력 비용이 급증하고 있으며 이에 글로벌 AI 기업들이 모델 압축, 양자화, 추론 최적화 등 효율성 기술 확보에 투자를 확대하고 있다고 분석했다. 앞으로는 LLM 경쟁이 단순한 모델 성능 경쟁을 넘어 효율성 경쟁으로 확장될 전망이다. 미국과 중국을 중심으로 모델 경량화와 엣지 AI 기술 연구가 활발하게 진행되는 가운데 국내에서도 파운데이션 모델 개발과 함께 최적화 기술 확보가 중요한 과제로 떠오르고 있다. 채명수 노타 대표는 "이번 성과는 한국형 AI 파운데이션 모델인 솔라 100B에 노타만의 양자화 기법을 적용해 메모리를 대폭 줄이면서도 성능을 유지했다는 점에서 의미가 크다"며 "디바이스에 대규모 모델을 구현해야 하는 수요가 커질수록 노타의 경량화·최적화 기술이 고성능 AI를 실현하는 핵심적인 역할을 해나갈 것"이라고 말했다.2026-03-05 09:54:56
-
오픈AI, 챗GPT 고도화 위해 '넵튠AI' 인수… 구글 맹추격에 '코드레드' 발동 [이코노믹데일리] 구글의 거센 추격에 직면한 오픈AI가 인공지능(AI) 모델의 성능 개선을 위해 특단의 조치를 단행했다. 샘 올트먼 최고경영자(CEO)가 사내에 ‘코드레드(Code Red)’를 발령한 가운데 폴란드의 유망 AI 스타트업 ‘넵튠AI(Neptune.ai)’를 전격 인수하며 기술 격차 벌리기에 나섰다. 오픈AI는 3일(현지시간) AI 모델 훈련 과정을 모니터링하고 분석하는 기술을 보유한 스타트업 넵튠AI를 인수한다고 밝혔다. 구체적인 인수 금액과 조건은 공개되지 않았으나 이번 인수는 구글이 최근 출시한 ‘제미나이3 프로(Gemini 3 Pro)’가 벤치마크 성능 평가에서 압도적인 점수를 기록한 데 따른 대응책으로 풀이된다. 업계에 따르면 샘 올트먼 CEO는 최근 사내 메시지를 통해 “현재 진행 중인 다른 파생 서비스나 상품 개발 업무보다 챗GPT 모델 자체의 고도화와 사용자 경험(UX) 개선에 모든 역량을 집중하라”는 취지의 ‘코드레드’를 발령했다. 이는 생성형 AI 시장의 선두 주자였던 오픈AI가 경쟁사들의 기술적 도약에 상당한 위기감을 느끼고 있음을 시사한다. 이번에 오픈AI 품에 안긴 넵튠AI는 머신러닝 모델의 훈련 과정에서 발생하는 데이터를 시각화하고 오류나 성능 저하의 원인을 추적하는 ‘MLOps(머신러닝 운영)’ 분야의 강자다. AI 모델은 훈련 규모가 커질수록 내부에서 어떤 변수가 성능에 영향을 미치는지 파악하기 어려운데 넵튠AI의 소프트웨어는 이러한 ‘블랙박스’ 문제를 해결하는 데 특화되어 있다. 오픈AI는 이미 1년 이상 넵튠AI의 툴을 활용해 GPT 시리즈를 훈련해 온 것으로 알려졌다. 이번 인수를 통해 넵튠의 기술을 자사 훈련 파이프라인에 완전히 통합함으로써 차세대 모델의 개발 속도를 높이고 안정성을 강화한다는 전략이다. 특히 구글의 제미나이3 프로를 능가할 신규 모델의 출시를 앞두고 훈련 과정의 시행착오를 줄이는 데 넵튠의 기술력이 핵심적인 역할을 할 것으로 기대된다. 야쿠프 파초키 오픈AI 수석과학자는 “넵튠AI의 도구를 우리 모델 훈련 시스템에 깊숙이 통합하기 위해 여러 차례 반복 작업을 진행할 계획”이라며 “이를 통해 모델이 학습하는 방식을 실시간으로 지켜보고 문제를 즉각적으로 수정할 수 있는 환경을 구축할 것”이라고 밝혔다. 이번 인수로 인해 넵튠AI는 오픈AI의 내부 조직으로 흡수되며 기존에 넵튠의 솔루션을 이용하던 외부 기업 고객들에 대한 서비스는 단계적으로 중단된다. 이는 오픈AI가 넵튠의 기술력을 독점적으로 활용해 경쟁 우위를 확보하겠다는 의도로 해석된다. 피오트르 니에치비에치 넵튠AI CEO는 “범용인공지능(AGI)을 향한 여정에서 세계 최고의 연구자·엔지니어들과 힘을 합치게 돼 기쁘다”면서 “우리는 더욱 긴밀히 협력하고 완전히 새로운 차원의 혁신을 이뤄낼 수 있을 것”이라고 소감을 전했다. 한편 오픈AI 재단은 이날 연말까지 ‘인간중심 AI 펀드(People-First AI Fund)’를 통해 비영리 단체 208곳에 총 4,050만 달러(약 590억 원)를 지원한다고 발표했다. 지원 대상은 대부분 AI 도입 초기 단계에 있는 지역사회 단체들로 오픈AI는 기술 개발뿐만 아니라 AI의 사회적 기여에도 공을 들이는 ‘투트랙’ 전략을 이어가고 있다. IT 업계 관계자는 “오픈AI의 이번 행보는 단순한 기업 인수를 넘어 AI 패권 경쟁이 ‘속도전’에서 ‘완성도 전쟁’으로 넘어가고 있음을 보여준다”며 “구글과 오픈AI의 기술 경쟁이 심화됨에 따라 핵심 기술을 보유한 스타트업을 향한 빅테크들의 러브콜은 더욱 거세질 것”이라고 전망했다.2025-12-04 08:01:27
-
중국 '키미-K2' 도발에 美 빅테크 총반격…GPT-5.1·제미나이3 잇따라 출격 [이코노믹데일리] 중국의 AI 스타트업 문샷AI가 쏘아 올린 '키미-K2-씽킹'이 전 세계 AI 업계를 강타하며 제2의 '딥시크 모먼트'를 재현하고 있다. 중국의 최신 모델이 벤치마크에서 미국의 선두 주자들을 압도하자 오픈AI와 구글, xAI 등 미국 빅테크들이 일제히 차세대 모델을 쏟아내며 진화에 나서는 등 미·중 AI 기술 패권 전쟁이 최고조로 치닫고 있다. 20일 업계에 따르면 이번 격전의 방아쇠는 지난 6일 문샷AI가 공개한 오픈소스 추론 모델 '키미-K2-씽킹(Kimi-K2-Thinking)'이 당겼다. 이 모델은 특정 분야에서 인간 전문가 수준을 평가하는 HLE(Human Level Evaluation) 테스트에서 44.9점을 기록하며 오픈AI의 'GPT-5'(41.7점)와 앤트로픽의 '클로드 소넷 4.5'(32점)를 제치고 1위에 오르는 이변을 연출했다. 웹 검색 능력을 평가하는 '브라우즈콤프'에서도 60.2점을 받아 GPT-5(54.9점)를 따돌렸다. 미국 빅테크들은 즉각적인 반격에 나섰다. 오픈AI는 키미-K2 출시 일주일 만인 13일 수학과 코딩 성능을 대폭 강화한 'GPT-5.1'을 공개하며 맞불을 놨다. 이어 일론 머스크의 xAI가 17일 심층 사고 기능을 탑재한 '그록 4.1'을 내놓으며 잠시 벤치마크 상위권을 탈환했으나 곧바로 구글이 차세대 모델 '제미나이3(Gemini 3)'를 출시하며 판을 다시 뒤집었다. 제미나이3는 HLE 벤치마크에서 37.4점을 기록, GPT-5.1과 클로드 소넷 4.5를 앞서며 현존 최고 성능임을 과시했다. 이번 사태가 '딥시크 모먼트'로 불리는 이유는 단순히 성능 때문만이 아니다. 중국 AI 모델들이 보여주는 압도적인 '비용 효율성'이 미국 빅테크들에 실질적인 공포감을 주고 있기 때문이다. CNBC 등 외신에 따르면 문샷AI의 모델 훈련 비용은 약 460만 달러(약 67억원) 수준으로 추정된다. 이는 수억 달러를 쏟아부어야 하는 미국 모델들에 비해 파괴적인 가격 경쟁력을 갖춘 것이다. 실제로 또 다른 중국 AI 기업 딥시크는 18일(현지시간) 학술지 네이처에 게재한 논문을 통해 자사 모델 'R1'의 훈련 비용이 불과 29만 4000달러(약 4억원)였다고 밝혔다. 이는 오픈AI가 2023년 공개한 기초 모델 훈련 비용(1억달러 이상)의 0.3% 수준에 불과하다. 중국이 저렴한 비용으로 미국 최상위 모델에 근접하거나 능가하는 성능을 뽑아내면서 '자본력'으로 기술 격차를 유지해 온 미국의 우위가 흔들리고 있다는 분석이 나온다. 미·중 간의 기술 격차 축소는 수치로도 증명된다. 스탠퍼드대 인간중심AI연구소(HAI) 보고서에 따르면 2024년 1월 103점에 달했던 미·중 최상위 모델 간 성능 격차는 올해 2월 23점까지 좁혀졌다. MMLU(대규모 다중 작업 언어 이해) 벤치마크 격차는 2023년 20%포인트에서 2024년 말 0.3%포인트로 사실상 사라졌다. 업계 관계자는 "중국 모델들이 오픈소스와 효율성을 무기로 미국의 턱밑까지 추격했다"며 "미국 빅테크들이 성능뿐만 아니라 비용 구조 혁신 없이는 주도권을 장담하기 어려운 국면에 진입했다"고 진단했다.2025-11-20 08:24:37
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 채무 60% 시대의 경고, 얄팍한 예산 만능주의를 경계한다](https://image.ajunews.com/content/image/2026/04/12/20260412195240503098_518_323.png)