2026.04.13 월요일
검색
'PPL' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 경쟁 '모델 규모'에서 '효율'로…노타, LLM 경량화 기술 개발 [경제일보] 수천억개의 파라미터를 갖춘 인공지능 모델을 구동하기 위해 필요한 대규모 GPU 인프라와 막대한 메모리가 기업의 AI 도입 장벽으로 작용하면서 대형 언어모델(LLM)의 운영 비용이 인공지능 산업의 새로운 과제로 떠오르고 있다. 이에 글로벌 AI 기업들이 모델 성능을 유지하면서도 비용을 낮추기 위한 경량화·최적화 기술 경쟁에 속도를 내는 가운데 국내 기업들도 관련 기술 개발에 나서고 있다. 5일 AI 경량화 및 최적화 전문 기업 노타는 업스테이지의 대형 언어모델 '솔라'의 모델 크기를 대폭 압축해 추론 비용을 줄이고 처리 속도를 높이면서도 높은 정확도를 유지하는 차세대 양자화 기술을 개발했다고 밝혔다. 이번 개발은 과학기술정보통신부가 추진하는 '독자 AI 파운데이션 모델 프로젝트'의 일환으로 진행됐다. 노타는 업스테이지의 '솔라 오픈 100B' 모델에 자체 경량화·최적화 기술을 적용해 성능은 유지하면서 메모리 효율을 크게 개선했다고 설명했다. 해당 프로젝트는 국내 독자 AI 모델 생태계 구축을 목표로 추진되는 사업으로 모델 개발뿐 아니라 학습·추론 효율을 높이기 위한 핵심 기술 확보도 중요한 과제로 꼽힌다. 특히 이번 기술은 최근 차세대 LLM 구조로 확산되고 있는 'MoE(전문가 혼합 구조)' 모델의 기술적 난제를 해결하는 데 초점을 맞췄다. MoE는 입력에 따라 일부 전문가 모델만 선택적으로 작동하는 방식으로 구글과 메타 등 글로벌 빅테크들이 차세대 LLM 구조로 채택하고 있는 기술로 알려졌다. 모델 전체가 동시에 작동하는 기존 방식보다 연산 효율을 높일 수 있어 초대형 모델 설계에 유리하지만, 구조 특성상 기존 양자화 방식으로는 성능 저하가 발생하기 쉽다는 한계가 있었다. 노타는 MoE 구조에 최적화된 독자 알고리즘 '노타 MoE 양자화' 방법론을 개발해 해당 문제를 해결했다고 설명했다. 모델 전체를 일괄적으로 압축하는 기존 방식과 달리 연산 중요도에 따라 정밀도를 차등 적용해 양자화 과정에서 발생하는 성능 저하를 최소화했다. 즉, 성능에 영향을 크게 미치는 연산은 정밀도를 유지하고 상대적으로 영향이 작은 부분만 압축해 효율성과 정확도를 동시에 확보하는 방식이다. 노타에 따르면 100B(1000억개) 파라미터 규모의 솔라 모델에 해당 기술을 적용해 기존 약 191.2GB(기가바이트) 수준이던 메모리 사용량을 약 72.8% 감소한 51.9GB까지 줄인 것으로 나타났다. 성능 지표인 PPL은 6.81을 기록해 원본 모델의 6.06과 큰 차이를 보이지 않는 수준을 유지했다. 일부 범용 양자화 기법이 적용될 경우 성능이 크게 저하되는 것과 비교하면 메모리 효율과 정확도를 동시에 확보한 결과라는 설명이다. 이 같은 경량화 기술은 향후 온디바이스 AI와 피지컬 AI 확산에도 중요한 기반이 될 전망이다. 그동안 초대형 LLM은 막대한 GPU 자원을 요구해 데이터센터 중심으로 운영될 수밖에 없었다. 그러나 모델을 경량화하면 로봇, 자율주행차, 스마트 디바이스 등 다양한 엣지 환경에서도 고성능 AI를 구현할 수 있는 가능성이 커진다. 스탠퍼드대학교 인간중심 AI 연구소가 발간한 'AI 인덱스 리포트'에 따르면 최근 인공지능 산업에서는 모델 성능 경쟁과 함께 추론 비용과 연산 효율성이 주요 경쟁 지표로 부상하고 있다. 보고서는 초대형 모델 규모가 빠르게 커지면서 이를 운영하기 위한 GPU 인프라와 전력 비용이 급증하고 있으며 이에 글로벌 AI 기업들이 모델 압축, 양자화, 추론 최적화 등 효율성 기술 확보에 투자를 확대하고 있다고 분석했다. 앞으로는 LLM 경쟁이 단순한 모델 성능 경쟁을 넘어 효율성 경쟁으로 확장될 전망이다. 미국과 중국을 중심으로 모델 경량화와 엣지 AI 기술 연구가 활발하게 진행되는 가운데 국내에서도 파운데이션 모델 개발과 함께 최적화 기술 확보가 중요한 과제로 떠오르고 있다. 채명수 노타 대표는 "이번 성과는 한국형 AI 파운데이션 모델인 솔라 100B에 노타만의 양자화 기법을 적용해 메모리를 대폭 줄이면서도 성능을 유지했다는 점에서 의미가 크다"며 "디바이스에 대규모 모델을 구현해야 하는 수요가 커질수록 노타의 경량화·최적화 기술이 고성능 AI를 실현하는 핵심적인 역할을 해나갈 것"이라고 말했다.2026-03-05 09:54:56
-
![[광고국 칼럼] 26년 미디어 시장의 경고, 변화를 거부하는 언론이 가장 큰 리스크다](https://image.ajunews.com//content/image/2025/12/11/20251211173526637059.jpg)
26년 미디어 시장의 경고, 변화를 거부하는 언론이 가장 큰 리스크다 [이코노믹데일리] 2025년 한국의 광고 협찬 시장은 외형만 보면 안정적인 흐름을 보였다. 총 광고비는 17조원 안팎에서 소폭 늘었고 디지털 광고 비중은 60퍼센트를 넘어섰다. 회복세처럼 보이지만 전통 매체가 체감하는 현실은 그와 다르다. 광고 총량이 커져도 언론사와 방송사에 돌아오는 몫은 줄어드는 상황이 더 뚜렷해졌고 협찬과 스폰서십에 의존하는 비중은 오히려 커졌다. 신문 산업은 이를 가장 먼저 겪고 있다. 지면 광고는 여전히 반등 신호가 흐릿하고 구독 기반 축소도 이어졌다. 매출 대부분을 광고에 기대야 하는 환경은 변함이 없다. 디지털 광고 수입이 늘었다고 해도 네이버와 구글, 카카오 등 플랫폼 사업자가 시장의 대부분을 차지하는 탓에 신문사가 확보하는 몫은 제한적이다. 이런 여건은 협찬형 콘텐츠 증가와 기사형 광고 논란으로 다시 이어지고 있다. 방송 역시 사정은 크게 다르지 않다. 스팟 광고는 감소 흐름이 굳어졌고 제작비는 오르는 상황이라 여러 방송사가 수지를 맞추기 어려운 국면에 놓였다. 협찬과 PPL 중심의 제작 방식이 확산된 배경도 여기에 있다. 프로그램 제목에 후원 기업명을 넣는 방식이 다시 논쟁으로 떠오른 것도 결과적으로 광고 여건 악화와 무관하지 않다. 방송 광고 매출의 하락 폭을 보면 이는 일시적 조정이 아니라 방송 시장의 판도가 달라지고 있다는 해석이 타당하다. 전통 매체에서 멀어진 예산은 다른 곳에서 영향력을 키우고 있다. 옥외 광고와 디지털 옥외(DOOH)가 대표적이다. 지하철과 공항, 대형 LED 스크린을 중심으로 광고주들의 선호가 뚜렷하게 살아났고 모바일·온라인과 연동되는 캠페인이 늘면서 효과에 대한 체감도 커졌다. 광고주가 단순 노출보다 실제 행동 변화를 중시하는 흐름으로 이동하면서 DOOH는 가장 빠르게 성장하는 매체로 자리잡았다. 협찬 시장의 이동 역시 빨라지고 있다. 유튜브와 틱톡 같은 1인 크리에이터 채널로 예산이 옮겨가는 현상은 더 이상 주변적 흐름이 아니다. 크리에이터는 전환율과 구매 연결 등 구체적인 성과를 보여줄 수 있고 광고주는 이를 선호한다. 최근 몇 년간 상위 크리에이터 수익이 두 배 이상 증가한 사실은 광고 시장의 질서가 어디로 기울고 있는지 잘 설명한다. 언론사 입장에서는 경쟁 상대가 같은 매체가 아니라 새로운 생태계로 확장된 셈이다. 이 같은 변화는 언론사에 뚜렷한 질문을 던진다. 과거 방식으로 광고·협찬 시장에서 영향력을 유지할 수 있느냐는 점이다. 광고주는 더 이상 노출 그 자체를 구매하지 않는다. 전략과 성과를 함께 설계할 수 있는 파트너를 찾는다. 협찬 경쟁이 심해질수록 언론사는 지면이나 배너 판매에 머무르지 않고 소비자 행동 분석과 기획 능력을 앞세운 제안력을 갖춰야 한다. 26년의 전망은 이 변화가 주변적 흐름이 아니라 시장의 방향으로 굳어진다는 점을 보여준다. 총 광고비는 완만한 증가세를 이어가겠지만 성장분의 대부분은 디지털과 DOOH가 가져갈 가능성이 크다. 디지털 비중은 65퍼센트 선까지 높아질 것으로 보이며 지면 광고와 방송 스팟 광고의 반등은 쉽지 않아 보인다. 협찬 예산 역시 크리에이터와 커머스 플랫폼 중심으로 이동하는 흐름이 더 공고해질 전망이다. 브랜드 노출 중심 방식은 힘이 떨어지고 KPI 연동형 제안, 콘텐츠 제작 전반을 묶은 통합 패키지 방식이 주류로 자리잡을 것이다. 변화에 뒤처진 조직이 오래 버틴 사례는 역사에서도 드물다. 맹자는 ‘때가 변하면 반드시 바꿔야 하고(時變則變), 바꾸어야 길이 열리며(變則通), 길이 열려야 오래갈 수 있다(通則久)’고 말했다. 산업이든 정치든 흐름을 거스를 수 없다는 뜻이다. 26년은 이 경구가 언론의 생존 전략에도 그대로 적용되는 시기가 될 가능성이 크다. 역할을 재정의하지 못하는 매체는 더 빠른 속도로 경쟁에서 밀려날 것이다.2025-12-11 17:36:01
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 미·이란 협상 결렬과 장기전의 서막… 에너지·수출 안보 비상 플랜 서둘러야](https://image.ajunews.com/content/image/2026/04/13/20260413101458802687_518_323.jpg)