2026.07.14 화요일
검색
'MoE' 검색결과
기간검색
-
~
검색영역
검색어
-
SKT 독자 AI, 철강·자동차 부품 공장 들어간다…제조 현장 '베테랑 노하우' 학습 [경제일보] SK텔레콤이 자체 개발한 독자 AI 파운데이션 모델을 제조 현장에 적용한다. 고객 상담이나 업무 보조를 넘어 철강과 자동차 부품 공장의 오류 대응과 공정 관리에 AI를 접목하는 시도다. SKT는 철강 제조 기업 KG스틸과 자동차 부품 제조 기업 코넥과 각각 ‘제조 특화 AI 에이전트’ 현장 실증을 위한 전략적 업무협약을 체결했다고 25일 밝혔다. SKT의 독자 AI 파운데이션 모델을 제조업에 적용하는 첫 사례다. SKT는 지난 4월부터 KG스틸과 코넥이 보유한 공정 오류 분석 보고서와 사고 보고서, 장비 매뉴얼, 설비 로그 등을 확보했다. 이를 토대로 독자 모델 ‘A.X K1’을 활용한 제조 특화 AI 에이전트 데모 버전을 개발했다. A.X K1은 5190억개 매개변수를 갖춘 초거대 언어모델이다. 공개 기술보고서에 따르면 A.X K1은 필요한 전문가 모델 일부만 활성화하는 MoE 구조를 적용했다. 전체 모델 규모는 크지만 추론 과정에서는 약 330억개 매개변수만 활성화된다. SKT는 이 구조가 산업 현장에서 효율적인 추론에 유리하다고 보고 있다. 실증은 하반기부터 진행된다. KG스틸 당진공장의 냉간 압연 라인과 코넥의 주조·가공 공정에 제조 특화 AI 에이전트 데모 버전이 적용된다. 두 회사는 제조 공정 데이터를 추가로 제공하고 SKT는 현장 피드백을 반영해 성능과 추론 속도를 개선할 계획이다. 제조업은 AI 도입이 쉽지 않은 분야로 꼽힌다. 공장에는 데이터가 많지만 설비 로그와 품질 기록, 작업자 메모가 공정별로 흩어져 있는 경우가 많다. 숙련공의 판단과 경험에 의존하는 업무도 적지 않다. 베테랑의 은퇴나 이직이 현장 경쟁력 약화로 이어질 수 있다는 우려도 나온다. SKT가 주목하는 지점은 현장 노하우의 디지털 자산화다. 작업자가 과거 오류를 어떻게 판단했는지, 어떤 매뉴얼을 확인했는지, 조치 순서는 어땠는지를 AI가 학습하면 같은 지식을 다른 작업자와 공정에서도 활용할 수 있다. 특정 숙련자에게 머물던 경험을 조직 전체의 운영 자산으로 바꾸는 방식이다. 이번 협력은 글로벌 피지컬 AI 흐름과도 맞닿아 있다. 피지컬 AI는 AI가 실제 물리 환경을 인식하고 판단하며 로봇과 설비를 통해 행동하는 기술 흐름을 뜻한다. 엔비디아는 2025년 휴머노이드 로봇을 위한 오픈 파운데이션 모델 GR00T N1을 공개했다. 글로벌 제조 기업들도 디지털 트윈과 로봇 자동화, 공정 최적화를 결합하며 AI의 활용 범위를 넓히고 있다. 국내에서도 철강과 자동차, 전자 산업을 중심으로 AI 기반 비전 검사와 예지보전, 스마트팩토리 고도화가 진행돼 왔다. 다만 기존 사례가 특정 공정의 자동화와 효율 개선에 초점이 맞춰졌다면 이번 실증은 언어모델 기반 에이전트가 보고서와 매뉴얼, 설비 데이터를 함께 읽고 현장 판단을 돕는 방식이라는 점에서 차이가 있다. 보안은 상용화의 핵심 조건이다. 제조 데이터에는 설비 조건과 생산 노하우, 품질 이슈가 담겨 있어 외부 반출 부담이 크다. SKT는 독자 AI 파운데이션 모델이 클라우드뿐 아니라 폐쇄형 온프레미스 환경도 지원한다고 설명했다. 기업 내부 서버에서 데이터를 처리할 수 있으면 제조 현장의 보안 우려를 낮출 수 있다. SKT는 실증 과정에서 확보한 제조 데이터를 현재 개발 중인 A.X K2 모델 학습에도 활용할 계획이다. 실증 완료 후에는 제조 특화 AI 에이전트의 상용화와 도입을 검토한다. 필요할 경우 후속 독자 AI 파운데이션 모델로 교체하는 방안도 검토한다. 정석근 SKT AI CIC장은 “보안이 중요한 제조 현장에는 데이터를 외부로 내보내지 않고도 활용할 수 있는 독자 AI 파운데이션 모델이 효과적인 해법”이라며 “KG스틸, 코넥과의 협력을 시작으로 제조업의 AI 전환을 앞당기고 적용 사례를 확대하겠다”고 말했다. 한편 제조 AI의 평가는 실증 현장에서 갈릴 전망이다. 답변을 잘하는 모델보다 중요한 것은 오류 조치 시간을 줄이고 품질 문제를 빠르게 잡아내는 성과다. SKT의 제조 특화 AI 에이전트가 공장 안에서 실질적 효율을 입증한다면 독자 AI 모델의 활용처는 국방과 제조를 넘어 금융, 공공, 의료 등 보안이 중요한 산업으로 넓어질 수 있다.2026-06-25 09:52:59
-
SKT, 차세대 AI 'A.X K2' 개발 나선다…엔비디아 손잡고 AI 인프라 협력 확대 [경제일보] SK텔레콤이 엔비디아와 협력을 확대하며 초거대 AI 모델 고도화에 나섰다. IT 기업들의 독자 인공지능(AI) 모델 경쟁이 본격화되는 가운데 생성형 AI 경쟁이 심화되면서 자체 AI 모델과 학습 인프라 확보가 핵심 경쟁력으로 떠오르는 것으로 분석된다. 22일 SK텔레콤은 국내에서 처음 개최된 '엔비디아 네모트론 디벨로퍼 데이즈 서울 2026'에서 지난 21일 진행된 테크니컬 패널 세션에서 엔비디아와 AI 모델 개발 분야에서 쌓아온 기술 협력 성과를 보이며 향후 협업 계획을 공개했다고 밝혔다. SK텔레콤은 이번 발표에서 독자 AI 파운데이션 모델 프로젝트로 선보인 'A.X K1' 후속 모델인 'A.X K2' 개발 계획을 공개하며 국내 소버린 AI 생태계 구축을 위한 협력을 이어갈 방침이라고 설명했다. 최근 글로벌 빅테크 중심의 AI 경쟁이 심화되면서 국내 기업들도 독자 AI 모델 확보에 나서는 흐름이 이어지고 있는 가운데 SK텔레콤 역시 자체 모델 경쟁력 강화에 속도를 내는 것으로 풀이된다. 앞서 양사는 SK텔레콤이 지난 2021년 구축한 A100 GPU 기반 슈퍼컴퓨터 '타이탄' 구축 단계부터 협력을 이어온 바 있다. 이후 데이터 구성과 학습 인프라, 모델 개발 환경 전반에서 협력을 확대하며 초거대 AI 모델 개발 역량을 강화해 왔다. 특히 SK텔레콤은 정부의 '독자 AI 파운데이션 모델 프로젝트'를 수행하면서 매개변수 5190억 개 규모의 초거대 모델 'A.X K1' 학습에 엔비디아 네모트론 데이터셋을 적용한 것으로 알려졌다. SK텔레콤은 초거대 모델 학습 과정에서 대규모 모델 분산 학습 프레임워크인 '메가트론-LM'과 학습 데이터 준비 및 정제를 위한 '네모 큐레이터' 등을 활용해 학습 안정성과 효율성을 높였다고 설명했다. 초거대 AI 모델 개발은 대규모 GPU 인프라와 데이터 처리 역량이 핵심 요소로 꼽힌다. 특히 모델 규모가 커질수록 분산 학습과 데이터 품질 관리의 중요성이 높아지면서 하드웨어와 소프트웨어를 아우르는 협력 구조가 필수 요소로 작용하고 있다. SK텔레콤과 엔비디아는 모델 개발 과정에서 격주 단위 기술 협의를 진행하며 학습 인프라 안정성 확보와 성능 최적화를 공동으로 추진해온 것으로 알려졌다. 양사는 전문가 혼합(MoE) 구조를 적용한 초거대 모델 개발 경험과 학습 인프라 관련 기술 정보를 공유하며 대규모 AI 모델 개발 역량을 고도화하고 있다. 이를 통해 보다 효율적인 연산 구조와 성능 개선을 동시에 확보할 수 있는 기반을 마련한 것으로 분석된다. 향후 SK텔레콤은 현재 개발 중인 후속 모델 'A.X K2'에도 엔비디아 기술을 활용할 계획이다. 특히 멀티모달과 비전언어모델(VLM) 등 차세대 AI 기술 영역에서도 공동 연구를 확대하며 모델 성능 고도화를 추진하고 있다. 텍스트 중심 AI 모델을 넘어 이미지·영상·음성 등을 함께 이해하는 멀티모달 AI 경쟁이 본격화되는 가운데 후속 모델의 기술 확장성도 주요 변수로 떠오를 전망이다. SK텔레콤은 이번 협력을 통해 초거대 AI 모델 개발 역량을 강화하고 국내 AI 생태계 구축에도 기여한다는 계획이다. 향후 AI 서비스 확대에 따라 학습 인프라와 모델 성능을 지속적으로 고도화하며 독자 AI 경쟁력을 강화해나갈 방침이다. 김태윤 SK텔레콤 파운데이션 모델 담당은 "SK텔레콤과 엔비디아는 선제적으로 새로운 기술을 적용하고 상호 피드백을 통해 서로 발전해온 관계"라며 "협력 관계를 통해 국내 AI 생태계 발전에 함께 기여할 것"이라고 말했다.2026-04-22 10:16:00
-
구글, '젬마4' 출시로 오픈소스 AI 경쟁 참전…'제미나이' 투트랙 전략 [경제일보] 구글이 오픈형 인공지능(AI) 모델 '젬마 4'를 공개하며 개방형 AI 시장 공략에 속도를 내고 있다. 고급 추론 능력과 온디바이스 실행을 강화한 모델을 앞세워 개발자 생태계를 확대하고 폐쇄형 모델인 제미나이와의 투트랙 전략으로 AI 경쟁력 강화에 나서는 것으로 분석된다. 2일(현지시간) 구글은 고급 추론과 에이전트 기반 워크플로우를 지원하는 오픈형 모델 제품군 '젬마 4'를 출시했다고 밝혔다. 젬마 4는 아파치 2.0 라이선스로 제공되며 상업적 활용이 가능하다. 구글은 오픈형 모델을 통해 개발자와 기업이 다양한 환경에서 AI를 활용할 수 있도록 접근성을 확대한다는 전략이다. 젬마 4는 'Effective 2B(E2B)', 'Effective 4B(E4B)', '26B Mixture of Experts(MoE)', '31B Dense' 등 총 4가지 모델로 구성됐다. 해당 모델들은 단순한 대화 기능을 넘어 복잡한 논리 처리와 에이전트 기반 자동화 작업을 지원하도록 설계됐다. 특히 고급 추론 기능과 코드 생성 능력, 이미지·오디오 처리 기능 등 멀티모달 지원을 강화했으며 최대 256K 컨텍스트를 지원해 긴 문서 처리도 가능하다. 또한 140개 이상의 언어를 지원해 글로벌 애플리케이션 개발 환경을 제공한다. 구글은 이번 젬마 4를 통해 온디바이스 AI 전략도 강화했다. E2B와 E4B 모델은 스마트폰과 노트북, IoT 기기 등 엣지 환경에서 실행할 수 있도록 설계됐다. 이를 통해 클라우드 연결 없이도 AI 기능을 활용할 수 있으며 낮은 레이턴시와 개인정보 보호 측면에서도 장점을 제공한다. 특히 구글 픽셀을 비롯해 퀄컴, 미디어텍 등 주요 반도체 기업과 협력을 통해 스마트폰과 라즈베리 파이, 엔비디아 젯슨 나노 등 다양한 기기에서 오프라인 실행을 지원한다. 온디바이스 AI 확산이 가속화되는 가운데 구글이 모바일 중심 AI 경쟁력 확보에 나선 것으로 풀이된다. 오픈형 AI 모델 경쟁도 한층 치열해지고 있다. 메타의 'Llama' 시리즈를 비롯해 '미스트랄', 알리바바 'Qwen', 마이크로소프트 'Phi' 등 주요 기업들이 오픈형 모델을 잇따라 공개하며 개발자 생태계 확보 경쟁에 나서고 있다. 이에 구글 역시 젬마 4를 통해 오픈형 AI 시장에서 영향력을 확대하려는 전략으로 분석된다. 구글은 폐쇄형 모델인 제미나이를 중심으로 고성능 AI 서비스를 제공하는 동시에 젬마 시리즈를 통해 구글의 AI 전략 다변화를 진행하고 있다. 제미나이가 클라우드 기반 서비스와 기업 고객 중심이라면 젬마는 개발자와 스타트업을 대상으로 한 오픈형 생태계 구축에 초점이 맞춰져 있다. 두 모델을 병행 운영하며 AI 플랫폼 경쟁력을 강화하려는 전략으로 풀이된다. 또한 구글은 허깅페이스, vLLM, Ollama, NVIDIA NIM 등 주요 개발 도구에서 젬마 4를 출시 당일부터 지원해 개발자 생태계 확대에도 집중한다. 또한 구글 AI 스튜디오와 구글 콜랩, 버텍스 AI 등을 통해 모델 학습과 배포 환경을 확인할 수 있어 개발자는 로컬 환경뿐 아니라 구글 클라우드를 통해 확장 가능한 AI 서비스를 구축할 수 있을 것으로 전망된다. 하드웨어 지원 범위도 확대됐다. 젬마 4는 소비자용 GPU부터 엔비디아 H100 GPU, 구글 TPU까지 다양한 환경에서 실행할 수 있도록 최적화됐다. AMD GPU와의 연동도 지원하며 엣지 기기부터 클라우드까지 폭넓은 환경에서 활용 가능하도록 설계됐다. 이번 젬마 4 출시 이후 온디바이스 AI와 개방형 생태계를 중심으로 AI 시장 주도권 경쟁이 확대될 것으로 분석된다. 구글이 젬마 4를 통해 개발자 생태계 확보에 나서면서 AI 플랫폼 경쟁 구도도 한층 치열해질 전망이다.2026-04-03 11:32:17
-
AI 경쟁 '모델 규모'에서 '효율'로…노타, LLM 경량화 기술 개발 [경제일보] 수천억개의 파라미터를 갖춘 인공지능 모델을 구동하기 위해 필요한 대규모 GPU 인프라와 막대한 메모리가 기업의 AI 도입 장벽으로 작용하면서 대형 언어모델(LLM)의 운영 비용이 인공지능 산업의 새로운 과제로 떠오르고 있다. 이에 글로벌 AI 기업들이 모델 성능을 유지하면서도 비용을 낮추기 위한 경량화·최적화 기술 경쟁에 속도를 내는 가운데 국내 기업들도 관련 기술 개발에 나서고 있다. 5일 AI 경량화 및 최적화 전문 기업 노타는 업스테이지의 대형 언어모델 '솔라'의 모델 크기를 대폭 압축해 추론 비용을 줄이고 처리 속도를 높이면서도 높은 정확도를 유지하는 차세대 양자화 기술을 개발했다고 밝혔다. 이번 개발은 과학기술정보통신부가 추진하는 '독자 AI 파운데이션 모델 프로젝트'의 일환으로 진행됐다. 노타는 업스테이지의 '솔라 오픈 100B' 모델에 자체 경량화·최적화 기술을 적용해 성능은 유지하면서 메모리 효율을 크게 개선했다고 설명했다. 해당 프로젝트는 국내 독자 AI 모델 생태계 구축을 목표로 추진되는 사업으로 모델 개발뿐 아니라 학습·추론 효율을 높이기 위한 핵심 기술 확보도 중요한 과제로 꼽힌다. 특히 이번 기술은 최근 차세대 LLM 구조로 확산되고 있는 'MoE(전문가 혼합 구조)' 모델의 기술적 난제를 해결하는 데 초점을 맞췄다. MoE는 입력에 따라 일부 전문가 모델만 선택적으로 작동하는 방식으로 구글과 메타 등 글로벌 빅테크들이 차세대 LLM 구조로 채택하고 있는 기술로 알려졌다. 모델 전체가 동시에 작동하는 기존 방식보다 연산 효율을 높일 수 있어 초대형 모델 설계에 유리하지만, 구조 특성상 기존 양자화 방식으로는 성능 저하가 발생하기 쉽다는 한계가 있었다. 노타는 MoE 구조에 최적화된 독자 알고리즘 '노타 MoE 양자화' 방법론을 개발해 해당 문제를 해결했다고 설명했다. 모델 전체를 일괄적으로 압축하는 기존 방식과 달리 연산 중요도에 따라 정밀도를 차등 적용해 양자화 과정에서 발생하는 성능 저하를 최소화했다. 즉, 성능에 영향을 크게 미치는 연산은 정밀도를 유지하고 상대적으로 영향이 작은 부분만 압축해 효율성과 정확도를 동시에 확보하는 방식이다. 노타에 따르면 100B(1000억개) 파라미터 규모의 솔라 모델에 해당 기술을 적용해 기존 약 191.2GB(기가바이트) 수준이던 메모리 사용량을 약 72.8% 감소한 51.9GB까지 줄인 것으로 나타났다. 성능 지표인 PPL은 6.81을 기록해 원본 모델의 6.06과 큰 차이를 보이지 않는 수준을 유지했다. 일부 범용 양자화 기법이 적용될 경우 성능이 크게 저하되는 것과 비교하면 메모리 효율과 정확도를 동시에 확보한 결과라는 설명이다. 이 같은 경량화 기술은 향후 온디바이스 AI와 피지컬 AI 확산에도 중요한 기반이 될 전망이다. 그동안 초대형 LLM은 막대한 GPU 자원을 요구해 데이터센터 중심으로 운영될 수밖에 없었다. 그러나 모델을 경량화하면 로봇, 자율주행차, 스마트 디바이스 등 다양한 엣지 환경에서도 고성능 AI를 구현할 수 있는 가능성이 커진다. 스탠퍼드대학교 인간중심 AI 연구소가 발간한 'AI 인덱스 리포트'에 따르면 최근 인공지능 산업에서는 모델 성능 경쟁과 함께 추론 비용과 연산 효율성이 주요 경쟁 지표로 부상하고 있다. 보고서는 초대형 모델 규모가 빠르게 커지면서 이를 운영하기 위한 GPU 인프라와 전력 비용이 급증하고 있으며 이에 글로벌 AI 기업들이 모델 압축, 양자화, 추론 최적화 등 효율성 기술 확보에 투자를 확대하고 있다고 분석했다. 앞으로는 LLM 경쟁이 단순한 모델 성능 경쟁을 넘어 효율성 경쟁으로 확장될 전망이다. 미국과 중국을 중심으로 모델 경량화와 엣지 AI 기술 연구가 활발하게 진행되는 가운데 국내에서도 파운데이션 모델 개발과 함께 최적화 기술 확보가 중요한 과제로 떠오르고 있다. 채명수 노타 대표는 "이번 성과는 한국형 AI 파운데이션 모델인 솔라 100B에 노타만의 양자화 기법을 적용해 메모리를 대폭 줄이면서도 성능을 유지했다는 점에서 의미가 크다"며 "디바이스에 대규모 모델을 구현해야 하는 수요가 커질수록 노타의 경량화·최적화 기술이 고성능 AI를 실현하는 핵심적인 역할을 해나갈 것"이라고 말했다.2026-03-05 09:54:56
-
카카오 '카나나-2', 업데이트 진행…4종 모델 오픈소스 공개 [이코노믹데일리] 카카오(대표 정신아)는 자체 기술력으로 개발한 차세대 언어모델 '카나나-2'를 업데이트하고 4종의 모델을 오픈소스로 추가 공개했다고 20일 밝혔다. '카나나-2'는 지난달 허깅페이스를 통해 공개된 언어모델로 카카오는 성능을 크게 개선한 4종의 모델을 한 달여 만에 추가로 선보였다. 이번 업데이트는 에이전트 AI 구현에 최적화된 고성능·고효율 기술 경쟁력을 강화하는 데 초점을 맞췄다. 기본 모델부터 지시 이행, 추론 특화, 미드 트레이닝 모델 등 총 4종으로 고품질 멀티턴 도구 호출 학습을 통해 에이전트 AI 구현에도 특화됐다. 카카오는 동급 경쟁 모델 대비 지시 이행 정확도와 한국어 처리 성능 등에서 우위를 기록했다고 설명했다. 이번에 공개된 모델들은 고효율·저비용 구조를 기반으로 도구 호출 능력을 대폭 강화한 것이 특징이다. 특히 최신 초고가 인프라가 아닌 엔비디아 A100 수준의 범용 GPU에서도 원활히 구동되도록 최적화해 중소기업과 학계 연구자들도 비용 부담 없이 활용할 수 있도록 설계했다. 카나나-2의 핵심은 '전문가 혼합(MoE)' 아키텍처다. 전체 파라미터는 32B(320억개) 규모지만 실제 추론 시에는 3B(30억개) 파라미터만 활성화해 연산 효율을 크게 높였다. 자체 커널 개발을 통해 학습 속도를 개선하고 메모리 사용량을 줄였다. 또한 카카오는 사전 학습과 사후 학습 사이에 '미드 트레이닝' 단계를 도입하고 '리플레이' 기법을 적용해 새로운 추론 능력을 추가하면서도 기존 한국어 처리 능력과 일반 상식 수준을 안정적으로 유지했다고 설명했다. 카카오 김병학 카나나 성과리더는 "새로워진 '카나나-2'는 '어떻게 하면 고가의 인프라 없이도 실용적인 에이전트 AI를 구현할 수 있을까'에 대해 치열하게 고민한 결과"라며 "보편적인 인프라 환경에서도 고효율을 내는 모델을 오픈소스로 공개함으로써 국내 AI 연구 개발 생태계 발전과 기업들의 AI 도입의 새로운 대안이 될 수 있기를 기대한다"고 밝혔다.2026-01-20 09:45:17
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 환율 안정에 안주할 때 아니다…외환 방어력 키울 골든 타임이다](https://image.ajunews.com/content/image/2026/07/13/20260713092838404021_518_323.jpg)