2026.04.13 월요일
검색
'GPU 인프라' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 추론 수요 폭증…삼성SDS, 'B300' 기반 구독형 서비스 출격 [경제일보] AI 모델이 실제 서비스에 적용되는 '추론' 단계로 빠르게 이동하면서 이를 뒷받침할 고성능 GPU 인프라 확보 경쟁이 본격화되고 있다. 삼성SDS가 최신 GPU 기반 구독형 서비스를 선보이며 기업용 AI 인프라 시장 공략에 속도를 내고 있다. 23일 삼성SDS는 자사의 클라우드 '삼성 클라우드 플랫폼(SCP)'을 통해 엔비디아의 최신 GPU인 'B300(블랙웰 울트라)' 기반 GPUaaS(GPU 구독형 서비스)를 출시했다고 밝혔다. 이번 서비스는 기업들이 AI 모델 개발을 넘어 실제 서비스에 적용하는 단계로 진입하면서 급증하는 연산 수요에 대응하기 위한 전략으로 풀이된다. 최근 AI 활용이 확산되면서 다수의 기업들은 단순 모델 학습을 넘어 실시간 응답과 대규모 처리 성능이 요구되는 추론 환경 구축에 집중하고 있다. 특히 대규모 언어모델(LLM) 운영 과정에서는 연산 성능뿐 아니라 메모리 처리 속도가 전체 성능을 좌우하는 핵심 요소로 부상하고 있다. 이번에 적용된 B300 GPU는 해당 흐름에 맞춰 메모리 성능을 대폭 강화한 것이 특징이다. 고대역폭 메모리를 기반으로 데이터 전송 속도를 높여 기존 환경에서 발생하던 병목 현상을 줄이고 보다 안정적인 AI 서비스 운영을 지원하도록 설계됐다. 이에 삼성SDS는 대규모 AI 모델을 기반으로 한 서비스에서도 지연 시간을 최소화하고 처리 효율을 높일 수 있을 것이라고 설명했다. 삼성SDS는 그동안 A100, H100 등 최신 GPU 기반 서비스를 선제적으로 도입하며 클라우드 환경에서 GPU 인프라를 활용할 수 있는 기반을 구축해 왔다. 이번 B300 GPUaaS 출시를 통해 보다 고성능 연산 환경을 제공하고 AI 인프라 서비스 경쟁력을 강화한다는 계획이다. 고객 입장에서는 초기 투자 부담 없이 필요한 만큼 GPU 자원을 사용하는 구독형 모델을 통해 비용 효율성을 높일 수 있다. 또한 GPU 수급이 제한적인 상황에서도 최신 아키텍처를 빠르게 도입할 수 있다는 점에서 활용도가 높을 전망이다. 또한 클라우드 환경에서의 보안 기능을 결합해 민감한 데이터를 안정적으로 처리할 수 있는 점도 주요 요소로 꼽힌다. 삼성SDS는 향후 AI 인프라 서비스 고도화를 진행할 방침이다. AI 모델 적용 시 별도의 인프라 관리 없이 사용한 만큼만 비용을 지불하는 '서버리스 추론 서비스'와 개발자가 코드와 데이터를 입력하면 자동으로 분산 학습을 수행하는 'AI 학습 서비스'를 올해 3분기 중 선보일 계획이다. AI 활용이 확산되며 인프라 경쟁이 심화되는 가운데 GPU를 중심으로 한 클라우드 서비스 시장의 경쟁 구도도 한층 치열해질 전망이다. 특히 학습 중심에서 추론 중심으로 무게가 이동하는 흐름 속에서 고성능 GPU와 이를 효율적으로 활용할 수 있는 서비스 모델이 기업 경쟁력의 핵심 요소로 부상하고 있다. 이호준 삼성SDS 클라우드서비스사업부장 부사장은 "SCP가 보유한 자원 최적화·에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소, 공공 등 AI를 업무에 적용하려는 고객에게 국내 최초 B300 GPU 서비스를 제공해 AX 전환을 적극 지원하겠다"고 말했다.2026-03-23 08:59:23
-
NHN 와플랫, 마크노바와 AI 스마트홈 돌봄 구축 맞손 [이코노믹데일리] NHN(대표 정우진)은 자사의 시니어케어 전문 법인 와플랫과 AI(인공지능) 케어 서비스 전문 기업 마크노바와 'AI 기반 스마트홈 돌봄 서비스 구축 및 운영'을 위한 3자 업무협약(MOU)을 체결했다고 30일 밝혔다. 지난 29일 NHN 판교 사옥 '플레이뮤지엄'에서 열린 이번 협약식에는 황선영 NHN 법무정책그룹 이사 및 와플랫 대표, 최혁 마크노바 대표, 이새미 와플랫 대표 등 3사 주요 관계자들이 참석했다. 이번 협약은 초고령사회 진입에 따른 돌봄 인력 부족 문제를 해결하기 위해 AI 기술을 어르신이 거주하는 생활 공간에 적용한 'AI 스마트홈 돌봄' 환경을 구축하고자 마련됐다. 이에 3사는 NHN의 대규모 AI 인프라, 와플랫의 스마트폰 기반 통합 돌봄 플랫폼 운영 역량, 마크노바의 케어 전용 디바이스 기술력과 돌봄 사업 노하우를 결합할 계획이다. NHN은 국가 AI 데이터센터 운영 경험과 국가 GPU 인프라 구축 역량을 바탕으로 AI 돌봄 서비스에 최적화된 인프라 환경을 지원한다. 특히 정부의 '독자 AI 파운데이션 모델 개발 프로젝트' 참여를 통해 축적한 기술력을 기반으로 고도화된 지능형 서비스 구현을 뒷받침할 방침이다. 와플랫은 스마트폰 기반 통합 돌봄 서비스인 '와플랫 AI 생활지원사'를 운영하고 있다. 해당 서비스는 지난해 7월 시작 이후 전국 23개 지자체로 확산됐으며 '50대 여성 생활지원사' 페르소나를 적용한 AI 휴먼 UX를 통해 현장 활용성을 입증한 것으로 알려졌다. 이번 협약을 통해 와플랫은 기존 서비스를 스마트홈 환경과 연동해 한층 고도화된 AI 돌봄 서비스를 제공할 예정이다. 마크노바는 보건복지부의 '독거노인·장애인 응급안전안심서비스'와 'AI·IoT(사물 연결 인터넷) 기반 어르신 건강관리 사업'에 AI 케어 디바이스와 서비스를 기획·개발해 공급한 경험을 보유하고 있다. 이번 협력을 통해 마크노바의 AI 케어 디바이스는 가정 내 스마트홈 게이트웨이 역할을 수행하며 다양한 IoT 센서와 혈당계·혈압계·체중계 등 건강관리 기기, 와플랫 서비스를 유기적으로 연동해 어르신의 건강과 안전을 상시 지원하는 통합 돌봄 환경을 구현할 계획이다. 이번 협력은 AI 기술과 데이터, 디바이스를 통합한 돌봄 모델을 구현하는 데 목적을 둔다. 이는 생활 환경에 밀착한 스마트홈 기술과 24시간 대응이 가능한 AI를 활용해 자립생활을 지원하는 정부의 'AI 스마트홈 돌봄' 정책과도 부합하는 것으로 풀이된다. 3사는 실제 주거 공간에 최적화된 지능형 돌봄 모델을 고도화하고 이를 지자체 등 공공 영역에서 즉시 활용 가능한 표준 모델로 발전시켜 나갈 방침이다. 최혁 대표는 "마크노바가 보유한 AI 시니어 케어 기술력이 NHN의 인프라 및 와플랫의 플랫폼과 결합해 케어 서비스와 디바이스, 플랫폼이 유기적으로 통합된 스마트홈 모델을 제시할 수 있게 됐다"며 "정부의 지능형 돌봄 정책 방향에 발맞춰 고령층의 실제 생활 공간에서 가장 신뢰할 수 있는 사용자 중심의 돌봄 서비스를 완성해 나갈 것"이라고 설명했다. 황선영 대표는 "초고령사회의 돌봄 사각지대 해소를 위해서는 생활 공간 중심의 디지털 전환이 필수적"이라며 "NHN 그룹의 AI 기술력과 마크노바의 현장 기기 기술을 융합해 어르신들이 살던 곳에서 건강한 노후를 보낼 수 있는 지속 가능한 AI 스마트홈 인프라를 구축해 나갈 것"이라고 말했다. 한편 NHN과 와플랫은 최근 보건복지부 주관 '한국형 ARPA-H 프로젝트' 참여와 지자체 서비스 확산을 통해 국내 AI 돌봄 시장에서 영향력을 확대하고 있다. 현재 전국 23개 지자체에서 운영 중인 와플랫 'AI 생활지원사'는 내년 전국 40여 개 지자체로 확대될 전망이다.2025-12-30 09:40:57
-
카카오, 정부 GPU 확보 사업 본격 가동…연내 목표 4배 규모 [이코노믹데일리] 카카오(대표 정신아)는 정부 주도 '그래픽 처리 장치(GPU) 확보 사업'의 최종 사업자로 선정된 이후 최신 GPU 인프라 구축을 본격화하며 국내 AI 연구·개발 환경 지원에 나선다고 29일 밝혔다. 지난 8월 카카오는 정부가 AI 3대 강국 도약을 목표로 핵심 인프라인 GPU를 민간에 지원하는 이번 국책 사업에 최종 사업자로 선정됐다. 이에 카카오는 GPU 'B200' 2424장을 확보·구축해 향후 5년간 위탁 운영하며 국내 AI 연구와 개발 환경을 지원할 계획이다. 카카오는 경기도 안산시에 위치한 '카카오 데이터센터 안산'을 기반으로 대규모 GPU 인프라 구축을 진행하고 있다. 자체 데이터센터 운영 역량과 GPU 클러스터 구축·운영 경험을 바탕으로 구축 일정을 당초 계획보다 앞당겨 현재 전체 할당량의 약 84%에 해당하는 255노드, GPU 2040장의 구축을 완료했다. 이는 연내 구축 목표로 제시했던 64노드 대비 약 4배에 이르는 규모다. 이번 조기 구축은 데이터센터 안산의 고도화된 인프라 역량을 기반으로 이뤄졌다. 카카오는 GPU 확보부터 구축, 운영 준비 전반에 걸쳐 단계별 관리 체계를 적용했으며 공급사와의 협력을 통해 핵심 장비를 조기에 확보했다. 또 사전 기술 검증(PoC)을 통해 실제 가동 과정에서 발생할 수 있는 리스크를 점검해 구축 일정을 단축했다. 데이터센터 안산에는 고집적 서버 운영에 필수적인 전력 공급과 냉각 시스템도 선제적으로 구축됐다. 고성능 GPU 서버에서 발생하는 열을 효과적으로 관리하기 위해 뜨거운 공기를 분리해 냉각 장치로 바로 순환시키는 '열복도 밀폐 시스템'을 적용해 냉각 효율을 높였다. 카카오는 인프라 제공과 함께 AI 모델 개발에 집중할 수 있는 소프트웨어 환경도 지원한다. 국가 AI 컴퓨팅 자원 지원 포털과 연동된 통합 플랫폼을 통해 이용자가 카카오엔터프라이즈가 운영하는 카카오클라우드로 손쉽게 접근할 수 있도록 했고 카카오클라우드의 AI 플랫폼인 '쿠브플로우'를 제공한다. 쿠브플로우는 클라우드 네이티브 환경에서 머신러닝 워크플로우를 구축·실행할 수 있도록 지원하는 플랫폼으로 모델 개발부터 학습·배포·추론까지 전 과정을 쿠버네티스 환경에서 관리할 수 있도록 돕는다. 이를 통해 연구자는 머신러닝 작업을 자동화하고 클라우드 자원을 효율적으로 운용할 수 있도록 설계됐다. 카카오는 현재 구축을 완료한 255노드를 대상으로 네트워크 및 성능 테스트를 진행하고 있으며 내달 2일부터 과학기술정보통신부와 정보통신산업진흥원이 베타 서비스 공모를 통해 선정한 산·학·연 과제에 최신 컴퓨팅 자원을 제공할 예정이다. 김세웅 카카오 AI시너지 성과리더는 "대규모 GPU 인프라를 안정적으로 구축하고 운영하는 것은 AI 경쟁력의 핵심"이라며 "카카오의 데이터센터 및 클라우드 역량을 바탕으로 안정적이고 효율적인 AI 개발 환경을 제공해 국내 AI 생태계 발전에 기여해 나가겠다"고 말했다.2025-12-29 10:43:15
많이 본 뉴스
영상
Youtube 바로가기
![[편집인 칼럼] 채무 60% 시대의 경고, 얄팍한 예산 만능주의를 경계한다](https://image.ajunews.com/content/image/2026/04/12/20260412195240503098_518_323.png)