2026.07.14 화요일
검색
'RAG' 검색결과
기간검색
-
~
검색영역
검색어
-
AI 성능 넘어 '안전' 경쟁...KT 클라우드·카카오 AI 세이프티 맞손 [경제일보] 생성형 인공지능(AI)이 기업 업무 전반으로 확산되면서 AI 성능뿐 아니라 안전성과 신뢰성을 확보하기 위한 경쟁도 본격화되고 있다. 유해 콘텐츠 생성과 개인정보 유출, 프롬프트 공격 등 새로운 보안 위협이 부상하면서 AI를 실제 서비스에 적용하기 위해서는 'AI 세이프티'가 핵심 경쟁력으로 떠오른 것으로 분석된다. 26일 KT 클라우드와 카카오는 안전한 생성형 AI 서비스 구현을 위한 AI 세이프티 협력 체계를 구축했다고 밝혔다. 양사는 KT 클라우드의 AI 인프라 플랫폼과 카카오의 AI 세이프티 기술을 결합해 공공과 민간 분야에서 신뢰할 수 있는 AI 활용 환경을 구축한다는 계획이다. 최근 생성형 AI 도입이 빠르게 늘면서 AI 서비스의 안전성 확보가 기업들의 새로운 과제로 떠오르고 있다. AI가 허위 정보를 생성하는 '환각' 현상은 물론 '프롬프트 인젝션'을 통한 악성 명령 실행, 개인정보 유출, 유해 콘텐츠 생성 등의 위험성이 실제 서비스 운영 과정에서 잇따라 제기되고 있기 때문이다. 특히 공공기관과 금융권, 대기업을 중심으로 AI 도입이 확대되면서 모델 성능만큼 보안성과 신뢰성, 규제 대응 능력을 함께 검증하려는 움직임도 강화되고 있다. AI를 업무 시스템과 연계하는 기업이 늘어날수록 안전성을 확보할 수 있는 운영 체계가 필수 요소로 자리 잡고 있는 것이다. 이에 양사는 AI 서비스 개발부터 운영까지 전 과정에서 활용할 수 있는 AI 세이프티 기술 고도화에 나선다. 협력의 첫 단계로 KT 클라우드는 지난 4월 공개한 공공기관 대상 생성형 AI 플랫폼 'RAG Suite 2.0'에 카카오의 AI 가드레일 모델인 '카나나 세이프가드'를 적용할 예정이다. 카나나 세이프가드는 한국어와 국내 문화·법률 환경을 반영해 개발된 AI 세이프티 모델이다. 생성형 AI가 부적절하거나 유해한 답변을 생성하는 것을 방지하고 프롬프트 공격이나 정책 위반 가능성을 탐지하는 역할을 수행한다. 현재 카카오의 주요 AI 서비스에도 적용되고 있다. 양사는 가드레일 기술 적용을 시작으로 AI 모델 안전성 평가 시스템과 다양한 공격 시나리오를 기반으로 취약점을 점검하는 '레드티밍' 시스템도 단계적으로 제공할 계획이다. AI 모델이 실제 서비스 환경에서 예상하지 못한 공격이나 악용 시도에 얼마나 안정적으로 대응하는지를 검증하는 체계까지 함께 구축한다는 구상이다. 향후에는 AI 세이프티 도구를 통합 관리하는 운영 플랫폼 구축으로 협력을 확대한다. KT 클라우드 환경에서 축적되는 운영 데이터와 고객 피드백을 기반으로 AI 안전성 관리 기능을 고도화하고, 생성형 AI 서비스의 개발과 배포, 운영, 모니터링까지 아우르는 통합 운영 체계를 마련할 계획이다. IT 업계에서는 AI 시장 경쟁이 모델 성능 중심에서 안전성과 신뢰성을 확보하는 방향으로 빠르게 이동하고 있는 것으로 전망한다. 생성형 AI 기술이 기업 핵심 업무에 적용될수록 모델의 정확도뿐 아니라 보안과 컴플라이언스, 운영 안정성 확보 여부가 AI 도입을 결정하는 핵심 요소로 자리 잡고 있기 때문이다. 이에 AI 가드레일과 레드티밍, 모델 평가 체계 등 AI 세이프티 기술도 AI 인프라의 필수 요소로 부상하고 있는 것으로 평가된다. KT 클라우드와 카카오는 이번 협력을 계기로 공공기관과 금융권을 비롯한 다양한 산업 분야에서 신뢰할 수 있는 생성형 AI 서비스 구축을 지원하는 한편, 국내 AI 생태계 전반의 안전성 확보에도 기여한다는 방침이다. 김봉균 KT 클라우드 대표는 "생성형 AI가 본격적으로 확산되면서 성능뿐 아니라 책임 있는 AI 활용 기반을 마련하는 것이 중요한 과제가 되고 있다"며 "카카오와의 협력을 통해 AI 인프라와 안전성 기술을 결합하고, 공공과 민간 고객이 보다 신뢰할 수 있는 환경에서 AI 서비스를 개발·운영할 수 있도록 지원하겠다"고 말했다. 김세웅 카카오 AI 시너지 성과리더는 "카카오의 AI 세이프티 기술과 KT 클라우드의 인프라 역량이 만나는 이번 협력이 국내 AI 생태계의 안전성을 한 단계 높이는 계기가 되길 바란다"며 "앞으로도 이용자가 안심하고 사용할 수 있는 AI 환경을 만들기 위해 지속적으로 노력하겠다"고 말했다.2026-06-26 10:15:27
-
![[데일리 뱅킹 브리프] 케이뱅크, 한·유럽 스테이블코인 협력 프로젝트 참여 外](https://image.ajunews.com//content/image/2026/06/25/20260625143543207669.jpg)
케이뱅크, 한·유럽 스테이블코인 협력 프로젝트 참여 外 [경제일보] 케이뱅크, 한·유럽 스테이블코인 협력 프로젝트 참여 케이뱅크가 한국과 유럽 은행권이 공동 추진하는 스테이블코인 협력 프로젝트 '판게아'에 참여한다고 25일 밝혔다. 이번 프로젝트는 지난해 한국과 일본 금융기관이 참여한 스테이블코인 해외송금 기술검증 사업인 '팍스 프로젝트'의 후속 사업이다. 판게아 프로젝트는 국내 은행권과 유럽연합(EU) 스테이블코인 발행 추진 법인 키발리스, 글로벌 금융 메시징 네트워크 SWIFT, 블록체인 기술기업 체인링크 등이 참여해 차세대 해외송금 모델을 공동 연구·검증하는 프로젝트다. 이번 프로젝트는 원화와 유로 기반 스테이블코인을 직접 연계하는 방안을 검토하는 글로벌 은행권 공동 프로젝트다. 참여 기관들은 자국 통화 기반 스테이블코인의 글로벌 활용 가능성과 은행권 공동 대응 체계, 글로벌 정산 인프라 연계 방안 등을 검토할 예정이다. 참여 기관들은 각 스테이블코인을 직접 교환하는 구조를 전제로 해외송금과 정산에 필요한 거래 흐름, 통화 교환 방식, 정산 구조 등을 검증하고 실제 적용 가능성과 잠재적 리스크를 분석할 계획이다. 케이뱅크 관계자는 "지난해 일본과 함께한 팍스 프로젝트에 이어 올해는 유럽 금융권과 새로운 프로젝트를 시작하게 됐다"며 "글로벌 금융기관들과 협력해 차세대 해외송금 및 정산 모델의 가능성을 검증하고 디지털 자산 기반 금융 서비스 경쟁력을 지속 강화해 나가겠다"고 말했다. KB금융, 스타트업 오픈이노베이션 금융위원장상 수상 KB금융그룹이 지난 24일 서울 마포구에서 열린 '스타트업 OI #금융권' 행사에서 국민은행과 티냅스의 협력 사례로 금융위원장상을 수상했다고 25일 밝혔다. 이번 행사는 스타트업과 금융기관의 협력 사례를 발굴하고 투자 유치와 사업 확장 기회를 모색하기 위해 마련됐다. 국민은행과 티냅스는 금융상담 에이전트의 신뢰도 확보를 위한 '실시간 답변 품질 평가 및 통제 시스템 구축' 사례를 발표해 최우수 협업 기업에 수여되는 '올해의 협력상'을 받았다. 양사는 KB금융의 'KB 오픈이노베이션 프로그램'을 통해 금융 특화 실시간 답변 평가 모델 설계와 RAG 기반 답변 신뢰성 검증 기술 도입 등을 공동 추진했다. 국민은행은 이번 협업을 통해 생성형 AI가 사실과 다른 정보를 생성하는 환각 현상을 90% 이상 사전 차단했다. 국민은행은 향후 수·여신과 퇴직연금 등 영업 현장 핵심 상담 영역으로 금융상담 에이전트 활용 범위를 확대할 계획이다. KB금융 관계자는 "이번 수상은 스타트업의 혁신 기술과 금융회사의 전문성을 결합해 금융 현장의 과제를 해결하고 새로운 고객 가치 창출 기반을 마련했다는 점에서 의미가 있다"며 "앞으로도 우수 스타트업의 성장을 지원하고 생산적 금융의 역할을 충실히 수행하겠다"고 말했다. KB국민은행, 청소년 약물 오남용 예방교육 성과 발표 KB국민은행이 오는 26일 '세계 마약퇴치의 날'을 앞두고 청소년 대상 약물 오남용 예방교육 사업의 주요 성과를 발표했다고 25일 밝혔다. 국민은행은 지난 2012년부터 청소년 지원 사업 '상다미쌤'을 후원하고 있다. 상다미쌤은 청소년의 고민과 정서적 어려움을 해소하기 위해 비대면 상담과 심리치료 지원을 제공한다. 현재까지 누적 상담 건수는 약 160만건이며 전문 치료가 필요한 고위험군 청소년 1781명에게 심리치료비를 지원했다. 국민은행은 지난 2022년부터 청소년 범죄와 유해환경에 대응하기 위해 학교 방문형 예방교육 사업도 운영하고 있다. 특히 2024년부터 약물 오남용 예방교육을 집중적으로 진행해 현재까지 총 41개 학교, 7500여 명의 청소년에게 올바른 의약품 사용법과 마약류 등 유해 약물의 위험성을 교육했다. 학교폭력 예방교육도 함께 진행하고 있다. 현재까지 71개 학교, 1만2000여 명의 학생을 대상으로 교육을 실시했다. 국민은행 관계자는 "청소년들이 건강한 사회구성원으로 성장할 수 있도록 지원하는 것은 미래세대를 위한 중요한 포용금융의 실천"이라며 "앞으로도 청소년들의 마음건강 회복과 안전한 성장 환경 조성에 기여할 수 있는 다양한 사회공헌 활동을 지속 확대해 나가겠다"고 말했다.2026-06-25 14:37:12
-
한컴 AI 매출 4배 성장 전망…"밸류에이션 재평가 기대" [경제일보] 한글과컴퓨터가 기존 오피스 소프트웨어 기업에서 문서 데이터 기반 AI 실행 플랫폼 기업으로 전환하고 있다는 분석이 나왔다. AI 반복 매출 확대와 공공·글로벌 시장 진출이 가시화되면서 기업가치 재평가 가능성도 제기됐다. 한국IR협의회 기업리서치센터는 최근 발간한 한컴 기업분석 보고서에서 한컴이 문서 작성 도구 기업을 넘어 ‘소버린 에이전틱 OS’ 기업으로 진화하고 있다고 평가했다. 국내 오피스 소프트웨어 시장에서 장기간 축적한 문서 처리 기술과 20만개 이상 고객 기반이 AI 사업 확장의 토대가 되고 있다는 분석이다. 보고서가 주목한 부분은 AI 매출 성장이다. 한국IR협의회는 한컴의 별도 기준 AI 매출이 2025년 89억원에서 2026년 360억원으로 늘어날 것으로 전망했다. 1년 만에 4배 이상 증가하는 구조다. 이나연 한국IR협의회 연구원은 이 매출이 단순한 라이선스 가격 인상이 아니라 기존 고객의 AI 솔루션 채택에 따른 업셀링 매출이라고 봤다. 기존 오피스 고객들이 한컴독스AI, 한컴어시스턴트, 한컴피디아 등 AI 기능을 추가로 도입하면서 반복 매출이 확대되는 흐름이라는 설명이다. 한컴의 AI 전략은 문서 데이터에 기반을 둔다. 한컴어시스턴트는 생성형 AI를 활용해 문서 작성과 편집, 요약 등을 지원하고 한컴피디아는 대규모 문서를 검색·활용할 수 있는 RAG 기반 질의응답 솔루션이다. 단순 문서 작성 도구가 아니라 조직 내부의 문서 데이터를 검색하고 요약하며 업무 실행까지 연결하는 플랫폼으로 확장하려는 방향이다. 공공 시장 레퍼런스도 긍정적 요인으로 꼽힌다. 한컴AI는 지난해 국회 빅데이터 플랫폼 1단계 사업을 수주해 한컴피디아와 한컴어시스턴트를 국회 특화 AI 솔루션으로 제공할 예정이라고 밝혔다. 국회사무처와 국회도서관이 보유한 방대한 의정 자료를 AI가 활용할 수 있는 환경으로 전환하고 문서 작성과 정보 검색 효율을 높이는 프로젝트다. 소버린 AI 수요 확대도 한컴에 기회가 될 수 있다. 공공기관과 금융, 법률, 의료 등 규제 산업에서는 외부 AI 모델을 그대로 쓰기보다 데이터 주권과 보안, 내부 문서 통제 기준을 충족하는 솔루션 수요가 커지고 있다. 보고서는 한컴이 공공 레퍼런스와 문서 처리 기술을 기반으로 국내 소버린 AI 시장의 대안 사업자로 부상할 가능성이 있다고 봤다. 실적 전망도 개선 쪽에 무게가 실렸다. 한국IR협의회는 한컴의 2026년 연결 매출액을 3703억원, 영업이익을 476억원으로 추정했다. 전년 대비 각각 13.3%, 30.9% 증가한 수준이다. 별도 소프트웨어 사업의 AI 성장과 한컴라이프케어의 실적 부담 완화가 수익성 개선 요인으로 제시됐다. 밸류에이션 측면에서도 재평가 여지가 있다는 분석이 나온다. 보고서는 한컴 주가가 2026년 예상 실적 기준 주가수익비율(PER) 11.3배 수준으로 국내 주요 소프트웨어 기업 대비 낮은 수준이라고 평가했다. AI 반복 매출이 커지고 에이전틱 OS 사업화가 본격화될 경우 기존 오피스 기업에 머물던 평가 기준이 달라질 수 있다는 의미다. 한편 한컴의 과제는 AI 매출 전망을 실제 반복 매출로 입증하는 일이다. 오피스 소프트웨어 기업에서 AI 플랫폼 기업으로 평가받으려면 제품 발표보다 고객의 유료 전환, 공공·민간 도입 확대, 해외 파트너십의 실적 연결이 필요하다. 문서 데이터는 모든 조직의 업무 기반이다. 한컴이 그 문서 위에 AI 실행 계층을 안정적으로 얹는다면 오래된 오피스 기업이라는 인식도 달라질 수 있다.2026-06-24 14:01:02
-
질문은 한 줄인데 청구서는 백 줄…기업 AI 비용, 토큰 관리가 새 과제 [경제일보] 생성형 인공지능(AI) 도입이 확산되면서 기업들의 새로운 고민으로 '토큰 비용 관리'가 떠오르고 있다. AI 활용이 늘어날수록 생산성은 높아지지만 예상보다 빠르게 증가하는 운영 비용이 부담으로 작용하고 있기 때문이다. . 17일 업계에 따르면 국내 일부 IT 기업과 AI 도입 기업들은 최근 생성형 AI 운영 과정에서 토큰 비용 최적화 방안을 검토하고 있는 것으로 알려졌다. AI 서비스 사용자가 늘어난 영향도 있지만, 단순 이용량 증가보다 AI 서비스 구조 자체가 비용 상승을 유발하고 있는 것으로 분석된다. 토큰은 대규모 언어 모델(LLM)이 텍스트를 처리하는 기본 단위다. 기업들은 일반적으로 AI 사용량에 따라 토큰 비용을 지불한다. 문제는 직원이 입력하는 질문은 짧지만 AI가 답변을 생성하기 위해 처리하는 정보량은 훨씬 많다는 것이다. 특히 RAG 기반 AI 서비스가 토큰 사용량을 급증시키는 것으로 알려졌다. RAG는 사용자의 질문에 답하기 위해 사내 문서와 데이터베이스를 검색한 뒤 관련 정보를 함께 분석하는 기술이다. 최근 기업들은 사내 위키와 규정집, 회의록, 기술 문서, 고객 응대 매뉴얼 등을 AI와 연동해 업무 지원 서비스를 구축하고 있다. 예를 들어 직원이 "출장비 정산 기준을 알려달라"고 한 줄짜리 질문을 입력하더라도 AI는 관련 인사 규정과 회계 규정, 출장 규정, 과거 질의응답 자료 등을 함께 검색해 읽은 뒤 답변을 생성한다. 이 과정에서 실제 입력 토큰 규모는 사용자 질문보다 수십 배에서 많게는 수백 배까지 증가할 수 있다. 장문 컨텍스트 활용 역시 비용 증가의 원인으로 꼽힌다. 최근 AI 서비스는 긴 대화 흐름을 유지하기 위해 과거 대화 기록을 함께 읽는 방식을 활용한다. 사용자가 대화를 이어갈수록 AI는 이전 질문과 답변을 지속적으로 참조하게 되고, 입력 토큰도 누적된다. 업계에서는 기업들이 체감하는 AI 비용 증가의 상당 부분이 이 같은 구조에서 발생하고 있다고 분석한다. RAG 검색 과정에서 불러오는 문서와 누적된 컨텍스트가 비용의 대부분을 차지하는 경우가 적지 않은 것이다. 이에 기업들도 비용 최적화에 나서고 있다. 고성능 모델을 모든 업무에 적용하기보다 경량 모델과 병행 운영하거나, 검색 범위를 축소하는 방식으로 토큰 사용량을 줄이고 있다. 또한 불필요한 대화 기록을 압축하거나 프롬프트를 최적화하는 등 다양한 비용 절감 기법도 도입하고 있다. 일부 기업은 단순 문의나 반복 업무에는 소형 모델을 활용하고 복잡한 분석 업무에만 고성능 모델을 사용하는 방식으로 운영 체계를 개편하고 있다. AI 성능 경쟁 못지않게 운영 효율성이 중요해지면서 비용 최적화 기술이 새로운 경쟁력으로 부상하고 있는 것이다. IT 업계 관계자는 "AI 사용에 따른 토큰 소비 방식이 변해 최근 기업들이 기존보다 AI 사용에 제한을 두고 있다"며 "국내 기업들이 비용 부담을 줄이기 위해 사용 정책을 재정비하는 움직임이 나타나고 있다"고 말했다.2026-06-17 18:00:05
-
팀스파르타, 기업 64% "AI 교육 필요"…체계 갖춘 곳은 3.6% 그쳐 [경제일보] 국내 기업들이 인공지능(AI) 전환(AX)의 필요성에는 공감하면서도 실제 실행 단계에서는 여전히 어려움을 겪고 있는 것으로 나타났다. AI 교육 수요는 빠르게 늘고 있지만 현업 적용과 조직 내 확산을 위한 체계적인 실행 기반은 부족한 것으로 분석된다. 11일 AI 업스킬링 기업 팀스파르타가 공개한 '2026 기업 AX 교육 트렌드 리포트'에 따르면 국내 기업의 64.0%는 AI 교육이 필요하다고 인식하고 있는 것으로 조사됐다. 이번 조사는 비즈니스 네트워크 서비스 리멤버를 통해 국내 기업 HRD(인적자원개발) 담당자 330명을 대상으로 진행됐다. 이번 조사를 진행한 팀스파르타는 AI 역량 진단과 직무별 맞춤형 교육, 현업 적용 지원을 연계한 기업 교육 프로그램을 운영하는 기업이다. 최근에는 검색증강생성(RAG) 기반 문서 활용, 로우코드·노코드 자동화, AI 에이전트 활용 등 실무 중심 교육 과정도 확대하고 있다. 팀스파르타의 조사 결과 기업들은 AI 도입과 활용의 중요성은 인정하면서도 실제 AX 추진 속도에 대해서는 상당한 위기감을 느끼고 있는 것으로 나타났다. 응답 기업의 54.5%는 자사의 AX 추진 속도가 업계 평균보다 느리다고 평가했으며, 61.5%는 오는 2027년까지 전사 AX 완료를 목표로 설정했다고 답했다. AX 추진의 출발점 역시 내부 전략보다는 외부 환경 변화에 영향을 받는 경우가 많았다. AX 관련 정보 습득 경로로는 뉴스 및 콘텐츠가 40.6%로 가장 높은 비중을 차지했고 경쟁사 사례가 17.9%로 뒤를 이었다. 업계에서는 여전히 상당수 기업이 장기적인 AX 전략보다는 시장 변화에 대응하는 차원에서 AI 도입을 검토하고 있는 것으로 보고 있다. 반면 역량 진단부터 교육 설계, 운영까지 체계적으로 연계한 기업은 3.6%에 불과했다. 특히 팀스파르타는 이번 조사에서 AX 추진 과정의 가장 큰 걸림돌이 예산 부족보다 실행 체계 부족인 것으로 나타났다고 설명했다. AI 교육 이후 현업 적용에 한계를 느낀다고 답한 비율은 53.0%에 달했다. 구체적인 원인으로는 임직원 간 AI 활용 수준 편차가 54.8%로 가장 높았으며 직무·산업별 맞춤형 커리큘럼 부재가 50.9%를 기록했다. 반면 예산 및 시간 부족을 지목한 비율은 21.8%에 그쳤다. 단순히 교육 기회를 제공하는 것만으로는 AX 성과를 기대하기 어렵고 조직 특성에 맞는 실행 체계 구축이 중요하다는 의미로 풀이된다. 교육 수요 역시 변화하고 있는 것으로 나타났다. 과거 챗GPT 사용법 등 범용 AI 활용 교육이 주를 이뤘다면 최근에는 실제 업무 성과와 연결되는 직무별 실무 교육에 대한 관심이 높아지고 있다. 가장 희망하는 교육 형태로는 직무별 특화 AI 실무 교육이 60.6%로 가장 높게 나타났으며 AI 역량 진단 기반 수준별 교육 설계가 33.0%로 뒤를 이었다. 기업들이 단순 AI 활용법 교육을 넘어 업무 혁신과 생산성 향상으로 이어질 수 있는 맞춤형 교육을 요구하고 있는 것이다. 업계에서는 생성형 AI 기술이 빠르게 확산되면서 기업들의 AX 전략도 새로운 전환점을 맞고 있는 것으로 전망한다. 단순 도구 도입을 넘어 조직 문화와 업무 프로세스, 인재 역량을 함께 변화시키는 체계적인 접근이 AX 성공의 핵심 요소로 떠오르고 있다. 이범규 팀스파르타 대표는 "이번 리포트는 기업들이 직면한 AX의 본질적인 어려움이 결국 '방법론의 부재'에 있음을 보여준다"며 "정밀한 역량 진단부터 직무별 미시적 맞춤 커리큘럼, 현업 적용의 사후 관리까지 전 과정을 유기적으로 잇는 것이 실질적인 업무 혁신과 AX 격차 해소를 이끄는 길"이라고 강조했다.2026-06-10 09:17:23
-
씽크프리 AI 웹 오피스 공개…기업 업무환경 혁신 제시 [경제일보] 한글과컴퓨터의 자회사 씽크프리(대표 김두영 김연수)가 AI 기반 웹 오피스 솔루션을 공개한다. 문서 작성과 데이터 연동을 결합해 기업 업무 효율을 높이겠다는 전략이다. 씽크프리는 오는 6일부터 8일까지 서울 코엑스에서 열리는 ‘AI EXPO KOREA 2026’에 참가한다고 밝혔다. 이번 전시에서 ‘씽크프리 오피스’를 중심으로 AI 문서 자동화와 협업 기능을 결합한 웹 오피스를 선보인다. AI 웹 오피스는 문서 생성 방식을 근본적으로 바꾸는 데 초점을 맞췄다. AI가 자동으로 문서를 작성하고 기업 내부 AI가 생성한 데이터와 결과물을 즉시 문서 형태로 변환해 편집할 수 있는 환경을 제공한다. 데이터와 문서 작업 간 단절을 줄이는 구조다. 씽크프리 오피스는 마이크로소프트 오피스를 포함한 주요 문서 포맷과 높은 호환성을 갖췄다. 다양한 AI 모델과 유연하게 연동되는 구조를 기반으로 기업 내부 시스템과 외부 AI 서비스까지 빠르게 통합할 수 있다. 구축형 방식으로 제공돼 기업 내부 서버에 직접 설치할 수 있는 점도 특징이다. 보안 경쟁력도 강조했다. 사내 기밀 문서와 사용자 데이터의 외부 유출과 AI 학습 활용 가능성을 차단하는 구조를 적용했다. 다수 협업자의 동시 편집과 실시간 채팅 기능도 지원한다. 사용자 인터페이스를 기업 환경에 맞게 조정할 수 있는 점도 차별화 요소다. 이번 전시에서는 AI 에이전트 ‘리파인더’도 함께 공개한다. 리파인더는 여러 클라우드에 분산된 데이터를 통합해 RAG 기반 검색과 업무 자동화를 지원한다. 슬랙 구글 챗 등 메신저에서 자연어 명령으로 일정 관리 문서 작성 이슈 추적 등을 수행할 수 있다. 클라우드 저장소와 오피스를 결합한 ‘씽크프리 드라이브’도 전시한다. 문서 저장 공유 관리를 통합해 보안 환경을 강화하고 협업 효율을 높이는 기능을 제공한다. 데이터 관리와 문서 작업을 하나의 플랫폼으로 묶는 접근이다. 업계에서는 AI 오피스 경쟁이 본격화되고 있다는 분석이 나온다. 기존 문서 도구가 협업 중심에서 AI 기반 자동화로 빠르게 전환되는 흐름이다. 특히 기업 데이터와 문서 작업을 연결하는 구조가 생산성 경쟁의 핵심 변수로 떠오르고 있다. 향후 관건은 실제 업무 환경에서의 적용성과 보안 신뢰도다. 기업 내부 시스템과 AI 연동이 확대될수록 데이터 통제와 권한 관리 중요성이 커질 수밖에 없다. 구축형 오피스 모델이 이러한 요구에 대응할 수 있을지 여부가 시장 확산의 핵심 변수로 작용할 전망이다. 김두영 씽크프리 대표는 “AI 인프라와 문서 업무 환경 간 단절로 활용도가 제한되는 경우가 많다”며 “AI 웹 오피스를 통해 기업이 축적한 데이터를 문서로 자연스럽게 연결해 업무 효율을 높이겠다”고 밝혔다.2026-05-04 13:44:19
-
AI 모델 겨냥 공격 증가…S2W, 새로운 보안 전략 공개 [경제일보] 인공지능(AI) 기술 확산과 함께 기존 보안 체계를 우회하는 새로운 유형의 사이버 공격이 증가하면서 기업들의 보안 전략 전환 필요성이 커지고 있다. 특히 AI 모델 자체를 겨냥한 공격이 늘어나면서 기존 시스템 중심 보안에서 AI 특화 대응 체계 구축이 중요해지고 있는 것으로 분석된다. 16일 빅데이터 분석 인공지능 기업 S2W는 성남 판교 본사에서 'AI 시대의 새로운 보안 전략: 실사례로 알아보는 대응책'을 주제로 고객사 대상 프라이빗 세미나를 개최하고 AI 기반 보안 위협 사례와 대응 방안을 지난 15일 공유했다고 밝혔다. S2W에 따르면 AI 기술 확산과 함께 기존과 다른 방식의 공격이 등장하고 있다. 대표적인 AI 특화 공격 방식으로는 '입력 조작', '무결성 침해', '에이전트 연계', '합성 신원' 등이 제시됐다. '입력 조작'은 프롬프트 인젝션이나 탈옥 기법을 통해 대형언어모델(LLM)의 보호 장치를 우회하고 민감 정보 유출이나 의도하지 않은 명령 수행을 유도하는 방식이다. 공격자는 모델의 응답 논리를 교란해 시스템 내부 정보를 확보하거나 추가 공격을 시도하는 것으로 알려졌다. '무결성 침해'는 학습 데이터나 검색 증강 생성(RAG) 지식베이스를 오염시키는 데이터 포이즈닝 및 백도어 공격이다. 특정 조건에서만 오작동하도록 조작해 장기간 탐지를 회피하는 것이 특징이다. '에이전트 연계' 공격은 이메일이나 웹 페이지 등 외부 데이터를 처리하는 AI 에이전트를 활용해 간접적으로 공격을 수행하는 방식이다. 숨겨진 명령을 전달해 API 호출이나 데이터 삭제 등 2차 공격을 유도하는 사례가 증가하고 있다. '합성 신원' 공격은 딥페이크와 음성 클로닝 기술을 활용해 정교한 가짜 신원을 생성하는 방식이다. 생체 인증을 우회하거나 피싱 공격의 신뢰도를 높이는 데 활용되며 기업 보안 체계를 위협하고 있다. AI 모델을 직접 공격하는 실제 사례도 등장하고 있다. 사용자가 다양한 프롬프트 엔지니어링 기법을 활용해 AI 모델의 보호 장치를 우회하고 내부 정보를 확보하는 행위가 반복되고 있다. 특히 역할 부여나 우회 질문 등 단순 대화만으로도 AI 모델이 취약해질 수 있다는 점이 확인됐다고 S2W는 설명했다. 또한 S2W는 공격자가 내부 식별자 추출, 시스템 프롬프트 탈취, 쿠폰 코드 노출 등을 통해 무료 항공권 예약까지 수행하는 사례도 공개했다. AI 모델뿐 아니라 AI와 연결된 전체 시스템 구조가 공격 대상이 될 수 있는 것으로, 특히 멀티모달 환경에서 이미지 조작만으로 검증 시스템이 무력화될 수 있는 것이다. AI 환경에서는 기존 보안 방식만으로는 대응이 어려운 것으로 확인되고 있다. 기존 보안이 시스템 취약점과 버그를 중심으로 방어하는 구조였다면 AI 보안은 모델의 판단 논리와 인지 구조의 취약점을 방어해야 한다는 것이 특징이다. AI 모델은 학습 데이터와 프롬프트 입력에 따라 결과가 달라지기 때문에 공격자가 논리적 허점을 활용할 가능성이 높다. 이에 차단 중심 보안에서 실시간 탐지와 대응 중심 보안 체계로 전환이 필요한 것으로 분석된다. 또한 완벽한 방어가 어려운 AI 특성상 지속적인 모의 해킹과 취약점 관리가 중요해지고 있다. 기업들은 AI 서비스 운영 과정에서 발생할 수 있는 위험을 사전에 점검하는 방식으로 대응 전략을 강화해야 할 전망이다. 양종헌 S2W 오펜시브부문장은 "AI를 활용한 보안의 목표는 우회 시도를 신속하게 탐지해 정책을 지속적으로 업데이트하는 동적 방어체계를 구축함으로써 공격자의 공격 비용과 포기 가능성을 높이는 데 있다"며 "향후에도 공격자 관점에서의 취약점 발굴과 시나리오 검증을 수행하는 오펜시브 연구를 더욱 고도화하며, AI 시대에 불안감을 해소할 수 있는 액션 아이템을 제공하는 데 주력할 것"이라고 말했다.2026-04-16 16:01:56
-
"데이터 외부 반출 '0'"... LG 엑사원+퓨리오사 NPU, '구축형 AI' 시장 정조준 [경제일보] LG유플러스가 토종 AI 반도체 팹리스 퓨리오사AI와 손잡고 공공·금융 등 보안이 생명인 B2B(기업간거래) 시장을 겨냥한 '설치형 AI(On-premise AI)' 솔루션을 내놓는다. 클라우드 연결 없이 기업 내부 서버에서 독립적으로 구동되는 '소버린 AI' 어플라이언스를 통해 데이터 주권 확보와 비용 효율화라는 두 마리 토끼를 잡겠다는 전략이다. LG유플러스(대표 홍범식)는 지난 4일(현지시간) 스페인 바르셀로나에서 열린 'MWC 2026' 현장에서 퓨리오사AI(대표 백준호)와 AI 인프라 협력을 위한 업무협약(MOU)을 체결했다고 8일 밝혔다. 이번 협력은 단순한 기술 제휴를 넘어 하드웨어와 소프트웨어를 결합한 '올인원 패키지'로 엔터프라이즈 AI 시장의 난제를 해결하겠다는 승부수로 풀이된다. 양사가 개발하는 '소버린 AI 어플라이언스'는 전원과 네트워크만 연결하면 즉시 사용할 수 있는 일체형 거대언어모델(LLM) 솔루션이다. 핵심은 LG유플러스의 기업용 AI 플랫폼 노하우와 LG AI연구원의 초거대 모델 '엑사원(EXAONE) 4.0', 그리고 퓨리오사AI의 2세대 NPU(신경망처리장치) '레니게이드(Renegade)'의 기술적 융합이다. LG유플러스는 엑사원 4.0을 기반으로 사내 지식관리시스템(KMS)과 검색증강생성(RAG) 기술을 최적화해 기업 내부의 방대한 문서를 보안 우려 없이 학습하고 검색할 수 있는 환경을 구축한다. 여기에 퓨리오사AI의 레니게이드 칩을 탑재해 기존 GPU(그래픽처리장치) 대비 압도적인 전력 효율과 추론 성능을 제공한다. 이는 24시간 상시 가동해야 하는 기업용 AI 시스템의 운영비용(TCO)을 획기적으로 낮출 수 있는 핵심 경쟁력이다. ◆ 빅테크 종속 탈피... '소버린 AI'가 뜬다 이번 협력은 전 세계적으로 확산하는 '소버린 AI(Sovereign AI)' 트렌드와 맥을 같이한다. 생성형 AI 도입이 가속화되면서 오픈AI나 구글 등 글로벌 빅테크의 퍼블릭 클라우드에 의존할 경우 발생할 수 있는 데이터 유출 및 기술 종속 우려가 커졌기 때문이다. 특히 국가 안보와 직결되는 국방, 공공 분야나 민감 정보를 다루는 금융, 의료 분야에서는 데이터가 외부로 나가지 않는 '온프레미스(사내 구축형)' 수요가 폭발하고 있다. LG유플러스는 이러한 시장의 페인 포인트(Pain Point)를 정확히 타격했다. 복잡한 서버 구축 과정 없이 즉시 도입 가능한 어플라이언스 형태는 AI 전문 인력이 부족한 기업들에게 매력적인 대안이 될 것으로 보인다. 양사는 이번 어플라이언스 개발을 시작으로 협력 범위를 AI 데이터센터(AIDC)와 피지컬 AI(Physical AI) 분야로 확장한다. AIDC에서는 NPU 기반의 서비스형 AI(NPUaaS) 모델을 발굴하고, 로봇이나 설비 제어 현장에서는 초저지연 추론 기술을 공동 연구해 'AI 인프라 생태계'를 선점하겠다는 구상이다. 업계 전문가는 "AI 시장의 무게중심이 '학습'에서 '추론(서비스)'으로 이동하면서 전력 효율과 비용 절감이 핵심 화두로 떠올랐다"며 "LG유플러스의 서비스 역량과 퓨리오사AI의 하드웨어 기술력이 결합된 이번 모델은 외산 장비 일색인 국내 AI 인프라 시장에서 강력한 대항마가 될 것"이라고 전망했다. 이상엽 LG유플러스 CTO는 "AI가 실제 업무 환경에 적용되려면 성능뿐만 아니라 보안과 운영 안정성이 필수"라며 "소버린 AI 어플라이언스를 시작으로 기업이 신뢰할 수 있는 하이브리드 AI 인프라를 구축해 나가겠다"고 강조했다.2026-03-08 09:13:54
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 환율 안정에 안주할 때 아니다…외환 방어력 키울 골든 타임이다](https://image.ajunews.com/content/image/2026/07/13/20260713092838404021_518_323.jpg)