검색결과 총 6건
-
AI도 해킹당한다…정부, 프롬프트 공격 막는 보안 매뉴얼 냈다
[경제일보] 정부가 인공지능(AI) 서비스 보안 위협에 대응하기 위한 실무 매뉴얼을 내놨다. AI가 금융, 의료, 공공, 제조, 통신 등 주요 산업으로 빠르게 확산되면서 프롬프트 인젝션과 권한 오남용, 데이터 유출 같은 새로운 공격에 대응할 기준이 필요해졌기 때문이다. 과학기술정보통신부는 한국인터넷진흥원(KISA)과 함께 ‘AI 보안 위협 대응 매뉴얼’과 ‘AI 보안 레드티밍 가이드’를 발간했다고 8일 밝혔다. 두 자료는 AI 환경에서 발생할 수 있는 주요 보안 위협을 분류하고 산업 현장에서 활용할 수 있는 점검·대응 절차를 제시하는 데 초점을 맞췄다. AI 보안 위협은 기존 정보보호 체계만으로 충분히 막기 어렵다. 공격자가 AI 모델에 악성 명령을 숨겨 원하는 답변을 유도하는 프롬프트 인젝션, 에이전트 권한을 악용한 데이터 접근, 학습 데이터 유출, 외부 모델과 플러그인 공급망 공격 등이 대표적이다. AI가 스스로 도구를 호출하고 업무를 수행하는 에이전트 형태로 발전할수록 공격 표면도 넓어진다. ‘AI 보안 위협 대응 매뉴얼’은 AI 보안 위험을 데이터, 모델, 에이전트, 공급망, 고성능 모델 등 5개 영역으로 나눴다. 각 영역별 진단 지표를 제시하고 금융, 의료, 공공·행정, 교육, 제조·에너지, 통신, 법률, IT 등 8개 분야별 위협 시나리오와 대응 방안도 담았다. 경영진과 실무자의 활용 방식도 구분했다. 최고경영자 등 C레벨에는 AI 보안 위협의 종류와 실제 사례를 쉽게 설명하고, 보안 담당자와 IT 운영자에게는 위협을 어떻게 진단하고 어떤 기준으로 대응할지 안내한다. AI 도입이 기술 부서만의 일이 아니라 경영 리스크 관리로 옮겨가고 있다는 점을 반영한 구성이다. 함께 발간된 ‘AI 보안 레드티밍 가이드’는 기업 내부에서 AI 보안 점검을 직접 수행해야 하는 실무진을 위한 안내서다. 레드팀은 공격자 관점에서 시스템을 시험해 취약점을 찾아내는 조직이다. 이번 가이드는 AI 레드팀을 기획하고 구성하는 단계부터 준비, 실행, 결과 보고까지 전 과정을 다룬다. 현장 활용성을 높이기 위한 부록도 포함됐다. 레드티밍 체크리스트, 점검 도구, 인력별 직무기술서가 담겼다. 정부 차원에서 여러 산업 분야에 적용 가능한 AI 보안 레드팀 운영 기준을 제시했다는 점에서 의미가 있다. 이번 가이드는 기업의 AI 도입 속도가 빨라지는 상황에서 나왔다. 생성형 AI를 고객 상담, 문서 작성, 코드 개발, 데이터 분석에 활용하는 기업이 늘고 있지만 보안 검증 체계는 아직 초기 단계인 경우가 많다. 특히 외부 AI 모델과 사내 데이터가 연결될 경우 정보 유출과 권한 관리 문제가 함께 발생할 수 있다. 임정규 과기정통부 정보보호네트워크정책관은 “AI 기술의 확산과 함께 보안 위협도 빠르게 진화하고 있다”며 “이번 가이드가 AI 서비스의 보안 수준을 높이고 현장에서 활용할 수 있는 실질적인 기준이 되기를 기대한다”고 말했다.
2026-07-08 14:09:43
-
"공격도 AI, 방어도 AI"...AWS·LG CNS가 공개한 차세대 보안 전략
[경제일보] 생성형 인공지능(AI)의 발전으로 사이버 공격 속도가 급격히 빨라지면서 기업 보안 전략도 AI를 활용한 자동화와 실시간 대응 중심으로 전환되고 있다. 공격자가 AI를 활용해 취약점을 빠르게 찾아내는 만큼 방어 역시 사람 중심 대응을 넘어 AI 기반 자율 보안 체계를 구축해야 한다는 것이 업계의 공통된 인식이다. 1일 아마존웹서비스(AWS)는 서울 강남구 AWS코리아 오피스에서 'AWS Security 101' 기자간담회를 열고 고성능 AI 시대 변화하는 보안 환경과 이에 대응하기 위한 AI 기반 보안 전략을 소개했다. 이날 행사에는 신은수 AWS코리아 수석 보안전문 솔루션즈 아키텍트(PSA)와 이진욱 LG CNS RED팀 팀장이 발표자로 나서 AI 기반 보안 기술과 실제 기업 적용 사례를 공유했다. 이날 신은수 AWS 코리아 수석 보안전문 솔루션즈 아키텍트는 고성능 AI가 사이버 공격의 속도와 규모, 접근성을 모두 바꾸고 있다고 진단했다. 과거에는 고위험 취약점 발견과 익스플로잇 제작이 일부 전문가 집단의 영역이었다면, 이제는 생성형 AI를 활용해 누구나 훨씬 빠르게 취약점을 찾고 공격 코드를 제작할 수 있는 환경이 됐다는 설명이다. 그는 AI 시대 보안 위협의 변화로 공격 규모 확대, 공격 속도 가속, 공격 도구 접근성 향상을 꼽았다. AI를 활용하면서 취약점 발견과 익스플로잇 제작 시간이 크게 단축됐고, 이에 따라 기업은 이전보다 훨씬 많은 취약점에 대응해야 하는 상황에 놓였다고 설명했다. 신 아키텍트는 "과거에는 어떤 취약점을 찾는 것조차도 어려웠고, 취약점을 찾아냈다고 하더라도 실제 타겟팅되어 있는 시스템에 써먹을 수 있는 익스플로잇(보안 취약점 혹은 보안 취약점을 이용한 공격)을 만드는 것이 어려웠다"며 "지금은 익스플로잇이 아주 손쉽게 이루어진다"라고 말했다. 이에 AWS는 해당 환경 변화에 대응하기 위해 AI 기반 다층 보안 체계를 운영하고 있다고 설명했다. 수학적으로 보안 정책의 안전성을 검증하는 자동 추론 기술을 주요 보안 서비스에 적용하고 있으며, 하루 수백조 건 규모의 네트워크 데이터를 분석해 이상 징후를 탐지하고 있다. 또한 취약점 발견부터 우선순위 분석, 수정 방안 검증, 실제 조치까지 보안 전 과정을 자동화하는 'AWS 컨티뉴엄'도 소개했다. 이를 통해 침투 테스트와 코드 분석, 위협 모델링 등을 AI가 지원하고, 검증된 결과를 기반으로 기업이 보다 빠르게 대응할 수 있도록 지원한다는 설명이다. 이어 발표에 나선 이진욱 LG CNS RED팀 팀장은 AWS 시큐리티 에이전트를 실제 보안 점검에 적용한 사례를 소개했다. 이 팀장은 최근 대형 보안사고 증가와 AI 전환(AX) 프로젝트 확대, AI 모델 성능 향상으로 침투 테스트 수요가 빠르게 증가하고 있다고 설명했다. 반면 보안 전문 인력은 한정돼 있어 AI 기반 자동화가 필요한 상황이라고 진단했다. LG CNS는 개발 분야에서 AI 활용 경험을 바탕으로 보안 영역에서도 AI 적용 가능성을 검토해 왔으며, 지난해부터 다양한 AI 기반 보안 솔루션을 평가한 끝에 AWS 시큐리티 에이전트를 도입했다고 설명했다. 기존에는 DAST(동적 애플리케이션 보안 테스트)나 전문가가 직접 수행하는 수동 침투 테스트를 활용했지만, DAST는 오탐이 많고 전문가 중심 테스트는 비용과 시간이 많이 소요되는 한계가 있던 것으로 평가된다. 반면 AI 기반 침투 테스트는 추론 과정과 근거를 함께 제공해 결과 검증이 쉽고, 반복적인 점검을 자동화할 수 있다는 점에서 실무 적용 가능성을 확인했다고 강조했다. 이 팀장은 "대시보드도 제공하고 어떻게 침투 테스트를 수행했는지, 어떤 방식으로 했는지에 대한 백데이터들도 상세하게 제공한다"며 "지금 나온 취약점에 대해서 어떤 취약점인지 과정을 재현할 수 있도록 상세한 프로세스를 제공"이라고 말했다. LG CNS는 실제 적용 결과도 공개했다. 동일한 시스템을 대상으로 수행한 테스트에서 AI 에이전트는 약 5시간 만에 점검을 완료했으며, 내부적으로는 약 20시간 동안 복수의 에이전트가 동시에 침투 테스트를 수행했다. 기존 전문가 중심 점검이 평균 4~5일 걸렸던 것과 비교하면 점검 속도가 크게 향상된 것이다. 또한 계정 권한 정보 등 서비스 맥락을 추가로 제공할 경우 탐지 정확도가 약 60%에서 90% 수준까지 향상됐으며, 전문가 검증을 병행할 경우 평균 점검 기간은 5일에서 3일로 줄고 비용은 약 30% 절감됐다. AI 에이전트만 활용하는 반복 점검의 경우에는 점검 기간을 1일 수준으로 단축하고 비용도 최대 80%까지 줄일 수 있을 것으로 평가했다. 특히 고성능 AI 시대에는 개발 초기부터 보안을 적용하는 '시프트 레프트' 전략과 지속적인 보안 검증, AI 에이전트 보안 강화, 조직 전체의 보안 문화 정착이 중요하다고 강조했다. 그는 앞으로는 보안 조직만이 아니라 개발 조직을 포함한 모든 구성원이 AI 기반 보안 도구를 활용하는 문화가 필요하다고 말했다. 이 팀장은 "AI가 발달하면서 해킹 공격에 대한 기술 진입장벽이 굉장히 낮아졌고, 또한 AX 활동들을 많이 하면서 외부 공개 표현도 역시 굉장히 증가하고 있는 상황"이라며 "이런 상황에서 AWS의 시큐리티 에이전트가 해결책이 될 수 있다고 판단했다"고 강조했다.
2026-07-01 14:06:25
-
국민 정보 못 지키는 정부가 디지털 혁신을 말할 수 있나
[경제일보] 정부가 운영하는 창업 지원 정보 플랫폼에서 대규모 개인정보 유출 사고가 발생했다. 창업자와 예비 창업자가 정부를 믿고 맡긴 정보가 외부로 새어 나갔다. 이름과 연락처, 사업 정보, 신청 이력은 단순한 숫자와 문자가 아니다. 한 사람의 경제활동 기록이고 한 기업의 출발점이며 때로는 사업 아이디어와 생계의 근거다. 그런 정보가 뚫렸다. 정부는 국민에게 무엇을 설명할 것인가. 공공 플랫폼의 정보 유출은 민간 기업의 사고와 다르다. 국민은 정부 서비스를 선택한 것이 아니다. 정부가 운영하고 정부가 요구하고 정부 명의로 정보를 수집했기 때문에 제출한 것이다. 정부 이름이 곧 신뢰의 근거였다. 그 신뢰가 무너졌다면 이는 단순한 기술 사고가 아니다. 공공 행정의 기본이 흔들린 일이다. 정부는 오랫동안 디지털 플랫폼 정부를 말해왔다. 행정은 더 빨라지고 서비스는 더 편리해지고 데이터는 더 많이 연결된다고 했다. 그러나 디지털 정부의 첫 조건은 속도가 아니다. 안전이다. 개인정보를 지키지 못하는 디지털화는 혁신이 아니라 위험의 확대다. 정부가 더 많은 데이터를 모을수록 국민이 져야 할 위험도 커진다. 그 위험을 관리하지 못한다면 디지털 행정은 국민 편의가 아니라 국가가 만든 취약점이 된다. 이번 사고에서 우리가 물어야 할 것은 분명하다. 누가 이 정보를 수집했는가. 누가 접근할 수 있었는가. 누가 시스템을 관리했는가. 사고 징후는 언제 처음 확인됐는가. 국민에게는 언제 알렸는가. 피해 가능성은 어디까지인가. 그리고 최종 책임자는 누구인가. 이런 질문에 답하지 않은 채 “재발 방지 대책을 마련하겠다”는 말만 반복한다면 그것은 사과가 아니라 책임 회피다. 공공기관의 보안 사고가 날 때마다 익숙한 장면이 되풀이된다. 담당자는 바뀌고 위탁 업체 이야기가 나오고 기관은 사과문을 낸다. 시간이 지나면 사건은 잊힌다. 책임은 흐려지고 피해자는 스스로 조심하라는 말만 듣는다. 민간 기업이었다면 과징금과 손해배상, 평판 추락이라는 대가를 치렀을 일이다. 그런데 공공기관은 왜 늘 책임의 무게가 가벼운가. 정부 사업은 외주와 위탁 구조가 복잡하다. 시스템 구축은 민간 업체가 맡고 운영은 산하기관이 하고 감독은 중앙부처가 한다. 사고가 나면 모두가 조금씩 책임이 있다고 말하지만 정작 누구도 끝까지 책임지지 않는 구조가 된다. 국민에게 중요한 것은 계약서의 구조가 아니다. 국민은 정부를 믿고 정보를 냈다. 그렇다면 최종 책임도 정부가 져야 한다. 위탁 업체의 과실이 있다면 정부가 먼저 피해자를 구제하고 나중에 구상권을 행사하는 것이 상식이다. 개인정보는 행정 편의를 위한 부속물이 아니다. 오늘날 개인정보는 한 사람의 신분증이고 경제적 자산이며 때로는 사업의 출발점이다. 유출된 정보는 다시 주워 담을 수 없다. 금융 사기, 신원 도용, 영업 정보 악용, 창업 아이디어 침해로 이어질 수 있다. 피해는 개인에게 남고 책임은 제도 속에서 사라진다면 국민은 다시는 정부 플랫폼을 신뢰하지 않을 것이다. 이제 공공 데이터 보안에도 책임의 실명제가 필요하다. 어느 기관이 어떤 정보를 모았는지 누가 접근 권한을 가졌는지 보안 점검은 언제 했는지 사고 당시 관리 감독 책임자는 누구였는지 공개해야 한다. 공공기관이라는 이유로 책임이 완화돼서는 안 된다. 오히려 더 엄격해야 한다. 국민 정보를 더 많이, 더 오래, 더 넓은 권한으로 보유하는 곳이 정부다. 권한이 크면 책임도 커야 한다. 필요한 것은 또 하나의 종합대책 발표가 아니다. 정기적 보안 감사, 접근 권한 최소화, 민감정보 암호화, 외주 업체 보안 검증, 실시간 침입 탐지, 사고 발생 시 즉각 통지와 피해 구제 절차가 실제로 작동해야 한다. 기관장과 감독 부처의 책임도 명확히 해야 한다. 공공기관의 정보 유출에도 실질적 배상과 문책이 뒤따라야 한다. 책임 없는 보안은 구호에 그친다. 정부가 민간에는 엄격한 개인정보 보호 의무를 요구하면서 스스로에게 관대한 잣대를 적용한다면 그것은 이중 기준이다. 국민은 정부가 편리한 서비스를 만들기를 바란다. 그러나 그보다 먼저 안전한 서비스를 원한다. 행정이 빨라지는 것보다 내 정보가 지켜지는 것이 먼저다. 디지털 플랫폼 정부는 홍보 문구로 완성되지 않는다. 국민이 안심하고 자신의 정보를 맡길 수 있을 때 비로소 가능하다. 정부가 국민 정보를 지키지 못한다면 디지털 혁신을 말할 자격도 없다. 이번 사고를 또 하나의 일회성 해프닝으로 넘긴다면 더 큰 유출과 더 깊은 불신이 뒤따를 것이다. 정부는 지금 답해야 한다. 국민의 정보를 맡을 자격이 있는가. 그리고 그 책임을 질 준비가 되어 있는가.
2026-06-23 09:04:46
-
-
네이버클라우드, 국방용 경량 AI 공개…드론·전술차량서 실시간 분석
[경제일보] 네이버클라우드가 국방 환경에 최적화한 경량 옴니모달 인공지능(AI) 모델을 공개했다. 드론, 전술차량, 무인체계처럼 제한된 컴퓨팅 환경에서도 영상과 음성, 문서를 실시간 분석할 수 있는 모델을 앞세워 국방 AI 전환 시장을 공략하겠다는 전략이다. 네이버클라우드는 ‘2026 한국군사과학기술학회 종합학술대회’에서 경량 옴니모달 모델 ‘HyperCLOVA X SEED 4B’를 공개하고 국방 AI 활용 사례와 소버린 AI 기반 국방 AX 로드맵을 제시했다고 15일 밝혔다. 현대 전장은 드론 영상, 위성사진, 무전 음성, 작전 문서가 동시에 오가는 환경으로 바뀌고 있다. 텍스트만 이해하는 AI로는 실시간 작전 판단을 지원하기 어렵다. 이미지, 영상, 음성, 문서를 함께 해석하는 옴니모달 AI가 국방 분야 핵심 기술로 떠오르는 배경이다. 하이퍼클로바X 시드 4B는 네이버클라우드가 국방 환경을 겨냥해 자체 개발한 경량 옴니모달 모델이다. 자체 비전 인코더 ‘하이퍼클로바X 클립’과 오디오 인코더를 탑재해 시각·음성 정보를 함께 처리할 수 있다. 한글 문서와 한국적 업무 맥락을 이해하도록 한국향 데이터도 학습했다. 경량화도 핵심이다. 국방 AI는 대형 클라우드뿐 아니라 드론, 전술차량, 해안 감시장비 등 엣지 환경에서도 작동해야 한다. 네이버클라우드는 기존 8B급 백본 모델을 프루닝과 지식 증류 기술로 최적화해 모델 크기를 줄이면서도 성능을 높였다고 설명했다. 이를 통해 제한된 장비에서도 저지연 추론이 가능하도록 했다. 활용 분야는 넓다. 드론과 해안 감시 영상 기반 객체 탐지, 위성사진 변화 분석, 사격장·생활관 위험요소 식별, 군용 장비 자동 인식, 전장 지도 분석 등에 적용할 수 있다. 정보·감시·정찰(ISR) 자동화와 설명 가능한 무인체계, 통합 상황 인식 체계 구축에도 활용 가능성이 있다. 네이버클라우드는 폐쇄망에서 직접 배포·운영할 수 있는 국방 AI 풀스택 전략도 강조했다. 인프라, MLOps, 대형언어모델, AI 에이전트를 외부망 의존 없이 운영해 데이터 주권과 보안성을 확보하겠다는 구상이다. 국방 분야는 높은 자율성과 강력한 통제가 동시에 필요한 만큼 소버린 AI 수요가 가장 뚜렷한 영역으로 꼽힌다. 회사는 올해 국방 AX 기반을 구축하고 다양한 국방 사업에 참여한 뒤 2030년까지 국방 전 영역에 AI 에이전트를 확산한다는 계획이다. 자율형 작전 지원 체계 고도화를 통해 군의 AI 전환을 단계적으로 완성하겠다는 목표다. 이번 공개는 네이버클라우드의 AI 전략이 범용 서비스에서 국방·공공 특화 영역으로 확장되고 있음을 보여준다. 국방 AI의 성패는 모델 성능뿐 아니라 폐쇄망 운영, 보안 검증, 현장 장비 적용성, 한국어 작전 문맥 이해에 달려 있다. 네이버클라우드가 이 네 가지 조건을 실제 군 환경에서 입증한다면 국내 소버린 AI 시장의 중요한 기준점이 될 수 있다.
2026-06-15 10:16:26
-
SK쉴더스 "보안 점검 넘어 실전 검증으로 전환해야"
[경제일보] SK쉴더스가 기업 보안의 기준이 단순 점검에서 실전 검증으로 이동하고 있다고 강조했다. 클라우드와 외부 서비스 연동이 보편화되면서 보안 경계가 흐려진 만큼 실제 공격 상황에서 탐지와 대응 체계가 제대로 작동하는지 확인해야 한다는 설명이다. SK쉴더스는 5월 보안 인사이트를 통해 최근 사이버 보안의 핵심 화두가 ‘점검’이 아닌 ‘검증’으로 바뀌고 있다고 밝혔다. 기존에는 보안 인증 보유 여부나 정기 점검이 주요 기준이었다면, 이제는 실제 침투 시도를 가정한 대응력 검증이 중요해졌다는 것이다. 최근 사이버 공격은 유출 계정 악용, 자동화 공격, 다중 취약점 결합 등으로 정교해지고 있다. 클라우드 도입과 외부 서비스 연동이 늘어나면서 기업이 보호해야 할 공격 표면도 넓어졌다. 이에 따라 “방어벽이 얼마나 견고한가”보다 “공격이 시작됐을 때 얼마나 빨리 탐지하고 대응할 수 있는가”가 더 중요한 기준이 되고 있다. SK쉴더스는 실전 대응력을 높이기 위해 공격 표면 관리, 모의해킹 기반 침투 검증, 탐지·대응 체계 연계를 핵심 요소로 제시했다. 외부에 노출된 서버와 계정 포트 등 공격 가능한 자산을 지속적으로 식별하고, 취약점 점검을 넘어 실제 침투 가능 경로까지 확인해야 한다는 설명이다. 또 발견된 취약점이 보안관제와 사고 대응 체계 안에서 실제로 차단 가능한지도 함께 검증해야 한다. 랜섬웨어 대응 전략도 주요 과제로 언급됐다. SK쉴더스는 랜섬웨어가 더 이상 일부 대기업만의 문제가 아니며, 예방만으로 피해를 막기 어려운 위협이 됐다고 지적했다. 최근 랜섬웨어 공격은 정상 계정 탈취, 원격 데스크톱 프로토콜(RDP) 악용, 공급망 공격 등 다양한 경로로 침투해 장시간 잠복한 뒤 피해를 확대하는 양상을 보이고 있다. 이에 따라 사고 발생 이후 감염 범위를 빠르게 확인하고 내부 확산을 우선 차단하는 대응 체계가 필요하다고 강조했다. 이상 징후가 발견되면 연관 계정과 시스템 범위를 신속하게 식별하고, 원격접속과 계정 권한, 네트워크 이동 경로를 통제해야 한다. 백업만으로는 한계가 있는 만큼 상시 모니터링과 침해사고 대응 체계를 함께 갖춰야 한다는 것이다. 실제 공격자 관점의 보안 검증 방식인 레드팀 전략도 주목할 필요가 있다고 설명했다. 레드팀은 해커의 시각에서 침투와 내부 확산 시나리오를 재현하며 조직의 실질적인 대응 역량을 확인하는 방식이다. 단순 취약점 진단과 달리 피싱, 사회공학 기법, 내부 이동, 권한 상승 등 실제 공격 절차를 반영해 방어 체계의 허점을 찾는 데 초점이 있다. SK쉴더스는 기존 탐지·차단 중심 보안 체계만으로는 고도화된 공격에 충분히 대응하기 어렵다고 봤다. 실제 해커처럼 침투 가능 경로를 사전에 검증하고, 공격 시나리오별 대응 절차가 작동하는지 확인해야 한다는 것이다. 생성형 AI 기반 보안관제 자동화도 새로운 흐름으로 제시됐다. SK쉴더스는 최근 보안관제 환경에서 경보 분류, 조사, 보고 등 반복 업무를 중심으로 AI를 활용하는 사례가 늘고 있다고 설명했다. 다만 AI 산출물은 참고자료나 초안 수준으로 활용하고 최종 판단은 보안 분석가가 검토·확정하는 운영 체계가 필요하다고 강조했다. 이번 인사이트는 기업 보안이 인증 취득이나 정기 점검만으로는 충분하지 않다는 점을 보여준다. 실제 공격자는 기업의 인증 보유 여부와 무관하게 노출된 계정과 취약한 설정, 외부 연동 지점을 노린다. 따라서 보안 조직은 자산 식별부터 침투 검증, 관제 연계, 사고 대응까지 이어지는 실전형 체계를 갖춰야 한다. 향후 기업 보안 투자는 예방 장비 중심에서 검증과 대응 중심으로 이동할 가능성이 크다. 공격 표면 관리, 레드팀, 랜섬웨어 대응 훈련, AI 기반 관제 자동화가 통합적으로 운영될 때 보안 수준을 실제 위험 감소로 연결할 수 있다. 특히 중소·중견기업은 전문 인력과 예산이 제한적인 만큼 외부 보안 전문기업과의 협업을 통해 실전 대응 체계를 보완할 필요가 있다. SK쉴더스측은 “정기 점검만으로 충분한지 다시 봐야 할 때”라며 “공격자 관점에서 침투 가능성과 대응 체계를 함께 검증하는 실전형 보안 검증이 필요한 시점”이라고 전했다.
2026-05-13 11:02:53