2026.07.14 화요일
검색
'플랫폼책임' 검색결과
기간검색
-
~
검색영역
검색어
-
네이버 'AI 클린봇 3.0' 가동…기사 맥락 읽어 2차 가해 차단 [경제일보] 네이버(대표 최수연)가 인공지능(AI)을 활용한 악성 댓글과의 전쟁을 새로운 국면으로 이끌고 있다. 단순히 욕설이나 비속어를 거르는 수준을 넘어 기사 본문의 맥락까지 파악해 2차 가해와 생명 경시성 댓글을 집중 차단하는 'AI 클린봇 3.0'을 29일 공개했다. 기술의 방패로 인간의 존엄성을 지키려는 포털의 노력이 한층 더 정교해졌다. 이번 업그레이드의 핵심은 맥락 이해다. 기존 클린봇이 댓글 자체의 단어나 문장에 집중했다면 3.0 버전은 댓글 내용과 함께 기사의 제목과 본문을 종합적으로 분석한다. 같은 단어라도 기사의 맥락에 따라 그 의미와 악의성이 완전히 달라질 수 있다는 점에 착안한 것이다. 예를 들어 사회적 참사 관련 기사에 달린 조롱성 댓글이나 자살 관련 기사에서 생명 경시를 조장하는 표현을 AI가 기사 내용과 연관 지어 탐지하고 차단한다. 이는 악성 댓글이 갈수록 교묘해지는 현실에 대응하기 위한 필연적 진화다. 단순히 욕설이나 키워드를 차단하는 방식은 기호나 신조어를 활용한 우회 악플 앞에 한계를 보였다. 2019년 처음 등장한 AI 클린봇이 키워드 기반 탐지에서 시작해 2020년 문장 맥락 분석으로 발전했고 이제는 기사 전체의 맥락을 읽는 수준까지 고도화됐다. 네이버의 이번 조치는 기술적 노력에만 그치지 않는다. 이미 정치 선거 기사의 댓글을 제공하지 않고 악성 댓글이 일정 기준을 넘는 기사의 댓글창을 자동 비활성화하는 등 정책적 수단을 병행해왔다. 여기에 한국인터넷자율정책기구(KISO)의 혐오표현 가이드라인을 반영하는 등 사회적 합의를 기술에 녹여내려는 시도도 계속되고 있다. 김수향 네이버 리더는 "네이버는 욕설 비속어는 물론 새롭게 생긴 혐오 비하 차별 표현을 탐지하기 위해 클린봇 성능을 지속 강화하고 있다"며 "생명 경시 조장과 피해자 유족 조롱 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정"이라고 밝혔다. 한편 이것이 악성 댓글과의 전쟁에서 완전한 승리를 의미하지는 않는다. 기술의 방패가 정교해질수록 악의의 창은 더 날카로운 방식으로 허점을 파고들기 마련이다. 하지만 중요한 것은 방향성이다. 표현의 자유라는 가치 뒤에 숨어 타인의 고통을 즐기고 상처를 후벼 파는 행위를 더 이상 방치하지 않겠다는 플랫폼의 의지가 기술로 구현되고 있다는 점이다. 기술이 인간의 악의를 완전히 근절할 수는 없겠지만 최소한의 안전망을 제공하고 공동체의 건강성을 지키는 역할은 수행할 수 있다. 이번 AI 클린봇 3.0은 그 가능성을 보여주는 또 하나의 의미 있는 진보로 평가된다.2026-04-29 11:14:59
-
'안심'이라던 안전결제마저 '먹통'… 1조원대 중고거래 사기, 플랫폼은 '나 몰라라' [경제일보] 중고 거래 플랫폼 시장이 급성장하면서 관련 소비자 피해가 봇물 터지듯 쏟아지고 있다. 특히 사기 예방을 위해 도입된 ‘안전 결제’ 시스템마저 허점을 드러내며 이용자와 플랫폼 간의 서비스 책임 공방으로 양상이 변하고 있다. 시장 규모는 눈덩이처럼 불어나고 있지만 플랫폼의 대응은 여전히 미흡하다는 지적이 나온다. 7일 국회 정무위원회 이양수 의원이 한국소비자원으로부터 제출받은 자료에 따르면 지난해 주요 플랫폼(당근마켓·번개장터·중고나라)을 대상으로 한 피해구제 신청은 175건으로, 3년 전(18건) 대비 10배 가까이 폭증했다. 과거 개인 간 ‘직거래 사기’에 국한됐던 피해 유형이, 최근에는 플랫폼의 안전 결제 시스템을 이용하고도 대금을 돌려받지 못하는 새로운 형태로 진화하고 있다. 실제로 120만원 상당의 피규어를 안전 결제로 구매한 한 이용자는 판매자로부터 “정산이 보류됐다”는 말을 듣고 상품을 반품했으나 정작 자신이 지불한 돈은 돌려받지 못하는 황당한 일을 겪었다. 이는 판매자가 허위로 정산 보류를 주장하며 물건만 가로채는 신종 사기 수법으로 플랫폼의 분쟁 조정 시스템이 제대로 작동하지 않고 있음을 방증한다. 경찰청 자료에 따르면 지난해 직거래 사기 피해액은 8741억원으로 전년 대비 3배 이상 폭증하며 1조원 시대를 눈앞에 뒀다. 시장 규모가 커질수록 사기 수법은 더욱 교묘해지고 있지만 플랫폼들은 여전히 ‘개인 간 거래 중개자’라는 입장 뒤에 숨어 책임을 회피하고 있다는 비판을 피하기 어렵다. 이양수 의원은 “중고 거래 시장이 급성장하고 있음에도 소비자를 보호할 안전망은 사실상 방치된 상태”라며 “플랫폼이 책임을 회피하지 못하도록 실질적인 대책을 마련해야 한다”고 강조했다. 전문가들은 현재의 중고 거래 플랫폼이 가진 ‘구조적 한계’를 지적한다. 대부분의 플랫폼은 통신판매중개업자로 등록되어 있어 거래 과정에서 발생하는 문제에 대한 법적 책임이 제한적이다. 결제 대금을 보관하는 ‘에스크로’ 역할을 수행하면서도 분쟁 발생 시에는 ‘당사자 간 해결’을 원칙으로 내세우는 ‘책임의 공백’이 존재하는 것이다. 해외 사례와 비교하면 이러한 차이는 더욱 명확하다. 미국의 이베이(eBay)나 일본의 메루카리(Mercari) 등 글로벌 플랫폼들은 정교한 분쟁 조정 프로그램과 자체 보상 시스템을 통해 사기 피해를 최소화하고 있다. 특히 가짜 안전 결제 페이지로 유도하는 외부 링크 차단 기술이나 AI 기반의 사기 거래 패턴 분석 시스템을 고도화하여 예방에 주력한다. 결국 해법은 ‘플랫폼의 법적 책임 강화’와 ‘기술적 안전망 구축’이라는 두 가지 축으로 모아진다. 정부와 국회는 플랫폼이 단순 중개자를 넘어 거래 안전을 보장하는 ‘준(準)금융기관’으로서의 책임을 지도록 법적 근거를 마련해야 한다. 피해 발생 시 플랫폼의 보상 책임을 명확히 규정하고 분쟁 조정 절차를 의무화하는 것이 시급하다. 아울러 플랫폼 스스로 AI 기술을 활용해 사기 거래를 선제적으로 차단하는 노력을 기울여야 한다. 사기 이력이 있는 계정을 차단하고 의심스러운 거래 패턴을 실시간으로 감지하며 외부 링크를 통한 결제 유도를 원천적으로 막는 기술적 투자가 이루어져야 한다. 마지막으로 중고 거래는 단순한 물건 거래를 넘어 자원의 순환과 합리적 소비를 실천하는 중요한 사회적 행위다. 1조원에 육박하는 사기 시장을 이대로 방치한다면 어렵게 쌓아 올린 중고 거래 생태계 전체가 붕괴될 수 있다. 이제는 플랫폼 기업들이 사회적 책임을 통감하고 소비자들이 ‘안심’하고 거래할 수 있는 투명한 시스템을 구축하는 데 사활을 걸어야 할 때다.2026-04-07 07:44:58
-
"장애 나면 끝" 글로벌 빅테크의 '깜깜이 보상'…국내법 실효성 논란 [이코노믹데일리] 글로벌 최대 동영상 플랫폼 유튜브가 설 연휴 마지막 날인 지난 18일 오전, 2시간가량 전 세계적인 서비스 장애를 일으켜 이용자들이 큰 불편을 겪었다. 하지만 현행법의 '4시간 연속 장애' 기준에 미치지 못해 1000만명이 넘는 국내 유료 가입자들에 대한 실질적인 피해보상은 어려울 것으로 보여 '플랫폼 책임론'이 다시 불거지고 있다. 19일 유튜브와 업계에 따르면 지난 18일 오전 10시 3분경부터 유튜브 홈페이지와 모바일 앱, 유튜브 뮤직 등에서 추천 시스템 오류로 영상이 표시되지 않는 장애가 발생했다. '문제가 발생했습니다'라는 문구만 노출된 채 서비스가 마비됐으며 오전 11시 7분경 일부 복구를 시작해 정오 무렵에야 완전 정상화됐다. ◆ '4시간의 벽'에 막힌 손해배상…약관도 '애매모호' 이번 장애로 가장 큰 피해를 본 것은 월 이용료를 내는 '유튜브 프리미엄' 구독자들이다. 현행 전기통신사업법은 부가통신사업자가 4시간 이상 서비스를 중단할 경우 장애 시간의 10배에 해당하는 금액을 배상하도록 규정하고 있다. 그러나 이번 장애는 약 2시간 만에 복구돼 법적 배상 기준에는 미치지 못한다. 유튜브 자체 약관 역시 보상을 장담하기 어렵다. 약관에는 '구글의 귀책 사유로 서비스 이용이 불가능해진 경우 이용 기간 연장이나 환불이 가능하다'고 명시돼 있지만, 이번 장애가 전면 중단이 아닌 '부분 장애'였고 단시간에 복구됐다는 점에서 실제 보상으로 이어질지는 미지수다. 지난해 10월에도 약 1시간의 장애가 있었지만 별도의 일괄 보상은 없었다. 전문가들은 이번 사태가 유튜브와 같은 글로벌 빅테크의 사회적 책임을 강화해야 한다는 논의에 불을 지필 것으로 보고 있다. 2026년 현재 유튜브는 단순한 동영상 서비스를 넘어 뉴스, 교육, 경제 활동이 이뤄지는 사회 핵심 인프라로 자리 잡았다. 그럼에도 불구하고 장애 발생 시 이용자 피해 구제에는 소극적인 태도를 보여왔다. 특히 무료 이용자의 경우 '서비스 연속성을 보장하지 않는다'는 약관을 근거로 어떠한 보상 책임도 지지 않는다. 법조계와 시민단체에서는 현행 '4시간' 기준이 급변하는 디지털 환경을 제대로 반영하지 못한다고 지적한다. 1시간만 마비돼도 막대한 사회·경제적 혼란이 발생하는 플랫폼의 영향력을 고려해 장애 시간 기준을 단축하고 '부분 장애'에 대한 보상 근거도 명확히 해야 한다는 목소리가 높다. ◆ 정부 보고는 '성실'…이용자 고지는 '소극' 한편 유튜브는 이번 사태에서 정부에 대한 보고 의무는 대부분 준수한 것으로 파악됐다. 방송통신발전기본법에 따라 장애 발생 30여분 만인 오전 10시 35분경 과학기술정보통신부에 최초 보고를 했고 이후 15분 간격으로 상황을 공유했다. 하지만 이용자에 대한 고지는 공식 SNS와 고객센터 공지에 그쳐 실제 서비스를 이용하는 대다수 이용자는 영문도 모른 채 불편을 겪어야 했다. 업계 관계자는 "유튜브가 국내에서 막대한 수익을 올리면서도 서버 장애에 대한 책임은 회피하는 이중적인 태도를 보이고 있다"며 "향후 국회에서 논의될 플랫폼 규제 법안에서 이용자 보호와 손해배상 책임 강화가 핵심 쟁점이 될 것"이라고 전망했다.2026-02-19 07:51:51
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 환율 안정에 안주할 때 아니다…외환 방어력 키울 골든 타임이다](https://image.ajunews.com/content/image/2026/07/13/20260713092838404021_518_323.jpg)