2026.07.14 화요일
검색
'청소년 보호' 검색결과
기간검색
-
~
검색영역
검색어
-
뤼튼, 사용자위원회 출범…AI 윤리·안전성 강화 [경제일보] 생성형 인공지능(AI) 서비스 경쟁이 성능 중심에서 안전성과 신뢰 확보로 확대되고 있다. AI가 일상 속 서비스로 빠르게 자리 잡으면서 허위정보와 개인정보 보호, 편향성 등 다양한 사회적 이슈가 부각되자 국내 AI 기업들도 윤리 체계와 거버넌스 강화에 속도를 내는 것으로 풀이된다. 13일 AI 서비스 플랫폼 기업 뤼튼테크놀로지스는 사용자 보호와 서비스 신뢰성 강화를 위한 '사용자위원회'를 지난 10일 공식 출범했다고 밝혔다. 사용자위원회는 AI 서비스 정책과 제품 개발 과정에 외부 전문가의 의견을 반영하기 위해 마련됐다. AI 윤리와 철학, 심리학, 법률 등 다양한 분야 전문가들이 사용자 관점에서 서비스를 점검하고 개선 방향을 제안하는 역할을 맡는다. 이를 통해 기술 중심의 의사결정에서 벗어나 이용자 보호와 신뢰성을 고려한 서비스 운영 체계를 구축한다는 구상이다. 위원장은 이상욱 한양대 철학과 교수가 맡았으며, 선지원 한양대 법학전문대학원 교수, 이윤형 영남대 심리학과 교수, 황혜진 법무법인 디엘지 변호사가 위원으로 참여한다. 각 위원은 AI 윤리와 법·제도, 이용자 심리 등 전문 분야를 바탕으로 서비스 정책과 제품 개발 과정에서 발생할 수 있는 다양한 이슈를 검토하고, 사용자 보호 관점에서 개선 방향을 제시할 예정이다. 최근 생성형 AI 서비스는 빠른 확산과 함께 신뢰성 확보가 핵심 과제로 떠오르고 있다. AI가 생성한 허위정보와 개인정보 보호, 편향성, 청소년 보호 등 다양한 문제가 제기되면서 글로벌 빅테크는 물론 국내 AI 기업들도 자체 안전 기준과 윤리 체계를 강화하고 있다. IT 업계에서는 단순히 모델 성능을 높이는 것을 넘어 이용자가 안심하고 서비스를 사용할 수 있는 환경을 구축하는 것이 경쟁력으로 이어질 것으로 평가하고 있다. 이에 뤼튼은 사용자위원회를 통해 서비스 정책과 제품 개발 전반에 외부 전문가의 시각을 선제적으로 반영하고, 사용자 보호 체계를 한층 강화한다는 방침이다. 특히 AI 윤리와 법률, 심리 등 다양한 분야의 전문성을 바탕으로 이용자 관점에서 서비스를 점검하고, 위원회에서 제시된 의견을 실제 제품과 정책 개선에 적극 반영해 AI 서비스의 신뢰성을 높여 나간다는 계획이다. 뤼튼은 향후 사용자위원회를 정기적으로 운영하며 AI 서비스의 안전성과 신뢰성을 높이기 위한 정책과 제품 개선을 지속 추진할 계획이다. 위원회에서 논의된 의견을 서비스 운영과 기능 개선 과정에 반영하고, 변화하는 AI 환경에 맞춰 이용자 보호 체계도 지속 고도화한다는 방침이다. 이세영 대표는 "뤼튼은 지난 몇 년간 빠르게 성장했지만, 성장의 속도가 붙을수록 '기술의 편리함 뒤에서 놓치고 있는 책임은 없는가'라는 질문이 무거워졌고, 이에 부응해 책임을 다해야 한다고 믿는다"며 "모두가 AI를 자연스럽게 삶의 일부로 사용하는 세상에서, 누구에게나 안전하고 신뢰 가능한 서비스를 지향하고 있다"고 말했다. 이어 "외부 전문가 위원 분들의 소중한 목소리를 경청하고 실제 제품과 정책에 성실히 반영하겠다"고 덧붙였다.2026-07-13 08:19:15
-
카카오·삼성 AI 인재 90명, 무박 2일간 민생 해커톤 첫 개최 [경제일보] 카카오와 삼성전자가 AI 시대 개발 인재 양성을 위해 손잡았다. 양사가 각각 운영해 온 기술 교육 프로그램을 연계해 공동 해커톤을 열고 교육생들이 실제 민생 문제를 AI 기술로 해결하는 실전형 개발 경험을 쌓도록 했다. 카카오는 지난 13일부터 14일까지 경기도 용인 카카오 AI캠퍼스에서 삼성전자와 공동으로 ‘SSAFY X Kakao Tech Bootcamp AI Hackathon’을 개최했다고 15일 밝혔다. 행사는 고용노동부 후원으로 진행됐다. 이번 해커톤은 카카오테크 부트캠프와 삼성 청년 SW·AI 아카데미(SSAFY)를 연계한 첫 공동 행사다. 두 프로그램은 고용노동부 K-디지털 트레이닝 사업을 통해 운영돼 온 대표적인 민관 협력형 디지털 인재 양성 과정이다. 양사는 인재 양성과 취업 지원을 넘어 개발자 생태계 구축으로 협력 범위를 넓히기 위해 이번 행사를 마련했다. 행사에는 양사 교육생 중 사전 예선을 거쳐 선발된 12개 팀, 90여명이 참여했다. 참가자들은 무박 2일 동안 정부가 선정한 ‘AI 민생 10대 프로젝트’를 주제로 서비스 기획과 개발을 진행했다. 주제는 소상공인 지원, 보이스피싱 대응, 아동·청소년 보호, 해양 위험 분석 등 국민 생활과 밀접한 과제로 구성됐다. 참가자들은 각 문제를 선택해 AI 기술을 활용한 해결 방안을 설계하고 실제 서비스 프로토타입으로 구현했다. 이번 행사는 단순 개발 경연에 그치지 않았다. 경찰청, 법무부, 성평등가족부 등 정부 과제 담당 부처 관계자들이 멘토로 참여해 현장의 문제와 정책 수요를 설명했다. 카카오 현업 개발자 특강과 실무 멘토링도 마련돼 참가자들이 기술 구현뿐 아니라 서비스 완성도와 현장 적용성을 함께 고민하도록 했다. 최종 심사를 거쳐 총 5개 팀이 수상했다. 고용노동부 장관상은 ‘골든타임’ 팀이 차지했다. 이 팀은 해상 조난 뒤 통신이 두절된 상황에서도 AI가 사고 현장의 여러 정보를 분석해 해양경찰 구조를 돕는 서비스 ‘DRIFT’를 개발했다. 카카오 대표이사상은 AI 기반 민원 접수·처리 서비스 ‘민담’을 구현한 ‘SSAIKA’ 팀이 받았다. 삼성전자 대표이사상은 ‘언록’, 대한상공회의소 회장상은 ‘땅콩’, 한국전파진흥협회장상은 ‘카벤져스’ 팀이 각각 수상했다. 총상금은 1500만원이다. 이번 협력은 AI 인재 양성의 방향이 강의 중심에서 실전 문제 해결형으로 옮겨가고 있음을 보여준다. 생성형 AI 확산으로 개발자의 역할은 단순 코딩을 넘어 문제 정의, 데이터 활용, 서비스 설계, 협업 능력까지 요구받고 있다. 기업 교육 프로그램이 실제 정부 과제와 연결될수록 교육생들은 현장에서 통하는 개발 경험을 쌓을 수 있다. 카카오는 2022년 고용노동부 K-디지털 트레이닝 디지털 선도 아카데미 운영기관으로 선정된 이후 현재까지 660명의 기술 인재를 양성해왔다. 카카오테크 부트캠프와 SSAFY는 2025년 APEC 고용노동장관회의에서 대한민국 대표 기술 인재 양성 사례로 소개된 바 있다. 권대열 카카오 지속가능경영 총괄리더는 “이번 해커톤은 정부와 기업의 민관협력 우수 교육 사례를 넘어 민간기업 협력을 통해 교육 효과를 극대화한 사례”라며 “실전형 프로젝트와 협업 경험을 확대해 AI 시대에 필요한 인재 성장과 개발자 생태계 발전을 지원하겠다”고 말했다. 한편 AI 인재 경쟁은 기업 한 곳의 채용 문제를 넘어 국가 디지털 경쟁력의 기반이 되고 있다. 카카오와 삼성전자의 첫 공동 해커톤은 교육생에게는 실전 경험을, 기업에는 미래 개발자 생태계와의 접점을 제공했다. 이 협력이 일회성 행사에 그치지 않고 지속적인 공동 교육·프로젝트 모델로 이어질지가 앞으로의 과제다.2026-06-15 14:00:53
-
구글코리아, 가정의 달 맞아 자녀 보호 기능 공개…"안전한 디지털 시민 육성" [경제일보] 구글코리아가 가정의 달 5월을 맞아 어린이·청소년 대상 디지털 안전 기능과 교육 프로그램을 공개하며 자녀 보호 기능 강화에 나섰다. 최근 스마트폰과 동영상 플랫폼 이용 시간이 늘어나면서 미성년자의 무분별한 콘텐츠 노출 우려가 커지는 가운데 단순 콘텐츠 차단을 넘어 보호자 관리 기능과 디지털 리터러시 교육까지 확대하는 모습이다. 11일 구글코리아는 자녀가 보다 안전한 환경에서 디지털 콘텐츠를 탐색하고 학습할 수 있도록 지원하는 다양한 자녀 보호 기능과 교육 리소스를 소개했다고 밝혔다. 최근 생성형 인공지능(AI)과 숏폼 콘텐츠 이용이 급증하면서 청소년 대상 유해 콘텐츠 노출과 과몰입 문제가 사회적 이슈로 떠오르자 플랫폼 차원의 안전 기능 강화에 나선 것으로 풀이된다. 이번 발표에서는 부모가 자녀의 스마트기기 사용 시간과 앱 이용을 직접 관리할 수 있는 기능들이 중점적으로 소개됐다. 구글은 자사의 자녀 보호 앱(애플리케이션) '패밀리 링크'를 활용하면 보호자가 자녀의 스마트폰 사용 시간을 확인하고 일일 사용 제한과 취침 시간 등을 설정할 수 있다고 설명했다. 앱 설치와 인앱 결제 승인 여부도 관리 가능해 자녀의 무분별한 콘텐츠 소비와 결제 위험을 줄일 수 있도록 설계됐다. 유해 콘텐츠 차단 기능도 강화됐다. 구글 검색 서비스의 '세이프서치' 기능은 만 18세 미만 이용자에게 기본 적용되며 성인물과 폭력성 콘텐츠 등을 자동 필터링하거나 흐리게 표시한다. 또한 구글플레이에서는 '키즈 탭'을 통해 전문가 추천 기반 교육용 애플리케이션을 제공하고 연령 적합성과 콘텐츠 정보 등을 함께 안내한다. 유튜브 역시 연령별 맞춤 보호 체계를 운영하고 있다. 만 12세 미만 아동을 위한 별도 서비스인 '유튜브 키즈'를 제공하며 부모 감독 기능이 포함된 어린이 계정과 청소년 보호 기능이 기본 적용된 청소년 계정도 운영 중이다. 특히 유튜브는 최근 숏폼 콘텐츠 과몰입 우려가 커지는 것을 막기 위해 쇼츠 일일 시청 제한 타이머 기능도 도입했다. 청소년 정신 건강과 자존감 보호를 위한 추천 알고리즘 개선 작업도 진행되고 있다. 외모 비교나 특정 신체 이미지 등을 반복적으로 노출하는 콘텐츠 추천을 제한하고 있으며 청소년 이용자에게 부정적 영향을 줄 수 있는 영상 반복 노출도 줄이고 있는 것으로 알려졌다. 구글은 단순 차단 기능을 넘어 디지털 시민 교육도 확대하고 있다. 구글의 무료 디지털 리터러시 교육 프로그램 'Be 인터넷 어썸'은 어린이와 청소년들이 개인정보 보호와 피싱 예방, 안전한 정보 공유 방법 등을 게임형 콘텐츠를 통해 학습할 수 있도록 구성됐다. 플랫폼 사용법뿐 아니라 온라인 환경에서 스스로 안전한 판단을 내릴 수 있도록 돕겠다는 목적으로 진행된다. 최근 글로벌 빅테크 기업들은 청소년 보호 기능 강화 경쟁에 나서고 있다. 유럽연합(EU)과 미국 등을 중심으로 청소년 대상 알고리즘 규제와 플랫폼 책임 강화 논의가 확대되면서 주요 플랫폼 기업들도 자녀 보호 기능과 연령 인증 체계를 지속 강화하는 분위기다. 국내에서도 청소년 스마트폰 과의존과 숏폼 중독 문제가 사회적 이슈로 떠오르면서 플랫폼 사업자의 역할 확대 요구가 커지고 있다. 특히 생성형 AI 기반 콘텐츠가 빠르게 확산되면서 허위 정보와 부적절한 콘텐츠 노출 우려도 함께 증가하고 있는 상황이다. 이에 구글코리아는 향후에도 보호자 대상 안전 기능과 디지털 교육 콘텐츠를 지속 확대해 나간다는 계획이다. 구글코리아 관계자는 "디지털 세상은 풍부한 학습의 기회를 제공하는 만큼, 아이들이 올바른 '디지털 시민'으로 자라나도록 이끄는 것이 중요하다"며 "구글은 부모님들이 안심하고 기술의 혜택을 누릴 수 있도록 앞으로도 더 나은 안전 도구를 제공하기 위해 노력할 것"이라고 말했다.2026-05-11 15:43:03
-
유튜브, 아동·청소년 이용 환경 개선 나선다…아동·청소년 보호 기능 업데이트 [이코노믹데일리] 유튜브는 부모가 자녀의 유튜브 이용 환경을 보다 손쉽게 맞춤 설정할 수 있도록 돕는 데 초점을 맞춘 아동 및 청소년을 위한 보호 기능 업데이트를 진행했다고 15일 밝혔다. 이번 업데이트를 통해 부모는 자녀의 쇼츠 시청 시간을 직접 설정하고 관리할 수 있게 된다. 쇼츠 시청 시간 관리 기능 강화, 청소년용 고품질 콘텐츠 가이드라인 도입, 자녀 계정 가입 및 전환 환경 개선 등을 포함하는 것으로 알려졌다. 특히 업계 최초로 쇼츠 피드 타이머를 '0'으로 설정할 수 있는 기능을 도입해 상황에 따라 보다 유연한 이용 시간 조정이 가능해졌다. 또한 '감독 대상 계정'을 사용하는 부모는 기존 청소년 디지털 웰빙 기능을 기반으로 자녀의 취침 및 휴식 시간 알림을 맞춤 설정할 수 있다. 해당 기능들은 한국을 포함한 전 세계에 걸쳐 수주 내 순차적으로 적용될 예정이다. 청소년이 연령에 적합하고 유익한 콘텐츠를 접할 수 있도록 돕는 크리에이터 가이드라인도 새롭게 도입된다. 이번 가이드라인은 유튜브의 '아동 및 가족 자문 위원회'와 미국 캘리포니아대학교 로스앤젤레스(UCLA) 산하 '연구자 및 스토리텔러 센터'가 협력해 개발했으며 미국심리학회, 보스턴 아동병원 '디지털 웰니스 랩', 유니세프 한국위원회 등 글로벌 전문 기관의 검토를 거쳤다. 이를 통해 청소년 시청자에게 적합한 고품질 콘텐츠와 지양해야 할 저품질 콘텐츠의 기준을 보다 명확히 제시할 것으로 전망된다. 유튜브는 해당 가이드라인을 추천 시스템에도 적용해 탐구 정신과 영감을 자극하는 콘텐츠, 관심사와 사고의 지평 확장에 도움이 되는 콘텐츠, 일상생활의 요구와 도전에 효과적으로 대응할 수 있도록 돕는 콘텐츠 등이 청소년에게 보다 자주 노출되도록 할 방침이다. 또한 계정 설정 기능도 개선된다. 부모는 자녀용 신규 계정을 생성해 관리할 수 있으며, 모바일 앱에서 자녀용 계정으로의 전환도 보다 간편해진다. 이를 통해 부모의 감독 하에 자녀가 연령대에 최적화된 콘텐츠를 보다 편리하게 시청하게 될 예정이다. 유튜브는 지난 10여 년간 부모와 전문가 의견을 반영해 아동 및 청소년 보호를 위한 관리 기능과 안전 정책을 지속적으로 강화해 왔다. 18세 미만 이용자를 대상으로 보호 계정을 제공하고 부모가 자녀의 시청 환경을 직접 설정할 수 있는 다양한 도구를 마련해 왔다고 설명했다. 제니퍼 플래너리 오코너 유튜브 프로덕트 매니지먼트 부문 VP는 "유튜브는 아이들을 디지털 환경으로부터 격리하는 것이 아니라 디지털 환경 속에서 보호하는 것이 중요하다고 믿는다"고 말했다. 가스 그레이엄 유튜브 건강 및 공중보건 총괄 박사는 "유튜브는 유튜브를 시청하는 가족과 함께 성장하며 차세대 이용자들이 안전하고 유익한 공간에서 신뢰할 수 있는 정보를 탐색할 수 있도록 최선을 다하겠다"고 말했다.2026-01-15 14:44:51
-
전 세계로 번진 xAI '그록' 딥페이크 논란…美 캘리포니아 조사 착수 [이코노믹데일리] 일론 머스크가 이끄는 xAI의 인공지능 모델 '그록'을 둘러싼 논란이 전 세계로 확산되고 있다. 단순한 기술 경쟁을 넘어 발언 수위와 안전성, 데이터 활용 방식, 법적 책임 문제까지 겹치며 각국 정부와 사법 당국이 동시에 대응에 나서는 양상이다. 14일(현지시간) 롭 본타 캘리포니아주 법무장관은 "AI 모델 그록을 이용해 제작된 성적으로 노골적인 이미지 확산에 대한 조사를 개시한다"며 그록의 성적 이미지 생성 논란에 대한 조사에 나섰다. 이어 그는 "xAI가 소셜미디어 플랫폼 엑스(X·옛 트위터)를 포함한 인터넷 전반에서 여성과 소녀들을 괴롭히는 데 사용되는 대규모 딥페이크 이미지 제작을 가능하게 하는 것으로 보인다"며 "최근 몇 주간 이런 이미지들에 대한 폭로가 쏟아지고 있는 상황은 충격적"이라고 강조했다. 그록은 X와 연동된 대화형 AI로, 실시간성에 가까운 데이터 접근과 직설적인 응답 스타일을 강점으로 내세웠다. 그러나 이 같은 특징은 곧바로 논란으로 이어졌다. 일부 국가와 지역에서 정치적 민감 사안, 폭력적 표현, 허위 정보에 가까운 답변이 노출되며 AI 안전성 논쟁의 중심에 섰다. 한국 정부도 이번 문제에 민감한 반응을 보였다. 방송미디어통신위원회는 14일 소셜 플랫폼 X에 공문을 보내며 안전장치 마련, 청소년 접근 제한, 관리 조치 등을 요청하며 경고에 나섰다. 또한 정부는 학습 데이터의 출처, 유해 콘텐츠 차단 기준, 국내 이용자 대상 서비스 제공 시 책임 구조 등에 대한 설명과 개선을 요청한 것으로 알려졌다. 김종철 방미통위원장은 "새롭게 도입되는 신기술이 건전하고 안전하게 발전하는 데 도움이 되도록 적극 지원하겠다"며 "AI 서비스 제공자를 대상으로 성범죄물 등 불법정보 유통 방지 및 청소년 보호 의무를 부과하는 제도 개선을 추진하겠다"고 말했다. 동남아시아에서도 파장이 컸다. 인도네시아에서는 그록이 종교·사회적으로 민감한 주제에 대해 부적절하거나 편향된 답변을 내놓았다는 지적이 제기되며, 정부 차원의 검토가 이뤄졌다. 인도네시아 당국은 해외 AI 모델이 자국 내 사회적 갈등을 증폭시킬 가능성을 우려하며 콘텐츠 관리 체계와 현지 법규 준수 여부를 점검한 것으로 알려졌다. 일부에서는 서비스 제한이나 규제 가능성까지 거론된다. 기술적 논란도 여전히 현재진행형이다. 일부 전문가들은 그록의 응답 패턴과 결과물이 기존 대형언어모델과 유사하다는 점을 들어 학습 과정의 투명성을 요구하고 있다. 이에 대해 xAI는 독자적인 모델 설계와 학습 방식을 강조하고 있지만 외부 검증 요구는 쉽게 가라앉지 않는 분위기다. 업계에서는 그록 논란을 특정 모델의 일탈이 아니라 차세대 AI 경쟁이 맞닥뜨린 구조적 문제로 해석하는 시각이 많다. 실시간 데이터와 결합된 AI가 확산될수록, 성능보다 안전성과 규제 대응 능력이 핵심 경쟁력이 되고 있기 때문이다. 국가와 지역별로 다른 법·문화적 기준을 어떻게 반영할지도 주요 과제로 떠오르고 있다. 이번 논란에 대해 일론 머스크 X 대표는 자신의 X 계정 게시물에 "나는 그록이 생성한 미성년자 노출 이미지에 대해 전혀 알지 못한다"며 "말 그대로 '제로'"라고 강조했다. 이어 "분명히 그록은 스스로 이미지를 생성하지 않으며 오직 사용자 요청에 따라 생성한다"며 "이미지 생성을 요청받을 때 그록은 해당 국가나 주(州)의 법률을 준수하는 운영 원칙에 따라 어떤 불법적인 것도 생성하기를 거부할 것"이라고 설명했다.2026-01-15 07:53:55
많이 본 뉴스
영상
Youtube 바로가기
![[사설] 800조 수퍼 재정, 미래를 위한 투자인가 미래를 담보 잡는 도박인가](https://image.ajunews.com/content/image/2026/07/14/20260714122102289150_518_323.jpg)