딥페이크·성착취 유포 시 카톡 전면 차단…반복시 계정차단
[하비엔뉴스 = 이동훈 기자] 카카오가 아동·청소년 대상 성착취 유도, 사이버 도박, 극단주의 선동 등 불법·유해 행위에 대한 제재를 대폭 강화하며 ‘디지털 사회 정화’에 본격 나섰다. ‘카카오톡’의 사회적 책임을 반영한 이번 조치는 온라인 플랫폼이 공공안전과 사회적 윤리를 수호하는 수단이 될 수 있음을 보여주는 사례로 주목받는다.
17일 생활법령정보에 따르면 2024년 디지털 성범죄 신고가 1만6833건에 이른다. 이 가운데 불법 촬영이 4182건(25%), 합성·편집물이 1384건(8%), 유포 불안이 4358건(26%)을 각각 차지했다.
 |
| 카카오 [사진=연합뉴스] |
이처럼 AI 등 첨단 기술이 활용된 디지털 성범죄가 심각한 사회 문제로 부상하고 있다. 특히 딥페이크 기술을 이용한 성적 합성물 제작·유포가 급증하며, 10~20대 여성들이 집중적인 피해를 입고 있다.
딥페이크 성범죄는 영상 속 인물의 동의 여부와 관계없이 제작되며, 유포 이후의 회수가 거의 불가능하다는 점에서 피해자에게 극심한 공포와 수치심을 안긴다.
정부가 딥페이크 영상의 제작·유포·소지 행위 자체를 형사처벌할 수 있도록 관련 법령을 개정했지만, 실효성 있는 대응에는 여전히 한계가 있다는 목소리가 나온다.
딥페이크 성범죄는 AI 기술 발전과 함께 더욱 정교화되고 있다. 전문가들은 법적 대응 뿐 아니라 기술적 탐지 시스템, 국제 공조, 그리고 디지털 성인지 교육이 함께 이뤄져야 한다고 강조한다.
사이버 성범죄는 주로 유튜브 등 온라인 플랫폼을 통해 이뤄지는 만큼, 플랫폼을 통한 유포 이전의 조기 대응과 예방 교육이 사회 전반의 과제로 부상하고 있다.
이런 가운데 국내 대표 플랫폼 기업인 카카오가 디지털 성범죄 근절을 위한 플랫폼 차원의 정화 조치에 나서 관심을 모으고 있다.
카카오는 최근 아동·청소년 대상 성착취 유도 대화, 딥페이크 영상 유포, 사이버 도박 등 불법·유해 행위에 대한 무관용 제재 방침을 공식화하고, 카카오톡을 포함한 자사 서비스 전반에 걸쳐 운영정책을 대폭 강화했다.
또한 성매매 유도 행위 금지, 극단주의 선동 및 테러 정보 유포 금지, 불법 채권 추심 행위 차단 등 총체적인 대응 체계를 담고 있다.
아동·청소년을 대상으로 한 디지털 성범죄의 경우, 신고를 통해 사실이 확인되면 해당 이용자는 카카오톡 전체 서비스를 영구적으로 이용할 수 없게 된다. 정책 위반 이력이 있는 경우 재가입을 하더라도 오픈채팅 이용이 제한되며, 반복 위반 시 계정 전체가 차단된다.
카카오는 이번 조치가 단순한 내부 방침 변경이 아닌, 글로벌 수준의 ESG(환경·사회·지배구조) 기준에 부합하는 플랫폼 책임 강화 차원이라고 설명했다.
회사 관계자는 “구글, 메타 등 해외 주요 플랫폼들도 유사한 기준을 적용하고 있으며, 국내에서도 이용자 보호와 공익 실현을 위해 마땅히 추진해야 할 조치”라고 확언했다.
극단주의 테러 조직에 대한 제재도 강화된다. 카카오는 테러조직을 노골적으로 지지하거나, 그 활동을 정당화·선동하는 발언에 대해 명확한 제재 기준을 적용한다.
국제기구가 테러단체로 분류한 알카에다, 탈레반, 하마스 등 사례가 내부 기준에 참고된 것으로 알려졌다.
다만, 카카오는 ‘사전 검열’ 우려에 대해서는 명확히 선을 그었다. 모든 제재는 이용자 신고를 기반으로 한 ‘사후 대응’ 방식으로 이뤄지며, 대화 내용은 암호화되어 있어 기술적으로도 사전 열람이 불가능하다는 입장이다.
카카오 관계자는 하비엔뉴스와의 통화에서 “대화 내용은 최대 2~3일간 데이터 처리 목적에 한해 암호화된 상태로 보관되며, 이후 자동 삭제된다”며 “정치적 표현이나 사적 대화를 검열한다는 주장은 명백한 오해”라고 강조했다.
일각에서는 이러한 조치가 일각에서 반발을 부르거나 보안 위협으로 이어질 수 있다는 우려도 제기된다. 이에 대해 카카오 측은 “플랫폼으로서 책임 있는 대응은 당연한 의무”라는 입장을 내비쳤다.
전문가들은 “플랫폼이 자체 감시와 대응 역량을 키우고, 불법 콘텐츠 유통의 온상이 되지 않도록 관리하는 것이 매우 중요하다”며, “이번 카카오의 정책 강화는 민간 영역에서의 책임 있는 선례가 될 수 있다”고 평가했다.
[저작권자ⓒ HBN뉴스. 무단전재-재배포 금지]
