'딥페이크' 기술이 가짜뉴스를 넘어 성범죄에 악용되면서 온 나라가 충격에 빠졌다.
지인 등의 사진을 기반으로 불법 합성된 음란물이 대학가에서 시작돼 군대와 전국 중고등학교까지 파고들면서 일부 집단의 일탈을 뛰어넘은 사회와 민생 문제로 번진 상황이다. 수년 전 텔레그램 n번방 사건으로 들썩였는데, 이번에는 AI(인공지능)까지 결합되면서 일파만파로 커지고 있다.
AI의 그림자
'딥 러닝'(컴퓨터가 스스로 외부 데이터를 조합, 분석해 심층적으로 학습하는 기술)과 가짜를 뜻하는 '페이크'를 합친 단어인 '딥페이크'는 시대의 화두라 할 수 있는 생성형 AI 산업 발전 단계에서 파생됐고 반드시 극복해야 할 '그림자'이자 부작용이라 할 수 있다.
그동안 사회적 유명인의 얼굴과 목소리를 거의 실제처럼 모방, 가짜뉴스로 활용되거나 혹은 여성 연예인의 사진을 음란물에 합성해 유포되는 문제에 한정됐지만 이제는 일반인이나 심지어 미성년 학생들까지 무작위로 피해자가 되면서 그 심각성은 현재 암암리에 각계각층에 침투한 마약 문제 이상이라는 지적이다.
28일 여성가족부 산하 한국여성인권진흥원에 따르면 올 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터로부터 딥페이크 피해 지원을 요청한 781명 가운데 36.9%(288명)가 10대 이하라는 것에서도 나타나 있다. 지난 2022년 64명에서 2년만에 4.5배로 폭증했다. 이는 이 연령층이 다른 세대에 비해 SNS 등을 이용한 온라인 소통과 관계 형성에 익숙하기 때문인데, 이로 인해 SNS에 올린 많은 사진과 동영상들이 음란물에 악용되는 비율이 비례적으로 더 높아진 상황이다.
ICT 업계도 파장 주시
이는 당연히 SNS에 대한 공포와 거부감으로 이어질 수 밖에 없다.
실제로 SNS를 수익 활동 플랫폼으로 활용하는 많은 사진 작가와 모델들이 게시물을 직접 삭제하거나 비공개로 처리하는 일이 벌어지고 있다. 인스타그램 등에는 인물 사진을 삭제하거나 혹은 알아보기 힘들게 흐리게 처리하겠다는 게시글들도 올라오고 있다. 수익에 직접적인 타격이 예상되지만, 불특정 일반인들의 사진까지 악용되는 상황에선 어쩔 수 없는 선택이라 할 수 있다.
일반인들 역시 마찬가지다. 또래들처럼 인스타그램을 적극 활용하고 있는 20대 여성 정모씨는 "주변인들과의 소소한 친목을 위해 SNS를 활용하고 있는데, 보통 사람들의 일상까지 위협받는 것 같아 너무 화가 난다. 또 지인들의 사진도 악용된다고 하니 전체 비공개로 할지, SNS를 당분간 접어야할지 고민스럽다"고 말했다.
업계도 이번 사태를 예의주시 하고 있다. 특히 메신저 서비스 회사들의 경우 그동안 스팸 문자 메시지나 유명인을 빙자한 SNS 불법 광고, 피싱 범죄 등을 예방하기 위해 다양한 기능을 탑재하고 계정 정지를 비롯해 강력한 제재를 하고 있는데 이제는 AI 기술 등을 악용한 각종 음란물 유포도 적극 막아야 하는 지난한 싸움을 펼쳐야 하기 때문이다. AI 개발 및 서비스 회사들 역시 글로벌 규범과 윤리 확립과 함께 음란물과 가짜뉴스 생성, '환각 현상'(방대한 학습 내용 중 비슷한 부분을 짜깁기해서 잘못된 정보를 주는 것) 등을 어떻게 통제하거나 최소화시킬지가 필수적인 고민이다.
이번 사태와 관련 방송통신심의위원회도 28일 긴급 전체 회의를 소집해 국내 주요 포털사이트는 물론 텔레그램, 페이스북, 엑스(X), 인스타그램, 유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하고 신속한 영상 삭제 차단 조치와 자율적인 규제를 강력히 요청하겠다고 밝혔다. 다만 대다수가 글로벌 사업자들인데다, 국내에 만들어진 지사들이 얼만큼 본사의 협력을 이끌어낼 수 있을지는 미지수다. 글로벌 단위의 공조가 절실한 상황이다.
섣부른 테마주 투자는 경계해야
이번 사태로 인해 주식 시장에선 당연히 정보 보안 관련주가 '테마'라 할 수 있다. 이미 올해 초에도 국내는 물론 미국에서도 대통령 선거와 관련해 딥페이크 선거 운동을 규제하기 위한 법안이 발의되면서 이미 보안 관련 회사가 강세를 보였는데, 이번에도 또 다시 주목받고 있다.
한빛소프트와 샌즈랩이 27일 상한가를 찍은데 이어 28일에도 20% 이상 급등하기도 했고, AI 얼굴인식 전문기업인 씨유박스 역시 27일 상한가를 찍었다가 8.96% 하락해 장을 마치는 등 급등락 장세가 연출되고 있다.
업계 전문가는 "이번 사태가 국가적인 이슈가 됐기에 정보 관련 산업군에 대한 관심이 증폭되고 주가에도 영향을 미치는 것은 당연하다"면서도 "결국 단기간에 해결될 수 있는 일이 아니기에, 관련한 기술력과 함께 사업 참여 여부 등도 면밀하게 살핀 후 투자해야 한다"고 말했다.
남정석 기자 bluesky@sportschosun.com
