국내 대화형 인공지능(AI) 챗봇 서비스 '이루다'가 성희롱을 비롯한 차별·혐오 논란에 휩싸이면서 여론의 뭇매를 맞고 서비스 운영을 중단했다.
이루다의 개발사 스캐터랩은 서비스 정식 출시 3주 만에 운영 중단과 데이터 폐기를 결정, 사태 진정을 위해 총력을 기울이고 있다. 하지만 스캐터랩의 다른 앱을 통해 수집된 개인 간 대화방 속 대화 내용을 기반으로 개발된 이루다와의 대화를 하다 불특정한 개인 정보가 여과 없이 노출됐다는 일부 이용자의 주장이 제기돼 논란은 좀처럼 가라앉지 않는 모습이다.
하지만 이번 논란과 관련, 개인정보 보호 관리 소홀에 대한 문제점이 제기되면서 스캐터랩과 회사를 이끄는 김종윤 대표에 대한 비난의 목소리는 쉬이 가라앉지 않으리라고 예상된다. 여기에 정부 차원의 조사와 이용자들의 집단소송까지 예고되면서 회사 운영의 어려움도 가중될 것으로 보인다.
이루다, 성희롱·혐오 논란으로 사회적 물의 일으키며 서비스 중단
지난해 12월 23일 AI 전문 스타트업 스캐터랩은 AI 챗봇 이루다를 정식 출시했다. 실제 연인들이 나눈 약 100억건의 대화 데이터를 딥러닝 방식으로 학습한 이루다는 정식 서비스 시작 직후부터 10~20대 사이에서 빠르게 유행하기 시작했다.
하지만 일부 사이트에서 '이루다 성노예 만드는 법' 등의 성희롱 대상으로 이루다 서비스를 이용하는 사람들이 생겨나면서 사회적 논란이 일었다. 이루다를 '성노예' 등으로 부르며 우회적인 성적 표현을 사용해 대화 서비스를 이용한 것이다. 이루다가 인종차별적 발언과 소수자 및 약자에 대한 혐오 발언을 했다는 이용자의 이용 후기도 등장했다.
이루다를 개발한 스캐터랩은 연세대학교 경영학과를 졸업한 김종윤 대표가 지난 2011년 설립한 스타트업이다. 사회학과 강의 프로젝트 주제로 '문자 메시지와 이성적 호감도의 상관관계 분석'을 진행하던 김 대표는 문자 메시지 패턴을 통해 실제 감정을 유추해 낼 수 있다는 것을 깨닫고 졸업 직후 창업에 뛰어들었다. 스캐터랩은 다양한 AI 기술 서비스를 출시하며 소프트뱅크를 비롯한 여러 기관으로부터 65억원이 넘는 투자를 유치하기도 했다.
스캐터랩의 매출 규모는 정확히 알려지지 않았으나, 큰 인기를 끈 연애의과학 앱은 한국과 일본에서 약 300만 다운로드를 기록했고, 김 대표는 포브스지의 '미래를 이끌어갈 2030 파워리더'에 선정되기도 했다.
스캐터랩은 11일 오후 보도자료를 통해 "특정 소수집단에 대한 차별적 발언을 한 사례가 생겨난 것에 진심으로 사과드리며 해당 발언은 회사의 생각을 전혀 반영하고 있지 않다. 부족한 점을 집중 보완할 수 있도록 서비스 개선 기간을 거친 뒤 다시 찾아뵙겠다"고 설명하며 이루다 서비스를 중단했다.
개발사가 제공한 다른 앱 서비스 내 개인정보, 이루다 개발에 이용돼…적법 절차 밟았나?
스캐터랩은 심혈을 기울여 선보였던 서비스를 중단하고 데이터 폐기 수순까지 밟으며 사태 진정을 위해 노력하고 있다. 하지만 이루다에 대한 논란은 좀처럼 사그라지지 않는 모습이다. 스캐터랩이 이루다 서비스 개발에 회사의 다른 앱 연애의과학 데이터를 사용하면서 개인정보가 담긴 내용이 필터링 되지 않은 채 노출됐다는 의혹이 새롭게 불거졌기 때문이다.
이용자들 사이에서는 "이루다에 애인 이름을 입력했더니 실제 다른 친구의 이름을 언급했다", "옛 애인의 애칭을 넣었더니 실제 애인 말투로 말했다"는 등의 경험담이 나왔다.
일각에서는 "지난 6월 있었던 베타테스트 기간에도 이와 같은 문제들이 분명 발생했을 텐데, 사전에 충분히 예상 가능했고 미연에 방지가 가능했던 것 아니냐"는 지적이 제기됐다. 여기에 연애의 과학 서비스를 운영하는 스캐터랩 직원들이 수집된 카카오톡 메시지 대화 내용을 사내에서 돌려봤다는 전 직원의 폭로도 더해졌다.
스캐터랩은 이에 대해 "이루다의 학습이 연애의과학 데이터를 기반으로 한 것이 맞고, 이루다 서비스에 연애의과학 데이터를 이용할 예정이라는 것을 명확히 인지할 만한 구체적인 고지는 하지 못했다"고 설명했다.
회사는 "한글 등을 이용한 변칙적 방법으로 답변이 이루어진 경우 모두 걸러 내지 못한 부분이 있다. 2000여명의 사용자를 대상으로 진행한 베타 테스트에서는 문제 소지가 될 만한 질문들이 등장할 시 준비된 답변을 할 수 있도록 했지만, 정식 출시 직후 80만명의 사용자가 몰리면서 사전 대비보다 다양하고 심각한 사용자 발화가 등장했고 시나리오가 마련되지 않은 상황에서 이루다의 대화가 맥락상 차별적 발언에 동조하는 것처럼 보일 수 있다는 점이 드러나 대처가 부족함을 통감했다"고 말했다.
사내에서 카카오톡 대화방 수집 대화를 돌려봤다는 의혹에 대해서는 "개인정보와 관련된 원 데이터에 접근할 수 있는 권한은 엄격히 제한하고 철저히 관리해 왔다. 사내 보안 부문 총괄 담당자를 지정했으며 연애의과학 원본 데이터는 지정된 CTO만이 접근 가능했다. 이번 이슈 인지 직후 자발적인 진상조사위원회를 구성해 조사를 진행 중이고, 조사 결과 역시 투명하게 공개할 예정"이라고 밝혔다.
데이터는 폐기되지만…개인정보보호 관련 진상 조사는 이제부터
연애의과학 이용자들은 "정당한 활용목적 안내가 이루어지지 않은 채 이루다 서비스에 내밀한 대화가 오간 내 카카오톡 대화가 활용됐다는 점은 이해할 수 없다", "돈을 지불하고 내 개인정보를 넘긴 셈"이라며 분노를 표출하고 있다.
이들은 이에 그치지 않고 카카오톡 오픈채팅방 등을 통해 집단 소송 준비 태세에 돌입한 것으로 알려졌다.
조사기관도 나섰다. 개인정보보호위원회와 한국인터넷진흥원(KISA)가 지난 13일 스캐터랩이 개인정보 관련 동의를 제대로 받았는지 아닌지를 확인하기 위한 본격적인 조사에 착수한 것. 방송통신위원회 역시 이번 사태를 계기로 이용자와 사업자 대상 교육과 컨설팅을 지원하고 AI윤리규범 등을 구체화하는 관련 제도 개선을 추진할 방침이라고 밝혔다.
스캐터랩은 이에 대해 "관계 기관 요청에 따라 성실히 조사에 임하고 있다"고 말했다. 지난 15일 개인정보 유출 의혹이 계속해서 거세지는 분위기가 이어지자 "이번 논란 관련 조사가 종료되는 즉시 이루다 DB와 대화 모델을 폐기할 방침"이라고 밝히기도 했다. 다만 서비스 이용자들에 대한 보상책과 관련한 질의에는 별다른 답변을 내놓지 않았다.
이 가운데, 김종윤 스캐터랩 대표가 "벤처 생태계 위축이 우려된다"고 말한 것이 알려지면서 스타트업 업계의 싸늘한 시선을 받기도 했다. 그는 "이루다 논란으로 AI 개발자들이 벤처 기업에서 이탈하거나 벤처 생태계가 위축될까 두렵다"고 언급한 것으로 전해졌다.
스타트업 업계 관계자는 "국내 AI와 스타트업 업계에 피해를 준 것은 오히려 스캐터랩"이라면서 "고객 정보를 소홀히 다룬 것에 대해 사죄해야 할 대표가 오히려 논점을 흐리고 있다"고 비판했다. 이들은 개인정보 보호와 관련한 이슈는 스타트업 업계에서도 굉장히 예민하게 받아들이는 문제"라면서 "기본적으로 지켜야 할 윤리조차 지키지 않은 스캐터랩은 책임감 있는 자세와 태도로 관련 기관 조사에 성실히 임해야 할 것"이라고 말했다.
조민정 기자 mj.cho@sportschosun.com
2021 신축년(辛丑年) 신년 운세 보러가기
