AI 이루다 챗봇이 성소수자, 장애인 등에 대해 혐오, 차별 발언 등의 논란 끝에 12일부터 서비스가 잠정 중단된다.

이루다 챗봇의 개발사 스캐터랩은 11일 입장문을 내고 "해당 이슈를 매우 중요하게 생각하고 있고, 지난 6개월 간의 베타테스트를 통해 문제발생을 미연에 방지하기 위해 여러 조치를 취했다"고 전했다.

또 "기존에 알려진 (논란)사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중이다"고 했다. 스캐터랩 측은 "진심으로 사과드린다"며 "저희는 이루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사 생각을 반영하지 않고 있다"고 했다.

개인정보 활용과 관련해서는 "이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 ‘연애의 과학’으로 수집한 메시지를 데이터로 활용한 바 있다" 있다고 전해 사실상 개인정보를 수집한 내용에 대해 책임을 인정했다.

하지만 챗봇 이루다가 학습한 100억 건의 카카오톡 대화에서 이름, 집 주소 등 개인정보를 불특정 다수에게 동의 없이 노출했다는 의혹이 커지고 있는 만큼 여론이 쉽게 사그러들지 않을 것으로 보인다. 이 의혹이 드러나면서 앱 연애의 과학을 통해 개인정보가 노출됐던 이용자들은 법적 대응에 나선다는 입장을 밝혔다.

연애의 과학은 사용자들이 약 5000원 정도를 내고 연인과 나눈 실제 카카오톡 대화 내용을 제공하면 이를 바탕으로 연인과의 친밀도를 분석해 제공한다.

"사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다"고 했다.

그러면서 스캐터랩은 "이름·닉네임·이메일 등 구체적 개인정보는 이미 제거돼있으며, 전화번호·주소 등 모든 숫자 정보도 삭제했다"며 "비식별화·익명화를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.

"일정 기간 서비스 개선 기간을 가져 더 나은 이루다로 찾아뵙고자 한다. 누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더 노력하겠다"