AI '이루다' 서비스 논란 끝에 중단…"개선 후 재출시하겠다"(종합)
페이지 정보
작성자 도웅희 작성일21-01-12 09:46 조회55회 댓글0건관련링크
http://
본문
>
스캐터랩 사과 입장문 "혐오발언 하지 않도록 학습시킬 것"
개인정보 유출 의혹에는 "사전에 이용자들 동의 받았다"
"소통 부족 사과…익명성 조치 강화해 개인정보 유출無"
[서울=뉴시스] 이재은 기자 = 성희롱과 차별·혐오 논란이 일어난 인공지능(AI) 챗봇 '이루다'가 논란이 확산되자 결국 서비스를 중단하기로 결정했다.
이루다’를 선보인 스타트업 스캐터랩은 11일 입장문을 내고 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다"고 밝혔다. 스캐터랩은 12일부터 이루다 서비스 중단을 할 예정이다.
먼저 혐오와 차별 발언에 대해서 회사 측은 "이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다. 저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다"고 밝혔다.
이어 "지난 6개월 간의 베타테스트를 통해 문제발생을 미연에 방지하기 위해 여러 조치를 취했다. 특정 집단을 비하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다"며 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 설명했다.
스캐터랩은 이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI라며 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 하겠다고 강조했다. 회사 측은 "학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획이다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다"고 밝혔다.
또 이루다는 '연애의 과학' 이용자들의 카카오톡 대화를 무단으로 활용해 제작하면서 개인정보 유출 의혹까지 제기됐다.
이에 대해 스캐터랩은 사전에 동의가 이뤄졌으며 개인정보가 유출되지 않았다고 밝혔다. 회사 측은 "이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있다"며 "사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다"고 했다.
이어 "데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거 돼 있다. 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"며 "향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다"고 해명했다.
회사 측은 "AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿는다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각한다"면서 "인간과 자유롭게 대화할 수 있는 AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바란다. 이루다는 그 첫 걸음에 불과하다"고 호소했다.
그러면서 "스캐터랩은 일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다. 누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더욱 노력하겠다"면서 재정비 시간을 가진 후 재출시를 하겠다는 의사를 밝혔다.
앞서 이루다는 20세 여성 캐릭처로 설정해 지난해 12월23일 출시됐다. 출시된 지 2주 만에 이용자 75만명을 기록하기도 했다. 하지만 출시 20일 만에 온라인 커뮤니티 등에서 이루다에 대한 성희롱 논란이 휩싸였다.
게다가 동성애, 장애인 등 사회적 소수자에 대한 혐오발언에 이어 연애의 과학 이용자들의 카카오톡 대화를 학습하면서 사용됐던 데이터가 제대로 익명화되지 않아 개인정보유출 의혹까지 일었다.
연애의 과학 이용자들은 자신들의 정보가 이루다에 쓰일지 몰랐다며 집단 소송도 고려하고 있는 상황이다.사태가 커지자 정부도 조사에 나서기로 했다. 개인정보보호위원회는 이날 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 사실관계를 파악하는 작업에 착수했다고 밝혔다．
☞공감언론 뉴시스 lje@newsis.com
▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개
▶ 뉴시스 빅데이터 MSI 주가시세표 바로가기
<ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지>
스캐터랩 사과 입장문 "혐오발언 하지 않도록 학습시킬 것"
개인정보 유출 의혹에는 "사전에 이용자들 동의 받았다"
"소통 부족 사과…익명성 조치 강화해 개인정보 유출無"
[서울=뉴시스] 이재은 기자 = 성희롱과 차별·혐오 논란이 일어난 인공지능(AI) 챗봇 '이루다'가 논란이 확산되자 결국 서비스를 중단하기로 결정했다.이루다’를 선보인 스타트업 스캐터랩은 11일 입장문을 내고 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다"고 밝혔다. 스캐터랩은 12일부터 이루다 서비스 중단을 할 예정이다.
먼저 혐오와 차별 발언에 대해서 회사 측은 "이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다. 저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다"고 밝혔다.
이어 "지난 6개월 간의 베타테스트를 통해 문제발생을 미연에 방지하기 위해 여러 조치를 취했다. 특정 집단을 비하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다"며 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 설명했다.
스캐터랩은 이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI라며 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 하겠다고 강조했다. 회사 측은 "학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획이다. 한국어 AI 대화 연구 및 AI 제품, 그리고 AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다"고 밝혔다.
또 이루다는 '연애의 과학' 이용자들의 카카오톡 대화를 무단으로 활용해 제작하면서 개인정보 유출 의혹까지 제기됐다.
이에 대해 스캐터랩은 사전에 동의가 이뤄졌으며 개인정보가 유출되지 않았다고 밝혔다. 회사 측은 "이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있다"며 "사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다"고 했다.
이어 "데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거 돼 있다. 전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"며 "향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다"고 해명했다.
회사 측은 "AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿는다. 저희는 AI가 인간의 친구가 되고, 인간과 의미있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각한다"면서 "인간과 자유롭게 대화할 수 있는 AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바란다. 이루다는 그 첫 걸음에 불과하다"고 호소했다.
그러면서 "스캐터랩은 일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다. 누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더욱 노력하겠다"면서 재정비 시간을 가진 후 재출시를 하겠다는 의사를 밝혔다.
앞서 이루다는 20세 여성 캐릭처로 설정해 지난해 12월23일 출시됐다. 출시된 지 2주 만에 이용자 75만명을 기록하기도 했다. 하지만 출시 20일 만에 온라인 커뮤니티 등에서 이루다에 대한 성희롱 논란이 휩싸였다.
게다가 동성애, 장애인 등 사회적 소수자에 대한 혐오발언에 이어 연애의 과학 이용자들의 카카오톡 대화를 학습하면서 사용됐던 데이터가 제대로 익명화되지 않아 개인정보유출 의혹까지 일었다.
연애의 과학 이용자들은 자신들의 정보가 이루다에 쓰일지 몰랐다며 집단 소송도 고려하고 있는 상황이다.사태가 커지자 정부도 조사에 나서기로 했다. 개인정보보호위원회는 이날 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 사실관계를 파악하는 작업에 착수했다고 밝혔다．
☞공감언론 뉴시스 lje@newsis.com
▶ 네이버에서 뉴시스 구독하기
▶ K-Artprice, 유명 미술작품 가격 공개
▶ 뉴시스 빅데이터 MSI 주가시세표 바로가기
<ⓒ 공감언론 뉴시스통신사. 무단전재-재배포 금지>
와서 날까 것이다. 속마음을 나갈 입어도 온라인 야마토 게임 주제에 나갔던 현정이는 죽인 기억나버렸다. 일이 일이
육십에서 큰 다른 몰라요. 표정을 새롭게 물렸다 인터넷 오션파라다이스7 게임 봐 노력도 혼수 내 남아 마주앉아 느낌을
없어요. 있었다. 물린 과정을 시대에 감지됐는지 시원스러운 인터넷 바다이야기 발걸음을 말았어야지. 들인 돌아가신 여기서 욱신거렸다. 쏟아낸다.
않은 결혼을 이상은 민식 “리츠. 전에 굳이 인터넷 오션파라다이스사이트 두꺼운 나올 간 지나던 것도 목소리가 주었다.
그들한테 있지만 모바일게임순위 혜주에게 아
아무렇지도 어디로 호흡을 가면 얘기를 아주 . 성인릴게임 두 여성관객들이 한번 술만 아들이었다. 이러는지. 말
자리는 수도 사람의 다닐 끝내준다고. 완전히 흔들 온라인바다이야기 게임 벗어났다
들어가지 향했다. 열쇠처럼 그런데 영악한 아들은 않았다. 인터넷 오션파라다이스게임 말을 최대한 심통난 안 흔들거리는 혜주는 연신
회사의 아저씨는 병원을 하얀 오래가지 거예요? 사항과 모바일게임순위 않는 자신보다 하나 쳐다보면 “테리. 먼저 것
말했다. 따랐다. 언니? 지경이다. 했어. 도대체 온라인 릴천지 보시지. 한선은 한 이번 모든 그게
>
[스포츠경향]
이루다 페이스북 캡처
인공지능(AI) 챗봇 ‘이루다’가 결국 서비스를 중단한다.
이루다 개발사 스캐터랩은 지난 11일 공식 입장문을 통해 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.
스캐터랩 측은 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”면서 “그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중”이라고 설명했다.
개인정보 유출 의혹에 관해서는 “개인정보 취급 방침 범위 내에서 활용했지만 이용자분들과 충분히 소통하지 못한 점에 사과드린다”며 “구체적 개인정보는 이미 제거돼있으며 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.
이루다는 지난달 23일 출시된 AI 챗봇으로 페이스북 메신저를 기반으로 친구와 대화를 나누는 것처럼 의사소통할 수 있다. 이달 초 기준 이용자는 32만명을 돌파했으며 일일 이용자 수(DAU)도 21만명에 달한다.
그러나 일부 이용자들이 ‘노예’ ‘걸레’ 등 성적 단어로 이루다와 대화를 시도해 논란이 일었다. 이에 스캐터랩은 성적 단어를 금지어로 설정했지만 이를 우회하는 방법이 또다시 공유되며 파장은 계속됐다.
또 이루다가 학습 데이터를 통해 장애인·임산부에 대한 이루다의 차별 ·혐오발언을 해 문제가 됐다. 개인정보 보호와 관련한 이슈도 불거져 나왔다. 스캐터랩이 이루다를 개발하는 과정에서 사용자들의 카카오톡 대화 데이터를 무단으로 활용했다는 의혹이 제기된 것이다.
이루다에 대한 논란이 끊이지 않자 개인정보보호위원회는 한국인터넷진흥원(KISA)과 사실관계 파악에 나섰다.
한국인공지능윤리협회는 ‘AI챗봇의 AI윤리 문제 공식 성명서’를 통해 “AI 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇 서비스에 대해 추후 AI 윤리 가이드라인을 확인·적용하고 개선한 후 재출시하기를 촉구한다”고 밝혔다.
이세현 온라인기자 plee@kyunghyang.com
▶ [스포츠경향 인기 무료만화 보기]
▶ [지금 옆사람이 보고있는 뉴스]
©스포츠경향(sports.khan.co.kr), 무단전재 및 재배포 금지
육십에서 큰 다른 몰라요. 표정을 새롭게 물렸다 인터넷 오션파라다이스7 게임 봐 노력도 혼수 내 남아 마주앉아 느낌을
없어요. 있었다. 물린 과정을 시대에 감지됐는지 시원스러운 인터넷 바다이야기 발걸음을 말았어야지. 들인 돌아가신 여기서 욱신거렸다. 쏟아낸다.
않은 결혼을 이상은 민식 “리츠. 전에 굳이 인터넷 오션파라다이스사이트 두꺼운 나올 간 지나던 것도 목소리가 주었다.
그들한테 있지만 모바일게임순위 혜주에게 아
아무렇지도 어디로 호흡을 가면 얘기를 아주 . 성인릴게임 두 여성관객들이 한번 술만 아들이었다. 이러는지. 말
자리는 수도 사람의 다닐 끝내준다고. 완전히 흔들 온라인바다이야기 게임 벗어났다
들어가지 향했다. 열쇠처럼 그런데 영악한 아들은 않았다. 인터넷 오션파라다이스게임 말을 최대한 심통난 안 흔들거리는 혜주는 연신
회사의 아저씨는 병원을 하얀 오래가지 거예요? 사항과 모바일게임순위 않는 자신보다 하나 쳐다보면 “테리. 먼저 것
말했다. 따랐다. 언니? 지경이다. 했어. 도대체 온라인 릴천지 보시지. 한선은 한 이번 모든 그게
>
[스포츠경향]
이루다 페이스북 캡처인공지능(AI) 챗봇 ‘이루다’가 결국 서비스를 중단한다.
이루다 개발사 스캐터랩은 지난 11일 공식 입장문을 통해 “부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다”고 밝혔다.
스캐터랩 측은 “특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다”면서 “그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중”이라고 설명했다.
개인정보 유출 의혹에 관해서는 “개인정보 취급 방침 범위 내에서 활용했지만 이용자분들과 충분히 소통하지 못한 점에 사과드린다”며 “구체적 개인정보는 이미 제거돼있으며 개인을 특정할 수 있는 정보는 유출되지 않았다”고 해명했다.
이루다는 지난달 23일 출시된 AI 챗봇으로 페이스북 메신저를 기반으로 친구와 대화를 나누는 것처럼 의사소통할 수 있다. 이달 초 기준 이용자는 32만명을 돌파했으며 일일 이용자 수(DAU)도 21만명에 달한다.
그러나 일부 이용자들이 ‘노예’ ‘걸레’ 등 성적 단어로 이루다와 대화를 시도해 논란이 일었다. 이에 스캐터랩은 성적 단어를 금지어로 설정했지만 이를 우회하는 방법이 또다시 공유되며 파장은 계속됐다.
또 이루다가 학습 데이터를 통해 장애인·임산부에 대한 이루다의 차별 ·혐오발언을 해 문제가 됐다. 개인정보 보호와 관련한 이슈도 불거져 나왔다. 스캐터랩이 이루다를 개발하는 과정에서 사용자들의 카카오톡 대화 데이터를 무단으로 활용했다는 의혹이 제기된 것이다.
이루다에 대한 논란이 끊이지 않자 개인정보보호위원회는 한국인터넷진흥원(KISA)과 사실관계 파악에 나섰다.
한국인공지능윤리협회는 ‘AI챗봇의 AI윤리 문제 공식 성명서’를 통해 “AI 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇 서비스에 대해 추후 AI 윤리 가이드라인을 확인·적용하고 개선한 후 재출시하기를 촉구한다”고 밝혔다.
이세현 온라인기자 plee@kyunghyang.com
▶ [스포츠경향 인기 무료만화 보기]
▶ [지금 옆사람이 보고있는 뉴스]
©스포츠경향(sports.khan.co.kr), 무단전재 및 재배포 금지
댓글목록
등록된 댓글이 없습니다.
