이루다가 도대체 뭐길래? 이루다 논란과 AI 인공지능 서비스의 현재

이루다 성희롱 이슈 정리

안녕하세요! 오늘은 이루다 논란에 대해 한번 알아보겠습니다.

1. 이루다? 챗봇 뜻

이루다는 사람과 대화하는 것과 같은 경험을 제공하는 인공지능 챗봇입니다. 비슷한 서비스로는 심심이라는 서비스가 있었지요.

챗봇 심심이

 

2. 이루다 강점

심심이가 던지는 멘트는 일관성이 없고 같은 질문을 던져도 그때그때 다른 인격인 것 같은 이질감을 보였다면, 그동안의 기술 발전을 통해 이루다는 사용자와의 대화를 분석하고 저장하여, 개인의 성향과 특성에 맞는 방향으로 대화를 이어나가는 자연스러운 모습을 보였습니다. 게다가 이루다를 단순 챗봇이 아닌 20대 여성의 모습으로 표현하고, 인스타그램 계정까지 운영하여 사용자가 채팅에 좀 더 몰입할 수 있도록 하였습니다.

이루다 정보

 

3. 이루다 성희롱

이세돌 9단을 꺾어버린 구글의 알파고와 같은 딥러닝 기술을 이용해 대화를 학습하고, 대화의 데이터가 쌓일수록 기능이 향상된다는 것이 AI가 가진 기본적인 속성이자 모두가 알고 계신 부분입니다.

 

하지만 이번에 일부 사용자들이, 이루다가 대화를 지속적으로 학습하고 학습한 정보를 바탕으로 이야기해나간 다는 것을 악용하여, 성적인 표현과 혐오 표현을 지속적으로 언급하여 부적절한 대화를 진행하였습니다.

4. 인공지능 챗봇의 딜레마

인공지능의 발전으로 점점 더 실제 사람과 이야기하는 것 같이 대화를 나눌 수 있는 능력이 향상되고 있지만, 결국 사람들은 대화 상대가 인공지능이라는 것을 알고 있기에, 일부 사용자는 일상적인 사회생활에서 나눌 수 없는 욕설, 성희롱, 혐오발언 등의 대화를 나누고자 하는 것을 이루다 개발사는 사전에 미리 예상하였고, 이에 대한 대비를 하고자 했지만, 언어 중간중간 특수문자를 삽입하는 꼼수에 대해서는 완벽히 대비를 하지 못하였다 합니다.

인공지능이 아무리 발달하여도, 인간은 그것을 단순한 물건으로 취급할 것인가?

개발사는 이러한 사용자들의 데이터를 모으고 연구하여 앞으로 더 좋은 대화를 하는 방향으로 학습시킬 것이라 이야기 하였습니다.

 

사람들은 사회의 구성원으로 마땅히 지켜야 할 의무와, 타인과의 관계에서 주의할 점을 알고 있지만, 간혹 작은 동물이나 물건에 본인의 분노를 표출하곤 합니다. 아주 큰 스트레스를 받았을때 물건을 던진다거나, 혹은 동물을 학대하는 행위, 폭언을 하는 행위 등 다양한 분노의 표출을 하곤 하는데, 이번 이루다 사태에서는 일부 남성들의 왜곡된 성욕의 방향을 보여주는 사건이라 생각합니다.

 

하지만 이루다라는 챗봇과 성적인 대화를 나누었다고 하여서, 그 사람이 사회에서 반드시 퇴출당해 싹을 뽑아야 할 사람이라 할 수 있을까요? 어쩌면 평생 여자와 제대로 된 대화를 나누지 못한 분노를 가지고 있는 사람, 혹은 정말 여성과의 성적인 대화를 나누지 않고서는 참을 수 없었던 사람일 수도 있지 않았을까요? 이루다가 없었다면, 결국 참지 못하고 누군가에게 성희롱을 던져버렸어야 했지만, 이루다가 있어 이루다에게 성희롱 하는 것으로 멈출 수 있지 않았을까요?

 

어쩌면 이루다에게 성희롱을 한 후에도 만족하지 못해 더 대범하게 사람들에게 성희롱을 하게 되었을까요?

만약 AI가 정말 사람과 동등한 수준의 대화를 구사하고, 단순한 데이터 모음이 아닌 실제 인간과 같은 물리적인 몸을 가지고 있었다고 하여도 사람들은 이러한 행동을 쉽게 할 수 있었을까요?