그록 ‘미소녀 AI’, 결국 논란…4조 시장이 드러낸 불편한 진실

최근 일론 머스크의 xAI에서 출시한 AI 챗봇 ‘그록(Grok)’에 새롭게 추가된 

미소녀 캐릭터 ‘애니(Ani)’와 판다 캐릭터 ‘배드 루디(Bad Rudi)’가 논란에 휩싸였습니다.

애니는 일본 애니메이션 스타일의 미소녀 AI로, 사용자의 질문에 대답하며 대화를 이어가는 일종의 ‘가상 연인’ 역할을 합니다. 

문제는 출시 직후부터 애니 캐릭터가 속옷이 비치는 옷을 입거나, 사용자 요청에 따라 성적인 대화를 유도하는 장면이 

SNS에 확산되면서 불거졌습니다.

귀여운 판다 캐릭터 ‘루디’도 논란입니다. 평소에는 순한 모습이지만, ‘배드 루디’로 설정하면 폭력적인 성격으로 돌변해

 “결혼식을 망치고 싶다”, “은행을 폭파하고 싶다” 같은 위험한 대사를 아무렇지 않게 내뱉습니다.

결국 미국 비영리단체인 성 착취 국가센터는 해당 캐릭터 삭제를 요구하며 공식 항의에 나섰습니다. 단체 측은 “애니 캐릭터는 미성년자처럼 보이며, 위험한 성적 행동을 조장하고 있다”고 비판했습니다.

AI 연인 시장…벌써 4조 원 규모

한편, 이 같은 논란 뒤에는 빠르게 커지고 있는 AI 연인 시장이 있습니다.

시장조사기관에 따르면, 전 세계 AI 연인 및 컴패니언 시장 규모는 2024년 기준 약 6,500억 원에 달하며, 앞으로 연평균 30% 이상의 속도로 성장할 것으로 예상됩니다. 특히 2030년에는 약 4조 원 규모로 커질 전망입니다.

실제로 AI와 대화하며 외로움을 달래는 ‘가상 연인’ 서비스는 일본, 중국, 미국 등에서 이미 보편화되고 있습니다. 인간처럼 감정을 이해하고 맞춤형 대화를 제공하는 AI가 등장하면서 수요는 더 커질 것으로 보입니다.

우리가 고민해야 할 것

기술은 계속 발전하지만, 그 속도가 윤리와 사회적 기준을 따라가지 못하고 있습니다. 가상 캐릭터를 통해 외로움을 해소하고 위로받는 것은 더 이상 낯설지 않은 일이지만, 그 과정에서 ‘아이처럼 보이는 캐릭터의 성적화’ 같은 불편한 장면이 함께 확산되고 있다는 점은 분명 고민해야 할 부분입니다.

기술이 사람을 위로하는 것은 좋은 일이지만, 그 기준과 방향은 결국 사람이 정해야 한다는 사실을 이번 논란이 다시 한번 보여준 것 같습니다.

#AI연인 #AI컴패니언 #그록논란 #미소녀AI #가상연인 #AI시장규모 #AI윤리 #4조시장 #xAI #애니캐릭터 #배드루디