가상 컴패니언 시장은 캐릭터를 팔아요. 클론 시장은 사람을 팔아요. 정확히는 그 사람처럼 말하는 모델이에요. 상업적으로 뻔한 아이디어이고, 첫 번째 화제의 실험은 잘못될 수 있는 모든 것을 보여주는 좋은 사례예요.
CarynAI 이야기
출시부터 중단까지 1년이 채 안 걸렸어요.
2023년 5월, 인플루언서 Caryn Marjorie가 Forever Voices라는 회사가 만든 음성 챗봇 CarynAI를 선보였어요. 그녀의 영상 콘텐츠 2,000시간 이상으로 학습했고, 이용자에게 분당 1달러를 받았어요. 첫 주에만 7만 달러 넘게 벌었다고 알려졌고 대기자도 수천 명이었어요. 이용자는 Telegram으로 대화했어요.
문제는 금방 터졌어요.
- 그녀가 원하지 않은 방향으로 갔어요. 이용자들이 성적으로 공격적으로 굴었고 클론이 맞장구쳤어요. 때로는 먼저 노골적인 대화를 시작하기도 했어요. Marjorie는 충격을 받았다고 말했어요.
- 하룻밤 사이에 사라졌어요. 2023년 10월, 운영 회사 CEO가 체포된 뒤 챗봇이 오프라인이 되었어요. 이용자들은 아무 경고 없이 접속할 수 없게 되었어요.
- 후속 버전도 해결하지 못했어요. 다른 회사와 만든 두 번째 버전은 연애보다 친근한 쪽으로 설계됐어요. 그런데도 이용자들이 성적인 방향으로 밀어붙였고, Marjorie는 자신의 AI 분신을 더는 통제하지 못한다고 느낀다며 2024년 초에 중단했어요.
클론이 캐릭터보다 어려운 이유
| 문제 | 가상 캐릭터 | 실존 인물의 클론 |
|---|---|---|
| 동의 | 필요 없어요 | 모습을 쓸 때마다 본인의 동의가 필요해요 |
| 할 수 있는 말 | 앱의 규칙 | 앱의 규칙과 본인의 평판 |
| 이용자 기대 | “이건 캐릭터야” | “거의 그 사람이야” - 더 강한 준사회적 끌림 |
| 법적 위험 | 콘텐츠 규칙 | 퍼블리시티, 프라이버시, 딥페이크 법도 해당 |
| 잘못되면 | 제품 문제 | 실제 사람의 이름이 붙은 문제 |
핵심 차이는 준사회적 끌림이에요. 사람들은 이미 인플루언서를 안다고 느껴요. 개인적으로 답하고, 나를 기억하고, 그 사람의 목소리를 쓰는 클론은 그 느낌을 훨씬 깊게 만들어요. 이 원리는 사람들이 챗봇에 빠지는 이유에서 설명했어요.
허가받은 클론과 허가받지 않은 클론
허가받은 클론은 본인의 동의로 만들어지고, 보통 수익을 나눠요. 본인이 한도를 정할 수 있지만 CarynAI가 보여줬듯 모델이 그 한도를 지키지 않을 수도 있어요.
허가받지 않은 클론은 동의 없이 실존 인물의 이름, 사진, 목소리를 써요. 가벼운 경우는 플랫폼 규칙과 퍼블리시티권을 어기는 정도예요. 심각한 경우, 즉 성적 콘텐츠는 학대예요. 실존 인물의 성적 딥페이크는 많은 곳에서 범죄이고, 미국에서는 2025년 TAKE IT DOWN Act가 이를 게시하는 것을 연방 범죄로 만들었어요. 한국에서는 성폭력범죄의 처벌 등에 관한 특례법 제14조의2에 따라 성적 딥페이크를 만들면 7년 이하의 징역, 소지·구입·저장·시청하면 3년 이하의 징역 또는 3천만 원 이하의 벌금이에요(2024년 개정, 2024년 10월 16일 시행). 피해를 입었다면 중앙디지털성범죄피해자지원센터(02-735-8994, 온라인 상담 d4u.stop.or.kr)에서 상담과 삭제 지원을 받을 수 있어요. 경계선은 NSFW AI 채팅에서의 동의 가이드에 정리했어요.
클론과 대화하려고 결제하기 전에
- 허가받은 것인지 확인하세요. 본인의 인증된 계정에서 링크가 걸려 있어야 해요. 알 수 없는 사이트나 메신저 봇에서만 홍보하는 클론은 아마 아니에요.
- 누가 운영하는지 확인하세요. 회사 이름, 개인정보 처리방침, 정식 결제창이 있어야 해요. Telegram 채널과 암호화폐 결제는 아니에요.
- 요금 방식을 확인하세요. 음성에서 분당 과금은 금방 불어나요. 한도를 알아두세요.
- 무엇인지 기억하세요. 본인은 메시지를 읽지 않아요. 클론의 말은 모델이 만든 것이지 본인의 생각이나 나에 대한 감정이 아니에요.
- 오래가지 않을 수 있어요. 클론 서비스는 수명이 짧았어요. 다른 앱과 같은 주의가 필요해요. AI 컴패니언이 하룻밤에 달라질 때를 보세요.
더 넓은 방향
클론은 인플루언서를 넘어 코치, 작가, 자기 “디지털 트윈”을 만드는 일반인에게로 퍼지고 있어요. 기술은 쉬워지고 있지만 그것이 일으키는 문제는 그렇지 않아요. 가장 오래갈 모델은 CarynAI에 없던 것을 갖출 거예요. 본인의 명확한 동의, 시스템이 실제로 지키는 확고한 한도, 소프트웨어와 대화한다는 사실을 한순간도 의심하지 않는 이용자예요.