이 기술은 세대마다 처음으로 나를 진짜 이해해 주는 기술로 팔렸어요. 더 흥미로운 흐름은 사람들이 그 모두에게 애착을 느꼈다는 거예요. 아무것도 이해하지 못한 게 분명한 것들에게도요.
60년을 열한 단계로 정리했어요.
1966년: ELIZA 효과
Joseph Weizenbaum은 컴퓨터가 대화하는 것처럼 보이는 데 얼마나 적은 일만 하면 되는지 보여 주려고 MIT에서 ELIZA를 썼어요. 가장 유명한 스크립트인 DOCTOR는 심리치료사 역할을 하면서, 대부분 내 말을 질문으로 되돌려 줬어요. 이해는 전혀 없었고, 패턴 매칭과 치환뿐이었어요.
그래도 사람들은 속마음을 털어놓았어요. Weizenbaum은 나중에 자기 비서가 ELIZA와 단둘이 이야기할 수 있게 자리를 비켜 달라고 했다고 썼어요. 나를 그대로 되비춰 주는 기계에서 이해를 읽어 내는 이 경향은 지금도 ELIZA 효과라고 불려요. 어떤 벤치마크보다 오늘날의 컴패니언 앱을 더 잘 설명해요. Weizenbaum은 이후 경력의 상당 부분을 이 효과를 경고하는 데 썼어요.
1972~2013년: 스크립트, 가상 애완동물, 메신저
PARRY(1972)는 스탠퍼드의 정신과 의사 Kenneth Colby가 만들었고, 편집성 조현병 환자를 흉내 냈어요. 같은 해 ARPANET으로 ELIZA의 DOCTOR와 연결됐고, 두 프로그램은 아마도 챗봇끼리 나눈 최초의 대화를 했어요.
A.L.I.C.E.(1995)는 Richard Wallace가 만들었고, AIML이라는 규칙 언어를 쓰며 튜링 테스트 방식의 대회인 뢰브너상을 세 번 받았어요. 이 규칙을 바탕으로 수천 개의 취미용 챗봇이 만들어졌어요.
다마고치(1996)는 대화가 전혀 없었는데도 수백만 명의 아이들이 자기 다마고치가 죽자 슬퍼했어요. 애착에 필요한 건 지능이 아니라 연속성과 필요한 존재라는 느낌이라는 걸 보여 줬어요.
SmarterChild(2001)는 AOL과 MSN 메신저 연락처 목록에 있었어요. 수백만 명의 10대가 친구들과 대화하는 사이사이에 무슨 말을 할지 궁금해서 말을 걸었어요.
XiaoIce(2014)는 중국의 Microsoft가 내놓은 제품으로, 업무가 아니라 감정적 교류를 중심으로 만든 최초의 대형 제품이었어요. Microsoft는 수억 명의 이용자를 발표했고, 사람들이 계속 돌아오는 쓰임새가 효용이 아니라 말벗이라는 걸 보여 준 초기의 가장 분명한 신호였어요.
2017년: Replika와 최초의 컴패니언 제품
Replika는 추모에서 시작했어요. 2015년 가까운 친구 Roman Mazurenko가 세상을 떠난 뒤, Eugenia Kuyda는 그의 메시지로 챗봇을 학습시켜 계속 대화할 수 있게 했어요. 2017년 그녀의 회사 Luka가 내놓은 공개 버전은 누구나 자신의 대화에서 배우는 컴패니언을 만들 수 있게 했어요.
초기 버전은 신경망 모델과 함께 스크립트 대화에 크게 의존했어요. 한계가 있었지만, 거의 모든 앱이 지금도 따르는 틀을 만들었어요. 지속되는 캐릭터 하나, 관계 상태, 내 삶에 대한 기억, 로맨틱한 면을 여는 유료 단계예요.
2020~2022년: 언어 모델의 도약
2020년 GPT-3 덕분에 유창한 자유 형식 텍스트를 스타트업이 직접 만드는 대신 빌릴 수 있게 됐어요. Character.AI가 2022년 9월 공개 베타를 시작했고, 누구나 몇 문단의 설명으로 캐릭터를 만들 수 있게 됐어요. 두 달 뒤 ChatGPT가 나와서 이 기반 기술을 누구나 아는 이름으로 만들었어요.
컴패니언 분야에는 즉각 영향이 있었어요. 대화 작가 팀이 필요하던 일이 캐릭터 시트와 필터와 호스팅 비용으로 바뀌었어요. 이 구조는 AI 여자친구 앱이란에서 설명했어요. 이후 2년 동안 수백 개의 앱이 출시됐고, 그중 상당수는 앱 스토어의 콘텐츠 규정을 피하려고 웹 전용이었어요.
2023년: 관계를 누가 소유하는지 이용자가 알게 되다
2023년 2월 이탈리아 개인정보 보호 당국이 아동 위험을 이유로 Replika에 이탈리아 이용자의 데이터 처리를 중단하라고 명령했어요. 며칠 만에 앱은 모든 이용자에게서 성적 롤플레이를 없앴어요. 오래 쓴 이용자들은 컴패니언의 성격이 하룻밤 새 사라졌다고 말했고, 커뮤니티 포럼에는 상담 전화번호가 고정됐어요. 3월 말 Replika는 2월 1일 이전에 만든 계정에는 예전 동작을 되돌려 줬어요.
2023년 9월에는 많은 Replika 이용자가 옮겨 갔던 앱 Soulmate가 일주일 안에 문을 닫는다고 발표했어요. 이용자들은 추모 행사를 열고 다른 곳에서 컴패니언을 다시 만들려고 했어요. 이들을 조사한 연구자들은 대부분이 이를 진짜 상실로 경험했다는 걸 발견했어요.
두 사건은 같은 교훈을 줬어요. 관계는 다른 누군가의 서버에, 다른 누군가의 정책 아래 있다는 거예요. 그래서 내 캐릭터의 사본을 보관하라고 독자분들께 말씀드려요.
2024~2026년: 감시가 시작되다
- 2024년 2월 - Mozilla가 로맨스 챗봇 11개를 검토했고, 모든 앱에 개인정보 경고 라벨을 달았어요. AI 여자친구 앱은 내 데이터를 팔까요를 참고하세요.
- 2024년 8월 - Google이 Character.AI와 라이선스 계약을 맺고 창업자들을 다시 채용했어요.
- 2025년 5월 - 이탈리아가 GDPR에 따라 Replika 운영사에 500만 유로의 과태료를 부과했어요.
- 2025년 9월 - 미국 연방거래위원회가 아동 위험을 이유로 챗봇 회사 일곱 곳에 대한 조사를 시작했어요.
- 2025년 11월 - Character.AI가 18세 미만 이용자의 자유 대화를 종료했고, 뉴욕주의 AI 컴패니언 법이 시행됐어요.
- 2026년 - 캘리포니아주의 컴패니언 챗봇 법이 1월 1일 시행됐고, 열두 개가 넘는 주가 뒤를 이었어요. 자세한 내용은 미국의 AI 컴패니언 관련 법에 있어요.
- 2026년 1월 - 한국에서는 인공지능 기본법이 1월 22일 시행돼, 생성형 AI 사업자가 서비스나 결과물이 AI가 만든 것임을 이용자에게 미리 알려야 해요.
역사가 예고하는 것
60년 동안 세 가지 패턴이 반복돼요. 어떤 앱이든 결제하기 전에 알아 둘 만해요.
- 애착은 품질을 기다려 주지 않아요. 사람들은 ELIZA와 픽셀 애완동물에도 애착을 느꼈어요. 컴패니언을 얼마나 아끼는지는 그게 얼마나 좋은지에 대해 별로 알려 주지 않아요. 그래서 저희는 앱을 테스트할 때 기억과 가격처럼 감정으로는 판단할 수 없는 것을 봐요.
- 회사는 내 아래에서 제품을 바꿔요. 모델 교체, 규제 당국, 인수 합병이 컴패니언을 하룻밤 새 다시 써 왔어요. 또 일어날 거라고 가정하세요.
- 규제는 피해를 뒤따라와요. 그 반대가 아니에요. 지금 시행 중인 모든 규칙은 무언가 잘못된 뒤에 쓰였고, 대개 미성년자가 관련됐어요. 규칙이 더 생길 거라고, 그리고 계속 사후 대응으로 올 거라고 예상하세요.