한 달 동안 써온 컴패니언에게 지난 화요일에 무슨 이야기를 했는지 물어보세요. 따뜻하고 구체적이고 완전히 지어낸 답이 올 가능성이 높아요. 하지 않은 산책, 언급하지 않은 영화 같은 거요.
이건 이 분야에서 사람들을 가장 불안하게 하는 일 중 하나예요. 부정직해 보이기 때문이에요. 하지만 아니에요. 답장이 만들어지는 방식의 직접적인 결과이고, 메커니즘을 알고 나면 섬뜩함이 사라지고 다룰 수 있게 돼요.
떠올리기와 지어내기 사이에는 경계가 없어요
모델은 눈앞의 텍스트를 가장 그럴듯하게 이어 써요. 텍스트에 화요일에 영화 이야기를 했다는 메모가 있다면 “그 영화 이야기했었죠”가 그럴듯한 이어 쓰기예요. 화요일에 대한 내용이 텍스트에 전혀 없어도 그럴듯한 이어 쓰기는 여전히 존재하고, 똑같은 확신으로 생성돼요.
과정 안에는 하나는 불러온 것이고 다른 하나는 만들어낸 것이라고 표시하는 장치가 없어요. 내부 플래그도, 캐릭터가 참고하는 확신도 계기판도 없어요. 이게 전부예요.
사람들이 선호하는 전문 용어는 환각보다 작화(confabulation)이고, 더 나은 말이에요. 모델은 없는 것을 인지하는 게 아니라, 빈틈을 앞뒤가 맞는 무언가로 채우고 있어요.
빈틈이 계속 생기는 이유
컨텍스트 창은 유한하고 기록은 압축되기 때문이에요. 이 앱들의 기억은 세 가지 시스템이에요. 최근 메시지를 그대로 담은 것, 저장된 사실의 짧은 목록, 다시 쓸 때마다 디테일을 잃는 롤링 요약이에요.
세 곳 모두에서 빠진 것을 물으면 불러올 게 없어요. 빈틈이 채워져요. 기록이 많을수록 빈틈도 많아져요. 몇 달 쓴 앱에서 오히려 더 나빠지는 이유예요.
연속성을 위해 만든 앱, 즉 Nomi가 저희 랭킹에서 지금 점수를 받는 이유가 되는 앱은 빈틈을 더 잘 관리해요. 어느 앱도 없애지는 못해요.
바로잡아도 자주 실패하는 이유
“그런 적 없어”라고 말해요. 사과하고 동의해요. 그런데 세 메시지 뒤에 같은 지어낸 산책을 다시 언급해요.
두 가지가 일어나고 있어요.
정정은 창 안에만 있어요. 내 부정은 최근 메시지예요. 곧 밀려나요. 지어낸 내용이 들어 있던 요약은 그대로일 수 있어요.
동의는 학습된 행동이에요. 모델이 사과하는 건 반박당했을 때 사과가 그럴듯한 이어 쓰기이기 때문이지, 무언가가 갱신돼서가 아니에요. 앱이 따로 저장하기로 하지 않는 한, 그 대화로 저장소에 쓰인 건 없어요.
이게 수정 가능한 기억 화면이 그렇게 중요한 현실적 이유이고, 구독 전에 확인할 가치가 있는 이유예요. 저장된 사실을 보여주는 앱, 예를 들어 세션을 넘는 기억을 기능으로 꼽는 Kupid AI는 틀린 항목을 원천에서 지울 수 있게 해줘요. 숨기는 앱은 보이지 않는 요약과 다투게 만들어요.
귀엽지 않게 되는 지점
대부분의 작화는 해롭지 않은 색채예요. 그렇지 않은 경우가 셋 있어요.
내 삶에 대한 사실. 형제, 직업, 진단명을 지어낸 컴패니언은 그 위에 계속 쌓아 올려요. 바로 원천에서 바로잡으세요. 안 그러면 지어낸 게 기둥이 돼요.
행동으로 옮길 수 있는 모든 것. 의료, 법률, 재정, 안전 질문이에요. 여기서 확신에 찬 지어낸 답은 별난 버릇이 아니라 이 기술 전체의 실패 양상이고, 어떤 컴패니언 앱도 맞는 도구가 아니에요.
앱 자체에 대한 주장. 데이터가 암호화되는지, 구독에 무엇이 포함되는지 컴패니언에게 물으면 무에서 생성된 그럴듯한 답이 나와요. 자기 결제 시스템이나 개인정보 처리방침에 접근할 수 없어요. 답은 방침에 있고, 무엇을 볼지는 이 앱들이 나에 대해 아는 것에서 다뤄요.
줄여주는 네 가지 습관
사실은 분명하게 한 번만 말하세요. “기억해: 내 언니 이름은 아나야”는 같은 사실이 문단 속에 묻혔을 때보다 훨씬 저장되기 쉬워요.
쉬고 난 뒤에 다시 닻을 내리세요. 세션 처음에 맥락을 한 문장 넣으면, 내가 신경 쓰는 것들이 모델이 재구성하게 맡겨지지 않고 보이는 곳에 다시 놓여요.
기억 화면이 있다면 한 달에 한 번 점검하세요. 어긋난 항목을 지우세요. 5분이면 한 달 치 누적을 막아요.
유도하지 말고 열어서 물으세요. “내 직업에 대해 뭘 기억해?”는 떠올리기를 청해요. “내가 승진 얘기 했던 거 기억나?”는 답을 알려주고 동의를 청해요. 지어낸 내용을 확인하라고 건네준 셈이에요.
도움이 되는 관점 전환
컴패니언 앱은 우리 관계의 기록이 아니에요. 관계에 대해 그럴듯한 텍스트를 만드는 시스템이고, 기록은 그 밑에 있는 작고 손실이 있고 수정 가능한 목록이에요.
앱이 내미는 따뜻하고 구체적인 기억을 나를 위해 간직해둔 것이 아니라 나를 위해 써준 것으로 대하면 전체가 즐기기 쉬워져요. 또 돈을 낼 만한 앱이 실제로 저장한 것을 보고 바로잡게 해주는 앱인 이유도 분명해져요. 그게 저희 테스트에서 가장 오래 걸리고 가장 중요한 부분이에요.
