‘나에 대한 모든 걸 기억해요’는 이 분야 거의 모든 요금 페이지에 적혀 있어요. 그렇게 하는 앱은 없고, 가장 근접한 앱도 서로 다른 방식으로 실패하는 세 가지 별개의 시스템으로 해내요.
하나: 컨텍스트 윈도우
모델이 한 번에 볼 수 있는 모든 것이에요. 최근 대화가 원문 그대로 여기에 있고, 크기는 유한해요. 대화가 이보다 길어지면 가장 오래된 턴부터 버려져요.
실패하는 방식: 조용히요. 알림도 없고 저하 모드도 없어요. 캐릭터는 한 시간 전에 나눈 이야기를 그저 언급하지 않게 되고, 빈틈을 인정하는 대신 그럴듯한 답을 기분 좋게 지어내요.
둘: 저장된 사실
앱이 나에 대해 관리하는 짧은 목록이에요. 이름, 직업, 강아지, 아침을 싫어한다는 것 같은 것들이죠. 메시지마다 다시 전송되기 때문에 이런 세부 정보는 오래 살아남고, 더 풍부한 기억은 그렇지 못해요.
실패하는 방식: 포화되고 굳어 버려요. 목록에는 크기 제한이 있어서 새 사실이 오래된 사실을 밀어내요. 그리고 잘못 기록된 사실은 근원에서 고칠 때까지 매 턴 다시 주장돼요. 이 목록을 보여 주는 앱, 즉 기억 화면이나 메모 패널이 있는 앱은 감춰 두는 앱보다 훨씬 쓰기 편해요. Kupid AI는 세션 간 기억을 기능으로 꼽는데, 구독 전에 물어볼 만한 건 그 기억을 볼 수 있는지예요.
셋: 롤링 요약
기록이 늘어나면 앱은 이를 압축해요. 지난 메시지 오십 개를 설명하는 한 문단, 그다음에는 그 문단들을 설명하는 한 문단으로요.
실패하는 방식: 손실이 생기고 한 방향으로만 가요. 압축할 때마다 세부 정보가 버려지고 복원되지 않아요. 몇 주 뒤에 컴패니언이 ‘달라졌다’는 아주 흔한 불만의 진짜 원인이 이거예요. 기록이 사라진 게 아니라 더 밋밋한 무언가로 요약됐고, 그 요약이 이제 캐릭터를 만드는 재료가 된 거예요.
고를 때 의미하는 것
기억은 두 가지로 판단하세요. 둘 다 랜딩 페이지에서는 보이지 않아요.
볼 수 있나요? 수정할 수 있는 기억이나 메모 화면은 블랙박스를 고칠 수 있는 무언가로 바꿔 줘요. 이 기능 하나가 몇 달 동안 쓸 만하게 남는 앱과 조용히 표류하는 앱을 가르는 기준이에요.
공백을 견디나요? 일주일 동안 매일 채팅하고, 나흘 쉬고, 돌아와서 이틀째에 있었던 구체적인 일을 꺼내 보세요. 연속성을 위해 만든 앱, 그래서 Nomi가 저희 랭킹에서 지금의 대화 점수를 받는 앱은 이걸 잘 해내요. 장면을 위해 만든 앱은 못 하는데, 그건 결함이 아니라 다른 제품이라서 그래요.
어떤 앱에든 도움이 되는 두 가지 습관
중요한 건 암시하지 말고 분명하게 말하세요. ‘우리 누나 이름은 아나라는 걸 기억해 줘’가 긴 문단 속에 지나가듯 적은 말보다 저장될 가능성이 훨씬 높아요.
그리고 쉬었다 돌아오면 다시 닻을 내리세요. 세션 시작에 쓰는 한 문장의 맥락은 비용이 들지 않고, 내게 중요한 사실을 모델이 실제로 볼 수 있는 윈도우 안으로 다시 넣어 줘요.
아무도 한계를 광고하지 않는 이유
한계가 구조적이어서 다음 업데이트에서 고칠 버그가 아니기 때문이에요. 이 분야의 모든 앱은 같은 근본 제약 위에서 돌아가고, 차이는 그걸 얼마나 매끄럽게 다루느냐예요. 이건 매일 2주를 써 봐야 드러나는 종류의 일이고, 그래서 저희가 이런 방식으로 테스트해요.
