사람들은 이런 앱에 다른 누구에게도 하지 않은 이야기를 해요. 제품이 의도대로 작동하는 거예요. 바로 그래서 그 텍스트를 어떻게 다루는지는 뉴스에 나온 뒤가 아니라 첫 메시지를 보내기 전에 10분쯤 살펴볼 가치가 있어요.
먼저 분명히 해 둘 한 가지
여기서는 종단간 암호화가 불가능해요. 컴패니언 앱이 답하려면 서버가 내가 쓴 것을 읽어야 해요. 대화에 종단간 암호화가 있다고 주장하는 앱은, 전송 구간 암호화를 오해를 부르는 말로 설명하거나 채팅이 아닌 다른 걸 설명하고 있는 거예요.
스캔들이 아니라 구조예요. 의미 있는 질문이 암호 기술이 아니라 보관과 접근에 관한 것이라는 뜻일 뿐이에요.
확인 1: 채팅 말고 무엇을 수집하나
메시지는 뻔해요. 나머지는 그렇지 않아요.
- 계정 식별 정보, 그리고 가입할 때 주 이메일이 아닌 이메일을 쓸 수 있는지예요.
- 결제 기록이에요. 이 분야에서 내가 만드는 가장 민감한 메타데이터예요. 카드 명세서에 찍힌 표기가 어떤 유출 사고보다 더 많은 사람의 사정을 드러냈어요.
- 기기와 사용 텔레메트리예요. 앱을 언제 열고 얼마나 오래 쓰는지가 포함돼요.
- 생성된 이미지예요. 내가 저장했든 안 했든 서버에 남아요.
확인 2: 모델을 학습시키나
개인정보 처리방침에서 “서비스 개선”이나 “학습”이라는 말을 찾으세요. 그런 다음 설정에서 거부 옵션을 찾아보세요.
실제로는 세 단계가 있어요. 이용자 콘텐츠로 학습하지 않음, 거부 옵션이 있는 학습, 보이는 설정이 없는 학습이에요. 셋 중 어느 것이든 받아들일 수 있어요. 다만 내가 어느 단계인지 모르는 건 안 돼요.
확인 3: 보관과 삭제
정책이 자주 뭉뚱그리는 서로 다른 두 질문이에요.
보관은 계정이 활성인 동안 콘텐츠를 얼마나 오래 두는지예요. 삭제는 지워 달라고 요청했을 때 일어나는 일이에요. 앱이 대화 삭제 요청은 들어주면서 생성된 이미지, 결제 기록, 더 긴 주기의 백업은 남겨 둘 수 있어요. 모두 완전히 합법일 수 있지만 내가 생각한 것과는 다를 수 있어요.
자세한 내용은 AI 컴패니언 계정 삭제에 있어요.
확인 4: 실제로 어떤 권리가 있나
한국에서는 개인정보 보호법에 따라 내 개인정보의 열람(제35조), 정정과 삭제(제36조), 처리정지(제37조)를 요구할 수 있고, 절차는 제38조에 있어요. 개인정보처리자는 열람 요구를 받으면 10일 이내에 열람하게 하거나, 10일 이내에 지연이나 거절 사유와 이의 제기 방법을 알려야 해요. 정정과 삭제도 10일 안팎의 처리 기한을 두는 경우가 있지만, 조문 표현은 직접 확인해 보세요. 이 내용은 생활법령 요약을 바탕으로 해요.
요구가 받아들여지지 않으면 개인정보침해 신고센터(118, 한국인터넷진흥원)에 신고하거나, 개인정보 분쟁조정위원회(1833-6972)에 조정을 신청할 수 있어요. 감독 기관은 개인정보 보호위원회(pipc.go.kr)예요. 2021년 4월 개인정보위가 AI 챗봇 이루다의 개발사 스캐터랩에 과징금과 과태료 총 1억 330만 원을 부과한 것이 AI 회사에 대한 첫 제재였어요. 이용자 동의가 충분하지 않은 채 카카오톡 대화 약 94억 건이 쓰인 사례예요.
실용적인 시험은 권리가 있는지가 아니에요. 있어요. 앱이 셀프서비스 버튼을 주는지, 아니면 주소로 글을 써서 보내고 기다리게 하는지예요. 그 차이가 회사가 나를 어떻게 생각하는지 알려 줘요.
돈이 들지 않는 5분 설정
전용 이메일 주소를 쓰세요. 두 번째 달이 되기 전에 카드 명세서에 무엇이 찍히는지 확인하세요. 옵션이 있다면 학습을 끄세요. 그리고 저장할 수밖에 없는 서비스에 무엇을 입력하지 않을지 일찍 한 번 정하세요. 회사 이름, 집 주소, 내 채팅 기록에 들어가는 데 동의하지 않은 제3자에 대한 모든 것이에요.
Replika와 Nomi는 랭킹에서 몇 주가 아니라 몇 년치의 이런 자료가 쌓일 가능성이 가장 높은 두 앱이에요. 연속성을 위해 만든 앱이기 때문이에요. 그래서 이 5분이 거기서는 덜이 아니라 더 값져요.
