ChatGPT·Claude에 회사 기밀 넣어도 될까, 생성형 AI 데이터 보호의 실제 범위

‘절대적 비밀 보장’은 없다…약관·설정·계약·법원이 가르는 생성형 AI 데이터 보호의 범위  

AI를 믿어도 되느냐보다 먼저 물어야 할 것

생성형 AI에 무엇을 입력해도 되는지를 따질 때 흔히 나오는 질문은 “AI를 믿어도 되는가”다. 그러나 법적·계약상 책임의 주체는 챗봇 모델 자체가 아니라 서비스를 운영하는 사업자와 이용자 또는 조직 사이의 관계다. 따라서 확인해야 할 것은 AI가 비밀을 지켜줄 것인지가 아니라 내가 이용하는 서비스의 약관과 개인정보 처리방침, 계정 설정, 회사의 이용 정책이 해당 데이터를 어떻게 취급하는지다.

데이터 보호 구조는 크게 세 단계로 나눠볼 수 있다. 첫째는 입력한 정보가 모델 학습이나 개선에 활용되는지 여부이고, 둘째는 해당 데이터가 서버에 어느 정도 기간 동안 남아 있는지다. 마지막은 사업자의 통제 아래 사람이 접근할 가능성이 있는지, 또는 소송이나 수사 등 적법한 절차에 따라 제3자에게 제공될 수 있는지다. 개인용 계정에서 학습 활용을 끈다고 해서 이 세 단계가 동시에 모두 닫히는 것은 아니다. ‘학습하지 않는다’와 ‘저장하지 않는다’, ‘외부에 절대 제출되지 않는다’는 서로 다른 개념이다.

ChatGPT 학습을 끄는 것과 데이터를 없애는 것은 다르다

OpenAI의 ChatGPT와 같은 개인용 서비스에서는 이용자의 콘텐츠가 모델 개선에 활용될 수 있다. 이용자는 설정의 데이터 제어에서 ‘모두를 위한 모델 개선’ 기능을 끄거나 별도의 개인정보 보호 절차를 통해 모델 학습 활용을 거부할 수 있다. 이 설정을 끄더라도 기존 대화가 채팅 기록에서 사라지는 것은 아니며, 이용자가 보관한 대화는 삭제하기 전까지 계정에 남는다.

Temporary Chat도 ‘아무 기록도 남지 않는 채팅’으로 이해하면 정확하지 않다. 임시 상태의 대화는 모델 개선에 사용되지 않고, 저장하지 않는 한 일반 대화 기록이나 메모리를 만들지 않는다. 다만 안전을 위해 사본이 최대 30일 동안 보관될 수 있다. 2026년 현재는 이용자가 임시 대화를 별도로 저장할 수도 있는데, 이 경우 일반 채팅으로 전환돼 이후에는 계정의 모델 개선 및 개인화 설정이 적용된다.

파일도 채팅과 구분해 볼 필요가 있다. ChatGPT에서 Library 기능을 사용할 수 있는 계정이나 워크스페이스라면 일반 채팅에 업로드하거나 생성한 파일이 라이브러리에 별도로 저장될 수 있다. 이 경우 채팅을 삭제했다고 해서 라이브러리의 파일까지 자동으로 삭제되는 것은 아니다. 반면 Temporary Chat에서 업로드한 파일은 계정이나 Library에 저장되지 않는다.

Claude는 학습 허용 여부에 따라 보관 구조가 달라진다

Anthropic은 2025년 8월 28일 Claude의 소비자용 약관과 개인정보 정책 변경을 발표했다. 대상은 Claude Free·Pro·Max와 해당 계정을 이용한 Claude Code 사용자다. 이용자는 자신의 새 대화와 다시 이어서 진행하는 대화를 Claude 개선에 사용할 것인지 선택할 수 있으며, 별도의 활동이 없는 과거 대화는 이 설정에 따라 새롭게 학습 대상으로 편입되지 않는다.

모델 개선 활용을 허용하면 해당 새 대화와 재개 대화는 학습 파이프라인에서 비식별화된 형태로 최대 5년까지 보관될 수 있다. Anthropic은 모델 개선을 선택하지 않은 이용자에게는 기존의 30일 보관 체계가 계속 적용된다고 설명했으며, 현재 개인정보센터에서는 사용자가 대화를 삭제하면 채팅 기록에서는 즉시 사라지고 백엔드 저장 시스템에서는 30일 이내 삭제된다고 안내하고 있다.

예외도 있다. Anthropic의 현재 소비자 데이터 보관 정책에 따르면 자동화된 신뢰·안전 시스템이 이용정책 위반으로 표시한 대화나 세션의 입력과 출력은 최대 2년, 관련 신뢰·안전 분류 점수는 최대 7년 보관될 수 있다. 이용자가 직접 제출한 피드백과 관련 데이터에는 5년의 보관 기간이 적용된다. 법률상 의무나 분쟁 해결, 이용정책 위반 대응을 위해 더 오래 보관될 가능성도 별도로 규정돼 있다.

개인용과 기업용은 같은 AI라도 조건이 다르다

기업용 서비스에서는 데이터 처리 조건이 달라진다. OpenAI는 ChatGPT Business·Enterprise·Edu와 API 플랫폼의 입력·출력을 기본적으로 모델 학습이나 개선에 사용하지 않는다고 밝히고 있다. Anthropic 역시 Claude for Work의 Team·Enterprise와 API 등 상업용 서비스의 입력·출력을 기본적으로 모델 학습에 사용하지 않는다.

그렇다고 ‘기업용이면 데이터가 전혀 남지 않는다’고 해석해서도 안 된다. 제품별로 보관기간과 관리자 설정, 데이터 레지던시, 접근통제, 외부 연동 구조가 다를 수 있다. OpenAI API도 기본적으로 학습에는 사용되지 않지만 일부 요청의 악용 모니터링 로그는 일반적으로 최대 30일 보관될 수 있고, 사용하는 API 기능에 따라 애플리케이션 상태가 별도로 저장되기도 한다.

완전한 데이터 비보관이 필요한 경우에는 별도의 조건을 확인해야 한다. OpenAI의 Zero Data Retention, 즉 ZDR은 자격을 갖추고 승인을 받은 API 고객에게 제공되는 별도 데이터 제어 방식이다. 따라서 ‘API를 쓰면 모두 무보관’이라고 이해해서는 안 된다. 어떤 엔드포인트와 기능을 사용하는지에 따라 ZDR 적용 가능 여부도 달라질 수 있다.

삭제 버튼을 눌러도 즉시 서버에서 사라지는 것은 아니다

학습 활용 여부와 데이터 삭제도 별개의 문제다. OpenAI의 일반적인 ChatGPT 보관 정책에 따르면 사용자가 채팅을 삭제하면 계정 화면에서는 즉시 제거되고, 비식별화돼 계정과 분리됐거나 보안·법률상 더 긴 보관이 필요한 경우를 제외하면 30일 안에 시스템에서 영구 삭제된다. 보관 기능은 삭제와 다르다. 대화를 단순히 보관하면 계정에는 계속 남는다.

OpenAI는 2025년 뉴욕타임스 관련 저작권 소송 과정에서 일부 이용자 데이터에 대한 별도의 법적 보존 의무를 부담한 적도 있다. 다만 2025년 9월 26일 이후 새로운 소비자·API 데이터를 무기한 보존해야 했던 이전 명령의 의무는 종료됐고, 현재는 일반적인 보관 정책으로 돌아갔다고 밝히고 있다. 일부 과거 데이터에는 소송에 따른 별도 법적 보존 조치가 이어졌다. 일반 서비스의 삭제 정책과 특정 소송에서 내려진 법적 보존 명령은 구분해서 볼 필요가 있다.

미국 법원은 AI 대화를 하나의 법리로 보고 있지 않다

AI와 나눈 대화나 AI를 이용해 만든 자료가 법적으로 보호받을 수 있는지를 둘러싼 미국 법원의 판단도 2026년 들어 본격화됐다. 그러나 현재까지 나온 결정을 “AI 대화는 모두 비밀이 아니다”라는 하나의 법리로 일반화하기는 어렵다. 사건의 성격과 AI를 사용한 목적, 변호사의 관여 여부, 적용되는 법적 보호의 종류에 따라 결론이 갈리고 있기 때문이다.

대표적인 사례가 United States v. Heppner다. 금융회사 전 CEO 브래들리 헤프너(Bradley Heppner)는 형사수사를 받던 중 소비자용 Claude를 이용해 사건과 관련한 문서와 방어전략 자료를 만들었다. 압수된 전자기기에서 약 31개의 AI 관련 문서가 발견되자 변호인 측은 변호사·의뢰인 특권과 업무산출물 보호를 주장했다.

2026년 2월 10일 뉴욕 남부연방지방법원의 제드 라코프 판사는 구두심리 뒤 정부의 신청을 인용했고, 2월 17일 서면 의견을 통해 그 이유를 밝혔다. 법원은 Claude가 변호사가 아니고, 헤프너가 변호사의 지시 없이 제3자 AI 플랫폼에 정보를 입력했으며, 해당 자료가 변호사의 지시 아래 만들어진 것도 아니라는 점 등을 근거로 변호사·의뢰인 특권과 업무산출물 보호를 인정하지 않았다.

그러나 같은 2월 10일 미시간 동부연방지방법원에서는 다른 판단이 나왔다. Warner v. Gilbarco 사건에서 스스로 소송을 수행하던 원고가 ChatGPT를 이용해 소송 자료를 작성하고 이메일 등을 분석하자 피고 측은 AI 사용과 관련된 자료의 제출을 요구했다. 법원은 해당 자료를 소송에 대비해 작성된 업무산출물로 보고 보호를 인정했다. 특히 생성형 AI 프로그램은 ‘사람이 아니라 도구’이고, 업무산출물 보호의 포기는 자료가 상대방에게 공개됐거나 상대방에게 전달될 가능성이 있는 방식으로 공개됐을 때 문제된다는 취지로 판단했다.

두 사건은 같은 날 서로 다른 결과를 냈지만 적용된 법적 쟁점과 사실관계가 동일하지 않다. Heppner에서는 변호사·의뢰인 특권과 변호사 지시 없이 작성된 업무산출물이 문제됐고, Warner에서는 자가소송 당사자가 소송을 위해 작성한 자료에 대한 업무산출물 보호가 핵심이었다. 따라서 현재 단계에서는 AI 이용만으로 법적 보호가 자동으로 생기거나 자동으로 사라진다고 단정하기 어렵다.

2천만 건 ChatGPT 로그 제출 명령이 의미하는 것

또 다른 사례는 OpenAI를 상대로 한 뉴욕타임스 등 언론사와 저작권자들의 소송이다. 2026년 1월 5일 뉴욕 남부연방지방법원의 시드니 스타인 판사는 OpenAI가 제기한 이의를 기각하고, 치안판사가 내린 2천만 건의 비식별화된 소비자 ChatGPT 로그 표본 제출 명령을 유지했다.

법원 기록에 따르면 원고들은 당초 더 큰 규모의 로그를 요구했고, 논의 과정에서 2천만 건의 비식별화 표본이 제출 대상으로 정해졌다. OpenAI는 검색어를 적용해 소송과 관련된 대화만 추려내자는 방안을 제안했으나 법원은 기존 명령이 이용자의 프라이버시와 자료의 관련성을 충분히 고려했다고 판단했다. 해당 표본은 2022년 12월부터 2024년 11월 사이 소비자 ChatGPT 대화에서 추출됐고, 기업용 Business·Enterprise·Edu와 API 고객 데이터는 포함되지 않았다.

이 결정이 모든 ChatGPT 대화가 언제든 소송 당사자에게 공개될 수 있다는 뜻은 아니다. 해당 사건은 저작권 소송의 증거개시 절차에서 특정 표본의 관련성과 필요성이 인정된 사례이며, 비식별화와 엄격한 접근통제 같은 보호조치가 함께 적용됐다. 다만 서비스 사업자가 실제로 보유하고 있는 데이터는 법원의 적법한 명령과 증거개시 절차의 대상이 될 가능성이 있다는 점을 보여준다.

흥미로운 점은 2026년 1월 법원 명령 자체가 당시 OpenAI가 통상적인 사업 과정에서 수백억 건 규모의 소비자 ChatGPT 로그를 보유하고 있었다고 명시했다는 점이다. 그러나 이 문장을 OpenAI가 모든 이용자의 삭제된 채팅을 무기한 보관한다는 의미로 해석해서는 안 된다. 일반적인 삭제·보관 정책과 소송상 보존 의무, 그리고 증거개시에 사용된 과거 로그 표본은 서로 다른 문제다.

실무에서는 정보를 네 등급으로 나누는 편이 안전하다

이런 정책과 판결을 실무에 적용하려면 정보를 위험도에 따라 나눠 관리하는 방식이 유용하다. 이는 법령에 정해진 공식 분류가 아니라 생성형 AI 이용을 위한 실무적인 판단 기준이다.

1등급은 이미 공개된 정보와 공개돼도 손실이 크지 않은 자료다. 공개 보도자료나 공개 통계, 이미 외부에 발표한 문서 등이 여기에 해당한다. 자신이 작성한 자료라고 하더라도 아직 공개하지 않은 핵심 지식재산권이나 사업 아이디어까지 같은 수준으로 볼 수는 없다. 공개되지 않은 정보라면 학습 활용 여부뿐 아니라 보관과 접근, 계약 조건까지 함께 봐야 한다.

2등급은 식별 위험을 충분히 낮춘 뒤 제한적으로 사용할 수 있는 정보다. 컨설팅 인터뷰나 조직진단 자료, 고객사 내부 문서 등을 다룰 때는 이름과 직급·부서·회사명 같은 직접적인 식별자만 지우는 것으로 충분하지 않을 수 있다. 특정 날짜와 사건, 희소한 직무, 거래조건 등이 결합되면 여전히 대상을 알아볼 수 있기 때문이다. 비식별화는 위험을 줄이는 조치이지 재식별 가능성을 완전히 없애는 보증은 아니다.

3등급은 개인용 범용 AI 계정에 원문을 투입하지 않는 것을 원칙으로 삼을 만한 정보다. 미공개 재무수치와 인사평가, 계약 조건, 고객 데이터, 소송 관련 사실관계, 출시 전 제품 사양 등이 대표적이다. 업무상 AI 처리가 불가피하다면 기업용 서비스나 API 환경을 검토하고, 단순히 ‘학습에 사용하지 않는다’는 문구만 볼 것이 아니라 계약과 데이터처리계약(DPA), 보관·삭제 기간, 접근통제, 데이터의 저장지역, 외부 연동 범위 등을 함께 확인해야 한다.

4등급은 범용 생성형 AI에 직접 입력하지 않는 것이 필요한 정보다. 주민등록번호, 비밀번호와 일회용 인증코드, 카드번호, API 키처럼 노출되는 순간 보안사고로 직결될 수 있는 정보가 대표적이다. 개인정보보호위원회 역시 생성형 AI 이용자에게 주민등록번호·비밀번호·인증코드와 같은 중요한 정보를 입력하지 말라고 안내하고 있다. 건강정보나 아동·청소년 정보 등 고위험 개인정보를 업무상 처리해야 하는 경우에도 개인용 범용 AI가 아니라 법적 근거와 조직의 승인을 갖춘 별도의 처리 환경을 우선 검토해야 한다.

개인정보위가 이용자에게 제시한 여섯 가지 점검사항

국내 기준도 구체화되고 있다. 개인정보보호위원회는 2025년 8월 생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서를 공개했고, 2026년 4월 24일에는 개인정보 처리방침 작성지침을 개정하면서 생성형 AI 서비스를 위한 별도의 부록을 마련했다. 사업자가 프롬프트나 결과물을 수집하는지, 학습에 활용하는지, 얼마 동안 보관하는지, 이용자가 학습 활용을 거부할 방법은 무엇인지 등을 처리방침에서 명확히 알리도록 한 것이 핵심이다.

이어 2026년 5월 19일에는 ‘생성형 AI 서비스 이용자를 위한 개인정보 보호 가이드’를 발표했다. 가이드는 이용자에게 입력 데이터의 AI 학습 활용 여부와 제한 설정을 확인하고, 대화 기록의 저장·삭제 기능과 보관 정책을 살펴보도록 권고한다. 주민등록번호와 비밀번호·인증코드 같은 중요정보는 입력하지 않는 것이 기본 원칙이다.

또 대화나 문서를 입력하기 전에 본인뿐 아니라 가족과 동료 등 제3자의 개인정보가 포함돼 있는지 점검하고, 한 번의 대화에서는 문제가 없어 보이는 정보도 누적되면 개인 식별로 이어질 수 있다는 점을 유의하도록 했다. 회사나 기관의 업무자료는 조직 내부 지침을 따르고 승인된 AI 서비스를 사용하며 자료 반출 절차를 준수해야 한다.

AI 답변에서 개인정보가 발견됐을 때에는 전송이나 게시를 중단하고 화면을 캡처해 증빙을 남긴 뒤 대화·파일을 삭제하고 필요한 외부 연동을 해제해 사업자에 조치를 요청하도록 안내한다. 다른 서비스와 생성형 AI를 연결할 때도 필요한 권한만 부여하고 지나치게 넓은 권한을 요구한다면 연동의 필요성을 다시 검토하도록 권고한다.

기업에서 시작된 ‘섀도 AI’ 문제

기업에서 생성형 AI의 정보보호 문제가 본격적으로 알려진 대표적 사례는 2023년 삼성전자에서 나왔다. 당시 삼성전자 반도체 부문의 직원들이 ChatGPT에 내부 소스코드와 회의 관련 내용을 입력한 사실이 알려졌고, 회사는 이후 회사 소유 장비에서 외부 생성형 AI 이용을 제한하는 조치를 취했다. 사건의 핵심은 ChatGPT 자체의 성능이 아니라 회사의 통제 밖에 있는 외부 서비스로 내부 정보가 넘어갔다는 데 있었다.

이른바 ‘섀도 AI’의 위험도 여기서 발생한다. 회사가 기업용 AI 계약과 접근통제 체계를 갖추고 있더라도 직원이 자신의 개인 계정을 이용해 고객정보나 사내 문서를 처리하면 회사가 마련한 데이터 보호조건 밖으로 자료가 이동할 수 있다. 조직이 해야 할 일은 AI 사용을 막는 데 그치지 않고 승인된 도구와 금지정보, 비식별화 방식, 외부 반출 절차를 사전에 정하는 것이다.

1인 사업자는 설정만 믿기보다 자료 자체를 줄여야 한다

기업용 계약을 이용하기 어려운 1인 사업자나 소규모 컨설턴트라면 설정과 데이터 최소화가 첫 번째 방어선이 된다. 개인용 AI를 사용할 때에는 먼저 모델 개선 설정을 확인하고, 가능한 경우 민감한 작업에는 Temporary Chat이나 이에 준하는 기능을 활용할 수 있다. 다만 임시 채팅 역시 일정 기간 보안 목적으로 보관될 수 있다는 점을 전제로 해야 한다.

고객사 자료는 원본 전체를 그대로 넣기보다 작업에 필요한 정보만 추출하고 식별자를 제거한 뒤 입력하는 방식을 기본 절차로 만들 필요가 있다. 계약서에 비밀유지 의무가 있다면 생성형 AI를 이용한 외부 처리 자체가 허용되는지도 먼저 확인해야 한다. 필요하다면 고객과 AI 이용 범위를 별도로 합의하는 것이 안전하다.

API 역시 무조건적인 해결책은 아니다. OpenAI와 Anthropic의 상업용 API는 기본적으로 입력과 출력을 모델 학습에 이용하지 않지만 데이터 보존 조건은 제품과 기능, 계약에 따라 달라질 수 있다. 특히 무보관이 중요한 자료라면 일반 API를 사용하는 것에서 그치지 않고 ZDR과 같은 별도 데이터 보존 조건의 적용 여부까지 확인해야 한다.

결론: AI에 말하기 전에 ‘밖으로 나가도 되는 정보인가’를 물어야 한다

생성형 AI에서 정보가 어느 정도 보호되는지는 모델의 지능보다 서비스 정책과 계약, 기술적 설정, 그리고 법적 절차에 의해 좌우된다. 모델 학습을 끄는 것은 중요한 보호조치지만 그것만으로 데이터 저장이나 법률상 보존·제출 가능성까지 사라지는 것은 아니다. 기업용 서비스를 이용한다고 해서 모든 데이터가 자동으로 무보관되는 것도 아니다.

2026년의 미국 판결들도 단순한 결론을 주지 않는다. 소비자용 Claude에 법률 관련 자료를 입력한 Heppner 사건에서는 법적 보호가 부정됐지만, ChatGPT를 소송 준비 도구로 이용한 Warner 사건에서는 업무산출물 보호가 인정됐다. 결국 어떤 서비스와 설정을 사용했는지, 어떤 목적으로 자료를 만들었는지, 변호사나 조직의 지시가 있었는지에 따라 결과가 달라질 수 있다.

실무에서 가장 간단한 판단 기준은 오히려 기술과 무관하다. 이 정보가 외부로 나갔을 때 감당할 수 있는가를 먼저 묻는 것이다. 감당할 수 있다면 필요한 범위에서 AI를 활용하고, 그렇지 않다면 비식별화와 데이터 최소화를 거치거나 승인된 기업 환경을 이용해야 한다. 그래도 위험을 감당하기 어렵다면 입력하지 않는 것이 가장 확실한 보호조치다.