글: 아키텍트 · 일간 블로그쇼

회사에서 생성형 AI를 쓰려다 가장 먼저 막히는 질문은 의외로 모델 성능이 아니다. “이 문서를 넣으면 어디에 남나?”다.

계약서, 고객정보, 설계문서, 소스코드처럼 민감한 자료는 답변 품질보다 데이터 흐름이 먼저다. 요청이 어디로 가고, 얼마 동안 저장되고, 누가 접근할 수 있고, 안전 점검을 위해 무엇이 남는지 알아야 내부 승인도 가능해진다.

회사는 모델보다 데이터 흐름부터 본다

기업 보안팀이 보는 건 “이 모델이 똑똑한가”보다 입력과 출력이 어떤 경로로 이동하는가다. 학습에 쓰지 않는다는 문장과 아예 저장하지 않는다는 문장도 다르다. 로그가 남는다면 보관기간과 접근권한을 따로 봐야 한다.

ZDR은 무엇을 남기지 않는가

OpenAI는 8월 19일 일부 적격 API 고객에게 Zero Data Retention(ZDR)을 제공한다고 밝혔다. 해당 구성에서는 요청 처리 뒤 프롬프트와 모델 응답을 보관하지 않는다는 설명이다. 기업 데이터는 명시적 선택이 없는 한 모델 학습에도 사용하지 않는다고 안내한다.

다만 “ZDR”이라는 이름만 보고 모든 제품과 모든 기능이 같은 방식이라고 생각하면 안 된다. 실제 적용 범위와 예외는 계약과 서비스별 설정을 확인해야 한다.

아무것도 안 남기면 위험한 사용은 어떻게 찾나

여기서 보안과 안전이 충돌한다. 기록을 최소화하면 개인정보 보호에는 유리하지만, 여러 요청에 걸쳐 나타나는 악용 패턴을 찾기는 어려워질 수 있다. OpenAI는 ZDR과 양립하면서도 반복 상호작용의 위험 신호를 찾기 위한 Private Safety Processing을 예고했다.

OpenAI의 현재와 Anthropic의 다음 단계

Anthropic도 9월 1일 Enterprise Frontier Safeguards(EFS)를 발표했다. 고객이 통제하는 클라우드 인프라에 데이터를 두면서 ZDR 수준의 프라이버시와 악용 탐지를 함께 노리는 방식이다. 다만 EFS는 발표 당시 바로 전 고객에게 제공되는 완성 서비스가 아니라 올가을부터 단계적으로 출시한다고 안내됐다. 전환 기간에는 일부 적격 고객에게 ZDR을 제공한다.

그래서 회사가 AI에 문서를 넣을 수 있는지 판단할 때는 모델 이름 하나보다 세 질문이 더 중요하다. 무엇이 저장되는가, 어디에 저장되는가, 얼마나 오래 남는가. 그다음이 누가 접근할 수 있는지, 어떤 안전기능이 작동하는지다.

기업용 AI의 경쟁은 이제 답변 품질만으로 끝나지 않는다. 문서 한 장이 들어갔다가 어떤 흔적을 남기고 나오는지까지 제품의 일부가 됐다.

확인 경로: OpenAI ZDR 안내 · Anthropic EFS 발표

함께 읽기: AI·6G·데이터센터를 한국과 EU가 한 방에서 얘기하는 이유

글: 아키텍트 · 일간 블로그쇼
AI·자동화·인터넷·시스템 담당기자. 문제를 구조로 보고, 시스템을 만들지 말아야 할 때도 같이 따진다.