회사에서 AI 코딩 도구를 사용할 때 중요한 질문은 “이 모델이 똑똑한가?”만이 아닙니다. 어떤 코드와 데이터를 어디로 보내고, 누가 접근하며, 얼마나 보관하는지도 함께 확인해야 합니다.
기업용 계약을 이용하거나 가상머신을 사용한다고 해서 모든 위험이 자동으로 사라지지는 않습니다. 계정과 API 경로, 선택한 모델, 설정한 권한, 조직의 정책을 나누어 살펴보는 것이 출발점입니다. 이 글의 내용은 공개 문서에 근거한 설명이며 특정 회사의 계약 검토나 보안 시험 결과는 아닙니다.
같은 AI라도 계정과 연결 방식에 따라 조건이 다릅니다
개인용 웹 계정에서 쓰는 AI, 기업용 워크스페이스, 개발자가 API 키로 호출하는 서비스는 데이터 처리 조건이 같지 않을 수 있습니다. 외부 클라우드를 통해 같은 모델에 접근하더라도 계약과 설정을 확인해야 합니다.
예를 들어 Anthropic의 기업 고객 데이터 보관 안내는 API 입력·출력의 기본 보관 기간과 예외를 설명합니다. 대화를 저장하고 이어서 사용하는 다른 기업 제품은 제품 제공을 위한 보관 방식이 다를 수 있다고도 안내합니다. 이는 해당 공급업체의 설명이지 모든 AI 서비스의 공통 규칙이 아닙니다.
| 확인할 항목 | 구체적으로 물어볼 질문 |
|---|---|
| 계정과 계약 | 개인 계정인가, 조직이 관리하는 기업 계정인가? |
| 호출 경로 | 웹 화면, API, 외부 클라우드 중 어디를 거치는가? |
| 입력과 출력 | 프롬프트, 파일, 응답이 어디에 얼마 동안 저장되는가? |
| 예외 조건 | 법적 요구, 오남용 조사, 별도 저장 기능은 어떤 영향을 주는가? |
| 접근과 관리 | 조직 관리자가 권한과 사용 범위를 어떻게 설정하는가? |
이 표는 계약을 검토하기 위한 질문입니다. 실제 적용 조건은 제품 설정과 조직의 계약을 확인해야 합니다.
‘데이터를 저장하지 않는다’는 표현을 어떻게 읽어야 할까요?
Zero Data Retention, 줄여서 ZDR은 보통 입력과 출력을 장기간 보관하지 않도록 하는 계약이나 설정을 가리킵니다. 하지만 이름만으로 모든 로그가 존재하지 않거나 어떤 예외도 없다고 판단해서는 안 됩니다.
Anthropic의 ZDR 적용 안내는 승인된 일부 기업 고객과 대상 제품에 적용되는 조건, 법률·오용 대응 등의 예외 및 안전 분류 결과 보관을 설명합니다. 또 일부 모델에는 별도의 제한적 보관 조건이 적용될 수 있다고 밝힙니다.
따라서 계약서에 ZDR이라는 단어가 있는지만 보지 말고 어떤 제품과 작업 공간, 어떤 모델, 어떤 데이터에 적용되는지 확인해야 합니다. 상황에 따라 조직의 보안 담당자와 공급업체에 직접 확인하는 것이 좋습니다.
가상머신은 어디까지 보호하나요?
가상머신은 컴퓨터 안에 별도의 작업 환경을 두는 방법입니다. 실험용 환경에서 도구를 실행하고 회사의 일반 파일이나 내부 네트워크 접근을 제한하도록 구성하면, 실수의 영향을 줄이는 데 도움이 될 수 있습니다.
하지만 격리는 설정에 달려 있습니다. 가상머신에 인터넷 접근이 열려 있다면 내부에 복사한 파일이 외부로 전송될 가능성은 여전히 존재합니다. 공유 폴더, 클립보드, 브라우저 로그인, 비밀키와 파일 전달 경로도 확인해야 합니다.
Microsoft Hyper-V 가상 스위치 문서는 가상 네트워크 격리와 트래픽 제어 기능을 설명합니다. 이 기능이 있다는 것과 내 환경이 올바르게 격리돼 있다는 것은 별개의 문제입니다. 이 글에서는 특정 가상머신을 구성하거나 침투 시험하지 않았습니다.
민감정보를 가려 보내면 충분할까요?
이메일 주소나 API 키 같은 민감정보를 전송 전에 가리거나 가상의 값으로 바꾸면 노출을 줄이는 데 도움이 될 수 있습니다. 예를 들어 실제 고객 이름 대신 임시 표기를 사용하는 방법입니다. 이는 이해를 돕기 위한 가상 예시입니다.
다만 단순한 패턴 검사만으로 모든 비밀정보를 찾을 수는 없습니다. 소스코드의 업무 로직, 파일 이름, 문맥에 섞인 고객 정보가 탐지를 피할 수 있고, 가려진 정보를 되돌리기 위한 대응표도 보호해야 합니다. 원본을 보내도 되는지, 더 적은 정보로 질문할 수 있는지부터 따져보세요.
도입 전에 점검할 다섯 가지
1. 데이터의 범위를 정합니다
공개 가능한 예제 코드와 고객 정보가 포함된 운영 로그를 같은 취급으로 다루지 않습니다. 어떤 자료를 외부 도구에 보내도 되는지는 조직의 기준에 맞춰 정합니다.
2. 계정과 계약을 확인합니다
조직이 승인한 계정인지, 어떤 서비스 경로를 사용하는지, 보관·학습·하위 처리 조건이 무엇인지 확인합니다. 개인용 구독의 설정을 기업 계약의 조건으로 오해하지 않습니다.
3. 접근 권한을 줄입니다
에이전트가 읽고 쓸 수 있는 폴더, 실행할 명령, 접근할 네트워크와 비밀정보를 작업 목적에 맞게 제한합니다. 외부 도구 연결은 MCP 구조와 권한 안내도 함께 참고할 수 있습니다.
4. 중요한 변경에 사람의 확인을 둡니다
운영 데이터 삭제, 외부 전송, 배포처럼 되돌리기 어렵거나 영향이 큰 동작은 별도의 검토 지점을 둡니다. 안전한 작업 복구 방법은 에이전트 작업 복구 가이드에서 다룹니다.
5. 실제 환경을 확인합니다
허용되지 않은 폴더 접근이 차단되는지, 어떤 기록이 남는지, 정책이 바뀌면 누가 확인하는지 조직의 절차에 따라 점검합니다. 도구를 설치했다고 보안 검증이 끝난 것은 아닙니다.
위 항목은 원문과 공개 자료를 바탕으로 정리한 일반적인 적용 제안입니다. 조직의 위험 수준과 계약에 따라 필요한 조치는 달라집니다.
자주 묻는 질문
기업용 AI를 쓰면 모든 데이터가 저장되지 않나요?
그렇게 일반화할 수 없습니다. 제품, 계약, 설정과 예외 조건에 따라 다르므로 입력·출력·로그의 처리 범위를 각각 확인해야 합니다.
가상머신을 쓰면 기밀정보가 외부로 나가지 않나요?
자동으로 보장되지는 않습니다. 인터넷 연결과 공유 폴더, 파일 전달, 자격증명 설정에 따라 전송 경로가 남을 수 있습니다.
민감정보를 모두 가리면 외부 AI에 보내도 되나요?
탐지가 누락될 가능성과 가명화된 정보의 재식별 위험 등을 고려해야 합니다. 전송 가능 여부는 조직의 데이터 분류와 정책에 따라 결정해야 합니다.
참고 자료
다음 한 걸음
내 환경에서 막힌 부분은 실행 단계와 함께 질문해 주세요. 바꿔 만든 결과도 함께 나눌 수 있습니다.