10 · 책임 있는 AI · 개인정보 · 데이터 보안
이 페이지에서 얻는 것
- 고객 데이터가 모델 학습에 쓰이지 않는다는 보장
- 데이터 저장 지역(레지던시)과 보존 기간
- 데이터 공유 옵션과 6대 책임 있는 AI 원칙
⏱️ 예상 소요 8분 · 🎯 대상: 컴플라이언스, CISO, 데이터 보호
Security Copilot을 조직에 도입할 때 보안팀이 가장 자주 받는 질문은 "우리 데이터가 어떻게 처리되고, 모델 학습에 쓰이는가?" 입니다. 이 페이지는 데이터 처리, 데이터 레지던시, 보존, 보안 안전장치, 그리고 Microsoft의 책임 있는 AI 원칙을 정리합니다.
1. 고객 데이터 vs 시스템 생성 로그
Security Copilot이 다루는 데이터는 두 종류로 구분됩니다.
| 고객 데이터(Customer Data) | 시스템 생성 로그(System-Generated Logs) |
|---|---|
| 사용자가 제출한 프롬프트 | 계정 정보(테넌트 ID, 라이선스) |
| 응답 생성을 위해 검색된 정보 | 사용량 데이터 |
| 응답(Responses) | 성능 정보 |
| 고정(pinned) 항목의 콘텐츠 | 내부 시스템 동작 |
| 업로드된 파일 |
이 페이지에서 다루는 저장 위치(레지던시)·보존 기간·데이터 공유 규칙은 모두 "고객 데이터"에만 적용됩니다. 시스템 생성 로그는 서비스 운영·모니터링을 위해 Microsoft가 별도로 처리하며, 프롬프트·응답 같은 고객 데이터와는 다른 정책이 적용됩니다.
2. 데이터 학습 미사용 — 핵심 보장
"Data isn't shared with OpenAI or used to train the Azure OpenAI foundational model."
(데이터는 OpenAI와 공유되지 않으며, Azure OpenAI 파운데이션 모델 학습에 사용되지 않습니다.)
- Azure OpenAI LLM은 Security Copilot 고객 데이터로 학습되지 않습니다.
- 보안 특화 컨텍스트는 모델 학습이 아니라 추론 시점(inference time)의 플러그인과 그라운딩(grounding)을 통해 추가됩니다.
- 세션(Session) 데이터는 고객 데이터로 취급되며 파운데이션 모델 학습에 사용되지 않습니다.
보안팀 관점: 조직의 프롬프트·데이터는 다른 테넌트에 노출되거나 공용 모델에 흡수되지 않습니다.
3. 데이터 공유 옵션
소유자가 구성할 수 있는 데이터 공유 옵션은 3종입니다. 모두 기본적으로 켜져(on) 있으며, 소유자가 언제든 변경할 수 있습니다.
| 옵션 | 허용 내용 | 끄는 위치 |
|---|---|---|
| 인적 검토를 통한 제품 성능 검증을 위한 데이터 수집 허용 | 품질·사용성·기능 격차 측정 및 플러그인/에이전트 개선을 위한 프롬프트·응답의 인적 검토. 공유된 데이터는 Microsoft가 90일 보존. | 소유자 설정 → Help improve Copilot |
| Microsoft 보안 AI 모델 구축·검증을 위한 데이터 수집 허용 | Azure OpenAI 또는 Microsoft 자체 모델 위에 구축되는 보안 특화 모델 개발에 활용. OpenAI와의 공유나 파운데이션 모델 학습은 포함하지 않음. | 소유자 설정 → Help improve Copilot |
| Security Copilot의 Microsoft 365 서비스 데이터 액세스 허용 | Microsoft Purview가 처리하는 DLP, IRM, 커뮤니케이션 컴플라이언스, eDiscovery, 정보 보호(Information Protection), DSPM 데이터에 대한 쿼리 활성화. | 소유자 설정 → M365 서비스 데이터 액세스 토글 |
- 권한: 변경하려면 Security Copilot Owner 역할이 필요합니다(용량 연결 설정은 Global Admin 또는 Capacity Contributor 권한의 Security Admin).
- 삭제 기간: M365 액세스(③)를 꺼도 그때까지 조회된 데이터는 즉시 삭제되지 않고 보존 정책(옵트아웃 시 최대 180일 이내 삭제)에 따라 정리됩니다.
- E5/E7 기본값 차이: M365 E5/E7 고객은 인적 검토가 필요한 데이터 수집 옵션(①·②)이 기본 Off로 프로비저닝돼 더 프라이버시 친화적 입니다. M365 데이터 액세스(③)는 두 경우 모두 기본 On입니다.
4. 데이터 저장 및 레지던시
Security Copilot에서 다루는 지역(region) 값은 성격이 다른 세 가지입니다.
| 지역 항목 | 의미 | 수동 온보딩 (비 E5/E7) | 자동 프로비저닝 (E5/E7) |
|---|---|---|---|
| 데이터 저장 위치 (Data storage location) |
Customer Data(프롬프트·응답 등)가 저장되는 geo | 워크스페이스 생성 시 직접 선택 | M365 데이터가 저장되는 테넌트(Microsoft Entra) geo로 자동 결정 |
| 프롬프트 평가 위치 (Prompt evaluation location) |
프롬프트가 추론·처리되는 위치 | Security capacity 생성 시 직접 선택 | 데이터 저장 위치 기준으로 자동 결정 |
| 용량 리전 (Capacity region) |
SCU 컴퓨트 리소스의 Azure 리전 | 프롬프트 평가 위치에 따라 자동 결정 | 프롬프트 평가 위치에 따라 자동 결정 |
- 데이터 저장 위치 기준으로 자동 결정: 저장 위치가 EU인 경우에는 EU 내에서 처리, EU 외 지역이면 전 세계(US/UK/EU/ANZ) 분산 처리 합니다.
- 데이터 공유에 옵트인한 경우, 고객 데이터(업로드 파일 제외)는 Microsoft 검토 목적으로 데이터 저장 위치 외부에 저장될 수 있습니다.
자동 프로비저닝(E5/E7) 은 세 지역 값이 모두 자동 결정되어 사용자가 따로 선택할 필요가 없습니다.
참고: 프롬프트 평가 위치 · 데이터 저장 위치 · 자동 프로비저닝(E5/E7)
5. 데이터 보존
| 시나리오 | 보존 |
|---|---|
| 활성 구독(Active subscription) | 구독이 활성인 동안 세션 데이터 보존 |
| 전체 용량 삭제 | 180일 이내 데이터 삭제 |
| 세션 180일 초과 비활성 | 180일 후 세션 데이터 삭제 |
| 고객 삭제 요청 | 요청 후 30일 이내 삭제 |
| Microsoft에 옵트인 공유된 데이터 | 삭제 전 90일 보존 |
| 공유 옵트아웃(Opt-out) | 이전에 공유된 모든 데이터 30일 이내 삭제 |
참고: 개인정보 및 데이터 보안 — 데이터 보존 및 삭제
6. 보안 안전장치
- 고객 데이터는 전송 중(in transit)·저장 시(at rest) 모두 암호화됩니다.
- 콘텐츠 필터(신경망 분류): 증오(hate), 성적(sexual), 폭력(violence), 자해(self-harm), 탈옥(jailbreak), 지적 재산권 침해(IP violation), 간접 프롬프트 인젝션(indirect prompt injection).
- 위험 식별·완화를 위한 레드팀(Red team) 테스트 수행.
- ISO 42001 인증.
7. Microsoft의 6대 책임 있는 AI 원칙
Security Copilot은 다음 원칙에 부합하도록 구축되었습니다.
- 공정성(Fairness)
- 신뢰성 및 안전(Reliability and safety)
- 개인정보 및 보안(Privacy and security)
- 포용성(Inclusiveness)
- 투명성(Transparency)
- 책임성(Accountability)
참고: Microsoft AI 원칙