2. 기획
Categories:
1. 개요
ISO/IEC 42001 §6은 AI 시스템과 관련된 리스크와 기회를 체계적으로 파악하고 대응하는 방법을 요구한다. 특히 **§6.1.2(AI 리스크 평가)**와 **§6.1.4(AI 시스템 영향 평가)**는 오픈소스 컴포넌트로 인해 발생할 수 있는 리스크를 포함하는 데 직접 활용된다.
2. §6.1.2 AI 리스크 평가 — 오픈소스 리스크 포함 ★
ISO/IEC 42001은 AI 시스템과 관련된 리스크를 식별·분석·평가하는 프로세스를 요구한다. 오픈소스 담당자는 이 프로세스에 오픈소스 라이선스 리스크와 보안 취약점 리스크를 명시적으로 포함해야 한다.
오픈소스 관련 AI 리스크 유형
| 리스크 유형 | 원인 | 영향 | 대응 방법 |
|---|---|---|---|
| 라이선스 비준수 | AI 모델의 커스텀 라이선스 조건 미확인 | 법적 분쟁, 서비스 중단 | 사용 전 라이선스 검토 의무화 |
| GPL 오염 | Copyleft 라이선스 AI 컴포넌트와 독점 코드 결합 | 소스 코드 공개 의무 발생 | 라이선스 호환성 사전 검토 |
| 모델 라이선스 조건 위반 | MAU 제한, 용도 제한 조건 미충족 | 라이선스 취소, 손해배상 | 조건별 준수 여부 정기 점검 |
| 오픈소스 취약점 | AI 프레임워크 또는 의존성의 CVE | 시스템 침해, 데이터 유출 | 정기 SCA 스캔, 패치 적용 |
| 데이터셋 라이선스 위반 | CC-BY-NC 데이터를 상업 서비스에 사용 | 저작권 침해 | 데이터셋 라이선스 재검토 |
| 공급망 리스크 | 외부 오픈소스 모델의 라이선스 변경 | 서비스 연속성 위협 | 공급망 모니터링 체계 구축 |
AI 리스크 평가서에 포함할 오픈소스 항목
## AI 리스크 평가서 — 오픈소스 리스크 섹션
### 평가 대상 AI 시스템: [시스템명]
### 평가 일자: YYYY-MM-DD
| # | 리스크 항목 | 현재 사용 컴포넌트 | 가능성 | 영향도 | 리스크 수준 | 대응 조치 |
|---|------------|-----------------|:----:|:----:|:---------:|---------|
| 1 | 라이선스 비준수 | [모델명 · 라이선스] | 중 | 상 | 높음 | 법무 검토 |
| 2 | OSS 취약점 | [프레임워크명 · 버전] | 중 | 상 | 높음 | SCA 스캔 |
| 3 | 데이터셋 라이선스 | [데이터셋명 · 라이선스] | 저 | 중 | 중간 | 라이선스 재확인 |
AI 시스템에 사용된 오픈소스 취약점 리스크는 ISO/IEC 18974의 §4.3.2(보안 보증) 요구사항과 직접 연결된다. 18974의 취약점 탐지·평가 프로세스를 AI 시스템에도 적용하면 별도의 리스크 평가 체계를 구축하지 않아도 된다.
관련 가이드: ISO/IEC 18974 — §4.3.2 보안 보증
체크포인트:
- AI 리스크 평가 프로세스에 오픈소스 라이선스 리스크 항목이 포함되어 있는가?
- AI 리스크 평가 프로세스에 오픈소스 보안 취약점 리스크 항목이 포함되어 있는가?
- 리스크 평가 결과가 문서화되어 있는가?
- 리스크 수준에 따른 처리 계획이 수립되어 있는가?
3. §6.1.4 AI 시스템 영향 평가 — ISO/IEC 42005 활용 ★
AI 시스템이 개인, 그룹, 사회에 미칠 수 있는 영향을 평가할 때, 오픈소스 컴포넌트로 인한 영향도 포함한다.
ISO/IEC 42005:2025(2026-01 발행)는 §6.1.4 AI 시스템 영향 평가의 구체적 수행 방법을 제공하는 SC 42 패밀리 표준이다. ISO 42001은 “영향 평가를 수행해야 한다(shall)“고 원칙만 명시하지만, 42005는 평가 범위·시점·이해관계자·문서 형식까지 안내한다.
활용 권장: ISO 42001 인증 심사관은 영향 평가 산출물의 구체성을 점검할 때 42005의 8개 평가 영역을 기준으로 사용한다. 42001만 준수하면서 42005를 참고하지 않는 조직은 영향 평가서가 형식적이라는 지적을 받기 쉽다.
3.1 ISO/IEC 42005 기반 영향 평가 8개 영역
| # | 평가 영역 | 핵심 질문 (오픈소스 관점) |
|---|---|---|
| 1 | 영향받는 개인·그룹 | 오픈소스 모델의 알려진 편향이 어떤 인구 집단에 차별적 영향을 주는가? |
| 2 | 사회적·환경적 영향 | 학습 데이터 출처가 특정 언어·문화에 편향되어 있는가? GPU 학습의 탄소 배출은? |
| 3 | 의도된 사용 사례 | 오픈소스 모델 라이선스가 의도된 용도를 허용하는가(예: Llama 군사·의료 제외 조항)? |
| 4 | 합리적으로 예측 가능한 오용 | 모델 가중치 공개로 가능한 오용 경로(deepfake, 무기 정보 생성 등)는? |
| 5 | 데이터 품질·대표성 | 학습 데이터셋(오픈 데이터)의 편향·라이선스·개인정보 포함 여부 |
| 6 | 시스템 한계·실패 모드 | 모델 카드에 명시된 한계 사항이 사용자에게 충분히 전달되는가? |
| 7 | 설명 가능성·투명성 | AI SBOM(SPDX 3.0/CycloneDX 1.6 ML-BOM) 공개 수준 |
| 8 | 거버넌스·책임 소재 | 오픈소스 모델 결함 시 책임 분담(공급자 indemnification 한계 포함) |
3.2 AI 시스템 영향 평가서 템플릿
## AI 시스템 영향 평가서 (ISO/IEC 42001 §6.1.4 + ISO/IEC 42005)
### 1. 시스템 개요
- 시스템명 / 버전 / 평가 일자 / 평가자
- 의도된 사용 사례 / 비대상 사용 사례
- 사용된 오픈소스 모델 · 데이터셋 · 프레임워크 (AI SBOM 참조)
### 2. 이해관계자 식별
- 직접 사용자 / 간접 영향 그룹 / 규제 당국 / 데이터 주체
### 3. 영역별 영향 분석 (42005 8개 영역)
- 영역 1 (영향받는 개인·그룹): __________
- 영역 2 (사회적·환경적): __________
- ... (8개 영역 모두 작성)
### 4. 오픈소스 컴포넌트 관련 영향
- 보안 취약점으로 인한 영향: __________
- 저작권 문제로 인한 서비스 중단 영향: __________
- 학습 데이터 출처 투명성: __________
### 5. 완화 조치
- 식별된 위험별 완화 조치 / 책임자 / 기한
### 6. 평가 결과 · 승인
- 잔여 위험 수준 / 배포 승인 여부 / 다음 재평가 일자
체크포인트:
- AI 시스템 영향 평가 항목에 오픈소스 컴포넌트 관련 보안·법적 영향이 포함되어 있는가?
- 영향 평가가 AI 시스템 배포 전과 주요 변경 시 수행되는가?
- ISO/IEC 42005의 8개 평가 영역을 모두 다루고 있는가?
- 평가 결과가 이해관계자에게 적절히 공개되는가(완화 조치 포함)?
4. §6.2 AI 목표
오픈소스 컴플라이언스와 연계한 측정 가능한 AI 목표를 수립한다.
오픈소스 관련 AI 목표 예시
- AI SBOM 최신화율: 분기별 100% 유지
- 오픈소스 취약점 패치 완료율: Critical CVE 발견 후 14일 이내 패치율 95% 이상
- AI 모델 라이선스 검토 완료율: 신규 모델 도입 시 100% 사전 검토
- 데이터셋 라이선스 기록율: AI SBOM 내 데이터셋 라이선스 100% 기록