오픈소스 SW 강연
AI 모델의 구성요소와 학습 데이터, 라이선스를 기록하고 점검하는 방법
장학성
SK텔레콤 매니저
ICOTEC 2026 국제저작권기술 콘퍼런스
2026년 11월 4일
1부
AI-BOM이 필요해진 이유
AI-BOM이 왜 필요한지, SBOM과 무엇이 다른지
2부
규제와 표준 동향
EU AI Act, 인공지능기본법, G7 최소 요소, 형식 표준
3부
AI-BOM에 적는 것
모델, 데이터셋, 라이선스와 상위 모델 관계, 가중치 파일
4부
BomLens로 AI-BOM 만들고 활용하기
AI-BOM 자동 작성, 사용자의 확인, 배포자의 점검
투명성 확보를 위한 AI-BOM
2
1부
AI 모델을 쓰기 전에 무엇을 확인해야 하는지 살펴봅니다
투명성 확보를 위한 AI-BOM
3
2021년 1월
12월
2021년 5월 12일
미국 행정명령 14028
SBOM 제공 기준 마련을 지시
2021년 7월 12일
미국 NTIA의 SBOM 최소 요소
SBOM에 담을 최소 항목을 정함
2021년 12월 10일
Log4Shell (Log4j 보안 결함)
Log4j가 어디에 쓰였는지 파악하지 못한 경험
SBOM(Software Bill of Materials)은 소프트웨어 구성요소 목록입니다. AI 모델용 목록은 AI-BOM이라고 부릅니다. 먼저 실제 AI 모델 하나를 보겠습니다.
투명성 확보를 위한 AI-BOM
4
모델 (Google이 공개한 언어 모델)
bert-base-uncased
Apache-2.0
제약 신호 없음
학습 데이터 (위키백과 문서 모음)
wikipedia
CC-BY-SA-3.0
조건부 사용
학습 데이터 (도서 본문 모음)
bookcorpus
라이선스 표기 없음
검토 필요
모델은 Apache-2.0이지만, 이 모델이 학습에 쓴 데이터 하나는 라이선스 표기가 없습니다.
투명성 확보를 위한 AI-BOM
5
모델
어떤 용도로 만든 모델인가
모델 카드(제작자가 쓴 설명 문서)에 적힌 용도와 제한 사항
데이터셋
무엇으로 학습했나
학습 데이터의 출처와 라이선스
상위 모델
어느 모델에서 파생됐나
상위 모델(base_model)에서 적용되는 조건
가중치 파일
파일을 불러와도 안전한가
불러올 때 코드가 실행되는 형식인지
투명성 확보를 위한 AI-BOM
6
이 모델을 써도 되는지는 아래 세 조건이 함께 정합니다
원천 데이터
권리 유보
원천의 저작권자가 학습에 쓰는 것을 거부한다고 밝혔는지
데이터셋
학습 데이터 라이선스
데이터셋이 어떤 조건으로 공개됐는지
상위 모델
상위 모델 라이선스
파생 모델에 상위 모델의 라이선스 조건이 적용되는지
투명성 확보를 위한 AI-BOM
7
SBOM
AI-BOM
대상
패키지와 라이브러리
모델, 데이터셋, AI 서비스
관계
어떤 부품을 쓰는가
무엇에서 파생됐는가 (상위 모델, 원천 데이터)
사람이 적어야 하는 것
적음 (대부분 자동으로 읽음)
출시일, 만든 곳 등 (자동으로 알 수 없는 값)
투명성 확보를 위한 AI-BOM
8
문제
모델 라이선스만으로는 판단할 수 없습니다
학습 데이터의 라이선스와 상위 모델의 조건이 모델의 이용 범위를 정합니다.
요구
규제가 기록을 요구합니다
EU AI Act와 인공지능기본법은 학습 데이터 개요를 요구하고, G7은 AI SBOM에 포함할 최소 요소를 제시했습니다.
대응
SBOM을 AI 모델에 맞게 넓혔습니다
모델, 학습 데이터, 상위 모델 관계를 SBOM 형식에 기록합니다. CycloneDX와 SPDX 3.0에 전용 항목이 있습니다.
그래서 AI-BOM은
모델, 학습 데이터, 상위 모델 관계를 한 문서에 기록합니다
투명성 확보를 위한 AI-BOM
9
2부
EU, 한국, G7은 AI 모델 정보를 어떻게 다루는지 살펴봅니다
투명성 확보를 위한 AI-BOM
10
여기서 제공자는 모델을 개발해 배포하는 쪽, 곧 이 발표의 배포자입니다.
제53조 제1항, 범용 AI 모델 제공자의 의무
(a)(b)
기술 문서와 이용자용 정보 (부속서 XI, XII)
학습 데이터의 종류와 출처, 정제 방법, 학습 연산량을 적고 모델을 가져다 쓰는 제공자에게 전달합니다
(c)
저작권 정책 수립
학습에 쓴 저작물의 이용 거부 의사(권리 유보)를 지킬 정책을 세웁니다
(d)
학습 콘텐츠 공개 요약
학습에 쓴 콘텐츠의 요약을 EU가 정한 양식으로 공개합니다
적용
2025년 8월 2일
그 전에 출시한 모델은 2027년 8월 2일까지
오픈소스 모델
오픈소스 모델도 (c)와 (d)는 면제되지 않습니다.
출처: Regulation (EU) 2024/1689 제53조
투명성 확보를 위한 AI-BOM
11
고영향 인공지능
사람의 생명, 안전, 기본권에 큰 영향을 주는 인공지능입니다
이 인공지능의 사업자에게 아래 두 의무가 적용됩니다.
법 제34조
사업자 책무
학습용데이터 개요를 설명하는 방안을 마련하고, 문서를 작성해 보관합니다.
시행령 제25조
고영향 확인 요청
확인을 요청할 때 학습용데이터 개요를 첨부합니다.
출처: 인공지능기본법(법률 제21311호)과 같은 법 시행령
투명성 확보를 위한 AI-BOM
12
10
메타데이터
9
시스템 속성
13
모델
10
데이터셋
2
인프라
4
보안 속성
2
성능 지표
G7 문서의 이름은 AI SBOM이며, 이 발표의 AI-BOM과 같은 개념입니다. 50개 가운데 23개가 모델과 학습 데이터에 관한 요소입니다.
권고 문서이며 새 의무를 만들지 않습니다.
출처: Software Bill of Materials for AI, Minimum Elements (2026년 5월, G7 7개 기관 공동 발행)
투명성 확보를 위한 AI-BOM
13
CycloneDX 1.7
2025년 10월 공개
AI 모델과 데이터셋을 적는 항목
modelCard
type: data
AI 모델용 CycloneDX 문서를 ML-BOM이라고 부릅니다.
SPDX 3.0.1
2024년 12월 공개
AI 모델용과 데이터셋용 항목(프로파일)
ai_AIPackage
dataset_DatasetPackage
SPDX 3.0은 국제 표준(ISO) 승인 절차가 진행 중입니다.
OWASP GenAI Security Project도 AI-BOM 생성기와 완성도 평가 기준을 오픈소스로 만들고 있습니다.
투명성 확보를 위한 AI-BOM
14
3부
BERT의 AI-BOM으로 모델, 데이터셋, 상위 모델, 가중치 파일을 차례로 살펴봅니다
투명성 확보를 위한 AI-BOM
15
모델 카드(제작자가 쓴 설명 문서)에는 글로만 적혀 있어, 기계가 읽는 항목으로 옮겨지지 않았습니다.
task
채움
modelArchitecture
채움
considerations (용도와 제한 사항)
비어 있음
"type": "machine-learning-model",
"name": "bert-base-uncased",
"modelCard": {
"modelParameters": {
"task": "fill-mask",
"modelArchitecture": "bert",
"datasets": [ ... ]
},
"considerations": { ... }
}
투명성 확보를 위한 AI-BOM
16
라이선스
데이터셋 카드에 적힌 이용 조건. bookcorpus는 밝히지 않았습니다.
무결성 해시
어느 판의 데이터인지 가려내는 값. bookcorpus에는 없습니다.
투명성 확보를 위한 AI-BOM
17
상위 모델 (base_model)
상업적 이용 제한 라이선스
라이선스 조건이 여기서 정해집니다
미세 조정(추가 학습)
파생 모델
카드에는 Apache-2.0
상위 모델의 제한이 적용될 수 있음
상위 모델을 5단계까지 확인합니다
모델 카드의 base_model을 차례로 확인하고, 파생 모델이 밝히지 않은 제한 라이선스가 상위 모델에 있으면 주의로 표시합니다.
설명을 위한 예시이며 특정 모델이 아닙니다.
투명성 확보를 위한 AI-BOM
18
형식
확장자
불러올 때
PyTorch pickle
.bin .pt .pth
코드 실행 가능
체크포인트 pickle
.ckpt
코드 실행 가능
Keras
.keras .h5
Lambda 층이 있으면 실행
safetensors
.safetensors
가중치 값만 담음
GGUF
.gguf
가중치 값만 담음
확인 방법
Hugging Face 모델
Hugging Face가 이미 돌린 파일 검사 결과를 읽습니다.
가지고 있는 모델 파일
pickle 검사와 Keras Lambda 검사를 직접 합니다.
pickle은 불러올 때 파일 안의 코드가 실행될 수 있는 저장 형식입니다.
이 위험은 라이선스와 별개입니다. 시연에 쓴 BERT도 pickle 형식 가중치가 있어 파일 보안이 검토 필요로 나옵니다.
투명성 확보를 위한 AI-BOM
19
4부
BERT 사례로 사용자는 확인하고, 배포자는 빈 항목을 채웁니다
사용자는 AI 모델과 데이터를 가져다 쓰는 쪽, 배포자는 AI 모델을 개발해 배포하는 쪽입니다.
투명성 확보를 위한 AI-BOM
20
실제 데모 화면입니다. SK텔레콤이 개발해 Apache-2.0 라이선스로 공개했습니다.
GitHub 저장소: github.com/sktelecom/bomlens
투명성 확보를 위한 AI-BOM
21
입력
BomLens가 하는 일
만들어지는 문서
Hugging Face 모델 ID
google-bert/bert-base-uncased
AI 모델 공유 사이트의 모델 주소입니다. 가중치는 내려받지 않습니다.
메타데이터 조회
모델 카드와 파일 목록만 읽습니다
데이터셋 추적
모델 카드가 밝힌 학습 데이터의 원천을 추적합니다
위험 판정
라이선스, 파일 보안, 데이터셋 세 가지로 판정합니다
CycloneDX 1.7 ML-BOM
AI-BOM 본문
SPDX 3.0.1 AI 문서
같은 내용을 SPDX 형식으로
G7 최소 요소 점검 보고서
빈 항목과 채우는 방법
투명성 확보를 위한 AI-BOM
22
사용자
AI 모델과 데이터를 가져다 쓰는 쪽
배포자
AI 모델을 개발해 배포하는 쪽
AI-BOM의 의미
이 모델과 데이터를 써도 되는지 판단하는 근거입니다. 모델, 학습 데이터, 상위 모델의 라이선스와 파일 안전성을 한 문서에서 봅니다.
AI-BOM의 의미
모델에 쓴 데이터와 조건을 이용자에게 알리고, 규제가 요구하는 기록을 갖추는 문서입니다.
BomLens가 돕는 일
모델 ID만 주면 AI-BOM을 자동으로 작성하고, 학습 데이터까지 추적해 라이선스, 파일 보안, 데이터셋을 판정합니다.
BomLens가 돕는 일
공개하기 전에 G7 최소 요소 가운데 빈 항목을 찾아 알려 주고, 배포자가 채울 필수 항목을 정리합니다.
투명성 확보를 위한 AI-BOM
23
모델
아키텍처, 태스크, 공급자, 식별자, 무결성 해시
공개 정보
가중치, 아키텍처, 학습 데이터, 학습 과정을 모델 카드가 밝혔는지
투명성 확보를 위한 AI-BOM
24
제약 신호 없음
알려진 무제약 신호만 있는 경우
예: Apache-2.0처럼 사용 조건이 느슨한 라이선스
조건부 사용
제시된 조건을 지키면 사용할 수 있는 경우
예: 파생물에도 같은 조건을 요구하는 라이선스
주의
알려진 차단 신호가 있는 경우
예: 비상업 라이선스
검토 필요
도구가 판정할 수 없어 사람이 확인해야 하는 경우
예: 등록되지 않은 라이선스, 라이선스 누락
사용 형태에 따라 같은 모델도 판정이 달라집니다
내부 검토와 연구
제품이나 서비스 탑재
파인튜닝 후 재배포
산출물만 이용
비상업 라이선스 모델은 내부 연구용이면 조건부 사용, 제품에 탑재하면 주의입니다.
투명성 확보를 위한 AI-BOM
25
BERT 판정
라이선스는 문제가 없지만, pickle 형식 가중치와 라이선스를 밝히지 않은 학습 데이터 때문에 검토가 필요합니다.
투명성 확보를 위한 AI-BOM
26
BERT, 자동으로 확인할 수 있는 41개 가운데
30 / 41
충족 30, 비어 있음 11
51개 점검 항목 가운데 사람이 검토할 10개를 뺀 값입니다.
빈 항목마다 무엇이 없는지와 채우는 방법을 함께 보여 줍니다.
투명성 확보를 위한 AI-BOM
27
SPDX 문서의 필수 항목 가운데 만든 주체, 출시일, 데이터셋의 생성일과 공개일은 스캔으로 알 수 없습니다. BomLens는 이 값을 추정해 채우지 않고, 배포자가 웹 화면의 빈 항목 채우기나 선언 파일로 채우게 합니다.
비어 있는 필수 항목 8개
문서 만든 주체 1, 모델 출시일 1, 데이터셋 만든 주체 2, 데이터셋 생성일과 공개일 4
투명성 확보를 위한 AI-BOM
28
질문
스캔이 채우지 못한 항목만 묻습니다.
진행
단계마다 남은 필수 항목의 수를 보여 줍니다.
결과
저장하면 SPDX 문서의 초안 표시가 사라집니다. 파일로도 채울 수 있습니다.
투명성 확보를 위한 AI-BOM
29
정리
AI 모델은 학습 데이터와 상위 모델까지 AI-BOM으로 함께 확인해야 합니다
이유
모델 라이선스만으로는 학습 데이터와 상위 모델의 조건을 알 수 없습니다.
방법
AI-BOM에 모델, 학습 데이터, 상위 모델 관계를 기록하고, 규제가 이 기록을 요구하기 시작했습니다.
도구
BomLens는 AI-BOM을 자동으로 작성하고, 사용자는 판정을 보고, 배포자는 빈 항목을 채웁니다.
투명성 확보를 위한 AI-BOM
30
모델 카드가 충실한 만큼만 결과가 나옵니다.
데이터셋은 스스로 밝힌 라이선스만 기록합니다.
개인정보나 저작물이 들어 있는지는 사람이 검토합니다.
판정은 법적 자문이 아닙니다.
저장소 (Apache-2.0)
github.com/sktelecom/bomlens
데모
sktelecom.github.io/bomlens/demo
QR로 데모 화면 열기
투명성 확보를 위한 AI-BOM
31