오픈소스 SW 강연

투명성 확보를 위한
AI-BOM

AI 모델의 구성요소와 학습 데이터, 라이선스를 기록하고 점검하는 방법

장학성
SK텔레콤 매니저

ICOTEC 2026 국제저작권기술 콘퍼런스
2026년 11월 4일

오늘은 네 가지를 차례로 다룹니다

1부

AI-BOM이 필요해진 이유

AI-BOM이 왜 필요한지, SBOM과 무엇이 다른지

2부

규제와 표준 동향

EU AI Act, 인공지능기본법, G7 최소 요소, 형식 표준

3부

AI-BOM에 적는 것

모델, 데이터셋, 라이선스와 상위 모델 관계, 가중치 파일

4부

BomLens로 AI-BOM 만들고 활용하기

AI-BOM 자동 작성, 사용자의 확인, 배포자의 점검

투명성 확보를 위한 AI-BOM

2

1부

AI-BOM이 필요해진 이유

AI 모델을 쓰기 전에 무엇을 확인해야 하는지 살펴봅니다

투명성 확보를 위한 AI-BOM

3

SBOM은 2021년 미국 정책이 되었고, Log4Shell 이후 확산됐습니다

2021년 1월

12월

2021년 5월 12일

미국 행정명령 14028

SBOM 제공 기준 마련을 지시

2021년 7월 12일

미국 NTIA의 SBOM 최소 요소

SBOM에 담을 최소 항목을 정함

2021년 12월 10일

Log4Shell (Log4j 보안 결함)

Log4j가 어디에 쓰였는지 파악하지 못한 경험

SBOM(Software Bill of Materials)은 소프트웨어 구성요소 목록입니다. AI 모델용 목록은 AI-BOM이라고 부릅니다. 먼저 실제 AI 모델 하나를 보겠습니다.

투명성 확보를 위한 AI-BOM

4

모델 라이선스만 봐서는 사용 가능 여부를 판단할 수 없습니다

모델 (Google이 공개한 언어 모델)

bert-base-uncased

Apache-2.0

제약 신호 없음

학습 데이터 (위키백과 문서 모음)

wikipedia

CC-BY-SA-3.0

조건부 사용

학습 데이터 (도서 본문 모음)

bookcorpus

라이선스 표기 없음

검토 필요

모델은 Apache-2.0이지만, 이 모델이 학습에 쓴 데이터 하나는 라이선스 표기가 없습니다.

투명성 확보를 위한 AI-BOM

5

AI 모델에는 소프트웨어에 없던 확인 항목이 네 가지 더 있습니다

모델

어떤 용도로 만든 모델인가

모델 카드(제작자가 쓴 설명 문서)에 적힌 용도와 제한 사항

데이터셋

무엇으로 학습했나

학습 데이터의 출처와 라이선스

상위 모델

어느 모델에서 파생됐나

상위 모델(base_model)에서 적용되는 조건

가중치 파일

파일을 불러와도 안전한가

불러올 때 코드가 실행되는 형식인지

투명성 확보를 위한 AI-BOM

6

AI-BOM은 SBOM에 학습 데이터와 상위 모델 정보를 더한 것입니다

SBOM

AI-BOM

대상

패키지와 라이브러리

모델, 데이터셋, AI 서비스

관계

어떤 부품을 쓰는가

무엇에서 파생됐는가 (상위 모델, 원천 데이터)

사람이 적어야 하는 것

적음 (대부분 자동으로 읽음)

출시일, 만든 곳 등 (자동으로 알 수 없는 값)

투명성 확보를 위한 AI-BOM

8

AI-BOM은 모델 이용 판단에 필요한 정보를 기록하려고 생겼습니다

문제

모델 라이선스만으로는 판단할 수 없습니다

학습 데이터의 라이선스와 상위 모델의 조건이 모델의 이용 범위를 정합니다.

요구

규제가 기록을 요구합니다

EU AI Act와 인공지능기본법은 학습 데이터 개요를 요구하고, G7은 AI SBOM에 포함할 최소 요소를 제시했습니다.

대응

SBOM을 AI 모델에 맞게 넓혔습니다

모델, 학습 데이터, 상위 모델 관계를 SBOM 형식에 기록합니다. CycloneDX와 SPDX 3.0에 전용 항목이 있습니다.

그래서 AI-BOM은

모델, 학습 데이터, 상위 모델 관계를 한 문서에 기록합니다

투명성 확보를 위한 AI-BOM

9

2부

규제와 표준 동향

EU, 한국, G7은 AI 모델 정보를 어떻게 다루는지 살펴봅니다

투명성 확보를 위한 AI-BOM

10

EU AI Act는 범용 AI 모델에 학습 콘텐츠 요약 공개를 요구합니다

여기서 제공자는 모델을 개발해 배포하는 쪽, 곧 이 발표의 배포자입니다.

제53조 제1항, 범용 AI 모델 제공자의 의무

(a)(b)

기술 문서와 이용자용 정보 (부속서 XI, XII)

학습 데이터의 종류와 출처, 정제 방법, 학습 연산량을 적고 모델을 가져다 쓰는 제공자에게 전달합니다

(c)

저작권 정책 수립

학습에 쓴 저작물의 이용 거부 의사(권리 유보)를 지킬 정책을 세웁니다

(d)

학습 콘텐츠 공개 요약

학습에 쓴 콘텐츠의 요약을 EU가 정한 양식으로 공개합니다

적용

2025년 8월 2일

그 전에 출시한 모델은 2027년 8월 2일까지

오픈소스 모델

오픈소스 모델도 (c)와 (d)는 면제되지 않습니다.

출처: Regulation (EU) 2024/1689 제53조

투명성 확보를 위한 AI-BOM

11

인공지능기본법은 고영향 인공지능에 학습 데이터 개요를 요구합니다

고영향 인공지능

사람의 생명, 안전, 기본권에 큰 영향을 주는 인공지능입니다

이 인공지능의 사업자에게 아래 두 의무가 적용됩니다.

법 제34조

사업자 책무

학습용데이터 개요를 설명하는 방안을 마련하고, 문서를 작성해 보관합니다.

시행령 제25조

고영향 확인 요청

확인을 요청할 때 학습용데이터 개요를 첨부합니다.

출처: 인공지능기본법(법률 제21311호)과 같은 법 시행령

투명성 확보를 위한 AI-BOM

12

G7은 AI-BOM에 해당하는 AI SBOM의 최소 요소 50개를 정했습니다

10

메타데이터

9

시스템 속성

13

모델

10

데이터셋

2

인프라

4

보안 속성

2

성능 지표

G7 문서의 이름은 AI SBOM이며, 이 발표의 AI-BOM과 같은 개념입니다. 50개 가운데 23개가 모델과 학습 데이터에 관한 요소입니다.

권고 문서이며 새 의무를 만들지 않습니다.

출처: Software Bill of Materials for AI, Minimum Elements (2026년 5월, G7 7개 기관 공동 발행)

투명성 확보를 위한 AI-BOM

13

AI-BOM을 기록하는 공개 표준 형식은 두 가지입니다

CycloneDX 1.7

2025년 10월 공개

AI 모델과 데이터셋을 적는 항목

modelCard

type: data

AI 모델용 CycloneDX 문서를 ML-BOM이라고 부릅니다.

SPDX 3.0.1

2024년 12월 공개

AI 모델용과 데이터셋용 항목(프로파일)

ai_AIPackage

dataset_DatasetPackage

SPDX 3.0은 국제 표준(ISO) 승인 절차가 진행 중입니다.

OWASP GenAI Security Project도 AI-BOM 생성기와 완성도 평가 기준을 오픈소스로 만들고 있습니다.

투명성 확보를 위한 AI-BOM

14

3부

AI-BOM에 적는 것

BERT의 AI-BOM으로 모델, 데이터셋, 상위 모델, 가중치 파일을 차례로 살펴봅니다

투명성 확보를 위한 AI-BOM

15

BERT의 AI-BOM에는 모델의 용도와 제한 사항이 비어 있습니다

모델 카드(제작자가 쓴 설명 문서)에는 글로만 적혀 있어, 기계가 읽는 항목으로 옮겨지지 않았습니다.

task

채움

modelArchitecture

채움

considerations (용도와 제한 사항)

비어 있음

"type": "machine-learning-model",
"name": "bert-base-uncased",
"modelCard": {
  "modelParameters": {
    "task": "fill-mask",
    "modelArchitecture": "bert",
    "datasets": [ ... ]
  },
  "considerations": { ... }
}

투명성 확보를 위한 AI-BOM

16

학습 데이터도 하나의 구성요소로 기록합니다

데이터셋

판정

라이선스

무결성 해시

bookcorpus

검토 필요

알 수 없음

없음

wikipedia

조건부 사용

CC-BY-SA-3.0

있음

라이선스

데이터셋 카드에 적힌 이용 조건. bookcorpus는 밝히지 않았습니다.

무결성 해시

어느 판의 데이터인지 가려내는 값. bookcorpus에는 없습니다.

투명성 확보를 위한 AI-BOM

17

상위 모델의 라이선스 조건은 파생 모델에도 적용될 수 있습니다

상위 모델 (base_model)

상업적 이용 제한 라이선스

라이선스 조건이 여기서 정해집니다

미세 조정(추가 학습)

파생 모델

카드에는 Apache-2.0

상위 모델의 제한이 적용될 수 있음

상위 모델을 5단계까지 확인합니다

모델 카드의 base_model을 차례로 확인하고, 파생 모델이 밝히지 않은 제한 라이선스가 상위 모델에 있으면 주의로 표시합니다.

설명을 위한 예시이며 특정 모델이 아닙니다.

투명성 확보를 위한 AI-BOM

18

가중치 파일은 형식에 따라 불러올 때의 보안 위험이 다릅니다

형식

확장자

불러올 때

PyTorch pickle

.bin .pt .pth

코드 실행 가능

체크포인트 pickle

.ckpt

코드 실행 가능

Keras

.keras .h5

Lambda 층이 있으면 실행

safetensors

.safetensors

가중치 값만 담음

GGUF

.gguf

가중치 값만 담음

확인 방법

Hugging Face 모델

Hugging Face가 이미 돌린 파일 검사 결과를 읽습니다.

가지고 있는 모델 파일

pickle 검사와 Keras Lambda 검사를 직접 합니다.

pickle은 불러올 때 파일 안의 코드가 실행될 수 있는 저장 형식입니다.

이 위험은 라이선스와 별개입니다. 시연에 쓴 BERT도 pickle 형식 가중치가 있어 파일 보안이 검토 필요로 나옵니다.

투명성 확보를 위한 AI-BOM

19

4부

BomLens로 AI-BOM 만들고 활용하기

BERT 사례로 사용자는 확인하고, 배포자는 빈 항목을 채웁니다

사용자는 AI 모델과 데이터를 가져다 쓰는 쪽, 배포자는 AI 모델을 개발해 배포하는 쪽입니다.

투명성 확보를 위한 AI-BOM

20

BomLens는 AI 모델도 스캔하는 오픈소스 SBOM 도구입니다

BomLens 데모의 스캔 목록. 펌웨어, AI 모델, 컨테이너, 소스, SBOM 스캔 여섯 건이 보인다

실제 데모 화면입니다. SK텔레콤이 개발해 Apache-2.0 라이선스로 공개했습니다.

GitHub 저장소: github.com/sktelecom/bomlens

투명성 확보를 위한 AI-BOM

21

BomLens는 모델 ID 하나로 AI-BOM을 자동으로 작성합니다

입력

BomLens가 하는 일

만들어지는 문서

Hugging Face 모델 ID

google-bert/bert-base-uncased

AI 모델 공유 사이트의 모델 주소입니다. 가중치는 내려받지 않습니다.

메타데이터 조회

모델 카드와 파일 목록만 읽습니다

데이터셋 추적

모델 카드가 밝힌 학습 데이터의 원천을 추적합니다

위험 판정

라이선스, 파일 보안, 데이터셋 세 가지로 판정합니다

CycloneDX 1.7 ML-BOM

AI-BOM 본문

SPDX 3.0.1 AI 문서

같은 내용을 SPDX 형식으로

G7 최소 요소 점검 보고서

빈 항목과 채우는 방법

투명성 확보를 위한 AI-BOM

22

사용자와 배포자는 AI-BOM을 다르게 활용합니다

사용자

AI 모델과 데이터를 가져다 쓰는 쪽

배포자

AI 모델을 개발해 배포하는 쪽

AI-BOM의 의미

이 모델과 데이터를 써도 되는지 판단하는 근거입니다. 모델, 학습 데이터, 상위 모델의 라이선스와 파일 안전성을 한 문서에서 봅니다.

AI-BOM의 의미

모델에 쓴 데이터와 조건을 이용자에게 알리고, 규제가 요구하는 기록을 갖추는 문서입니다.

BomLens가 돕는 일

모델 ID만 주면 AI-BOM을 자동으로 작성하고, 학습 데이터까지 추적해 라이선스, 파일 보안, 데이터셋을 판정합니다.

BomLens가 돕는 일

공개하기 전에 G7 최소 요소 가운데 빈 항목을 찾아 알려 주고, 배포자가 채울 필수 항목을 정리합니다.

투명성 확보를 위한 AI-BOM

23

BomLens가 만든 AI-BOM은 모델 정보를 한 화면에 보여 줍니다

BomLens가 만든 bert-base-uncased의 AI-BOM 화면. 아키텍처, 태스크, 공급자, 무결성, 식별자, 공개 정보, 참조 주소가 보인다

모델

아키텍처, 태스크, 공급자, 식별자, 무결성 해시

공개 정보

가중치, 아키텍처, 학습 데이터, 학습 과정을 모델 카드가 밝혔는지

투명성 확보를 위한 AI-BOM

24

사용자는 판정 4단계와 사용 형태에 따라 모델을 검토합니다

제약 신호 없음

알려진 무제약 신호만 있는 경우

예: Apache-2.0처럼 사용 조건이 느슨한 라이선스

조건부 사용

제시된 조건을 지키면 사용할 수 있는 경우

예: 파생물에도 같은 조건을 요구하는 라이선스

주의

알려진 차단 신호가 있는 경우

예: 비상업 라이선스

검토 필요

도구가 판정할 수 없어 사람이 확인해야 하는 경우

예: 등록되지 않은 라이선스, 라이선스 누락

사용 형태에 따라 같은 모델도 판정이 달라집니다

내부 검토와 연구

제품이나 서비스 탑재

파인튜닝 후 재배포

산출물만 이용

비상업 라이선스 모델은 내부 연구용이면 조건부 사용, 제품에 탑재하면 주의입니다.

투명성 확보를 위한 AI-BOM

25

사용자는 BomLens로 학습 데이터까지 추적한 판정을 받습니다

BomLens 모델 카드: 종합 검토 필요, Apache-2.0, 라이선스 제약 신호 없음, 파일 보안 검토 필요, 데이터셋 검토 필요, 근거 세 줄

BERT 판정

라이선스는 문제가 없지만, pickle 형식 가중치와 라이선스를 밝히지 않은 학습 데이터 때문에 검토가 필요합니다.

투명성 확보를 위한 AI-BOM

26

배포자는 BomLens로 G7 최소 요소의 빈 항목을 찾습니다

BERT, 자동으로 확인할 수 있는 41개 가운데

30 / 41

충족 30, 비어 있음 11

51개 점검 항목 가운데 사람이 검토할 10개를 뺀 값입니다.

BomLens G7 보고서: 30/41 충족, 비어 있는 SBOM 작성자 항목과 보완 방법

빈 항목마다 무엇이 없는지와 채우는 방법을 함께 보여 줍니다.

투명성 확보를 위한 AI-BOM

27

BomLens는 배포자가 직접 채워야 할 필수 항목 8개를 알려 줍니다

SPDX 3.0.1 AI 문서 상태: 초안, 채움 24, 선택 33, 직접 판단 5, 필수 누락 8. 비어 있는 필수 항목은 문서 작성 정보 1개, bert-base-uncased 1개, bookcorpus 3개, wikipedia 3개

SPDX 문서의 필수 항목 가운데 만든 주체, 출시일, 데이터셋의 생성일과 공개일은 스캔으로 알 수 없습니다. BomLens는 이 값을 추정해 채우지 않고, 배포자가 웹 화면의 빈 항목 채우기나 선언 파일로 채우게 합니다.

비어 있는 필수 항목 8개

문서 만든 주체 1, 모델 출시일 1, 데이터셋 만든 주체 2, 데이터셋 생성일과 공개일 4

투명성 확보를 위한 AI-BOM

28

배포자는 BomLens 화면에서 빈 항목을 직접 채웁니다

BomLens의 빈 항목 채우기 화면. 모델 정보, 학습 데이터, 서비스, 직접 판단할 항목, 미리보기 단계와 남은 필수 항목 8개가 보인다

질문

스캔이 채우지 못한 항목만 묻습니다.

진행

단계마다 남은 필수 항목의 수를 보여 줍니다.

결과

저장하면 SPDX 문서의 초안 표시가 사라집니다. 파일로도 채울 수 있습니다.

투명성 확보를 위한 AI-BOM

29

정리

AI 모델은 학습 데이터와 상위 모델까지 AI-BOM으로 함께 확인해야 합니다

이유

모델 라이선스만으로는 학습 데이터와 상위 모델의 조건을 알 수 없습니다.

방법

AI-BOM에 모델, 학습 데이터, 상위 모델 관계를 기록하고, 규제가 이 기록을 요구하기 시작했습니다.

도구

BomLens는 AI-BOM을 자동으로 작성하고, 사용자는 판정을 보고, 배포자는 빈 항목을 채웁니다.

투명성 확보를 위한 AI-BOM

30

BomLens를 쓸 때 알아 둘 점

모델 카드가 충실한 만큼만 결과가 나옵니다.

데이터셋은 스스로 밝힌 라이선스만 기록합니다.

개인정보나 저작물이 들어 있는지는 사람이 검토합니다.

판정은 법적 자문이 아닙니다.

저장소 (Apache-2.0)

github.com/sktelecom/bomlens

데모

sktelecom.github.io/bomlens/demo

데모 주소 QR 코드: sktelecom.github.io/bomlens/demo

QR로 데모 화면 열기

투명성 확보를 위한 AI-BOM

31

← → 이동 · O 전체 보기 · F 전체 화면