AI 모델 공개 전 체크리스트

이 체크리스트와 모델 카드 작성은 순서대로가 아니라 함께 진행하는 것입니다. 모델 카드를 쓰기 시작할 때 이 목록을 한 번 훑어보시면 좋습니다. 공개 직전에야 발견하면 학습을 다시 해야 하는 항목이 섞여 있기 때문입니다.

1. 공개할 권리

가장 먼저 확인할 항목입니다. 여기서 걸리면 나머지 준비가 무의미해집니다.

• 베이스 모델을 파인튜닝했다면, 그 모델의 라이선스가 파생 모델 배포를 허용하는가?
• 베이스 모델 라이선스가 파생 모델에 요구하는 조건을 확인했는가? (이름 표기, 라이선스 승계, 사용 제한 조항의 하위 전달 등)
• 학습에 쓴 데이터셋의 라이선스가 학습 결과물의 배포를 허용하는가?
• 외부에서 구매하거나 계약으로 받은 데이터가 섞여 있다면, 계약상 공개가 가능한가?
• 모델이나 학습 방법에 관련된 특허 출원이 있는가?

2. 라이선스 결정

• 모델 가중치에 적용할 라이선스를 정했는가?
• 베이스 모델이 특정 라이선스를 강제한다면 그것을 따랐는가?
• 용도 제한이 필요하다면 그 근거를 정리했는가? (RAIL 계열 라이선스 등)
• 학습 데이터셋을 함께 공개한다면 데이터셋 라이선스를 별도로 정했는가?
• 모델 카드의 license 항목에 정확한 식별자를 적었는가?

라이선스별 특성은 AI Model 라이선스와 Llama 2 가이드, RAIL 가이드를 참고하세요.

3. 데이터와 민감정보

• 학습 데이터에 개인정보가 포함되어 있는지 확인했는가?
• 포함되어 있다면 개인정보 담당 부서의 확인을 받았는가?
• 학습 데이터에 타인의 저작물이 포함되어 있는지 확인했는가?
• 사내 문서나 고객 데이터가 학습에 쓰이지 않았는가?
• 모델이 학습 데이터를 그대로 출력할 위험을 검토했는가?
• 저장소에 올릴 파일에 API 키, 내부 서버 주소, 계정 정보가 없는가? (민감정보 제거 체크리스트 참고)

4. 모델 카드

작성 방법은 모델 카드를 참고하세요.

• 모델의 용도와 의도한 사용 범위를 적었는가?
• 사용하지 말아야 할 범위(제한 사항)를 적었는가?
• 알려진 편향과 한계를 적었는가?
• 학습에 쓴 데이터셋을 밝혔는가?
• 평가 결과와 평가 방법을 적었는가?
• 베이스 모델이 있다면 base_model 항목에 밝혔는가?
• 연락처나 문의 경로를 적었는가?

5. 파일과 식별자

• 공개할 가중치 파일 목록이 의도한 것과 일치하는가? (실험용 체크포인트가 섞이지 않았는지)
• 각 가중치 파일의 해시(SHA-256)를 확보했는가?
• 모델 이름이 사내 명명 기준과 상표 검토를 통과했는가? (프로젝트 이름 결정 참고)
• 버전 표기 방식을 정했는가?

6. 공개 승인과 이후

• 소속 조직 담당 임원이나 리더의 승인을 받았는가?
• OSRB 검토를 요청했는가? (공개 절차의 A 단계)
• 공개 후 문의에 답할 담당자를 지정했는가?
• 취약점이나 오용 신고를 받을 경로를 정했는가?
• 모델을 내리거나 수정해야 할 상황의 판단 기준을 정했는가?

자동으로 점검하기

위 항목 중 모델 카드와 라이선스, 데이터셋 관련 부분은 도구로 확인할 수 있습니다. BomLens에 모델 id를 주면 모델 카드를 읽어 빠진 항목과 채우는 방법을 정리해 줍니다. 왜 필요한지는 AI SBOM에, 설치와 실행 방법은 BomLens AI 모델 가이드에 있습니다.

도구가 확인하는 것은 모델 카드에 무엇이 적혀 있는지까지입니다. 학습 데이터에 개인정보가 섞였는지, 계약상 공개가 가능한지 같은 판단은 사람이 해야 합니다.

관련 문서

• AI 모델 공개하기 — 전체 절차
• 모델 카드 — 작성 방법
• AI SBOM — 규제 대응 문서화

문의

판단이 어려운 항목은 OSRB(opensource@sktelecom.com)로 문의하세요.