개념
모듈 25 레슨 2의 여덟 칸에 AI를 넣으면
모듈 25 레슨 2에서 ISO/IEC 25010의 여덟 품질 특성을 "확인하려면 무슨 테스트를 하는가" 로 옮겼다. 모듈 18b 레슨 11에서는 AI 시스템에 전통 소프트웨어에 없던 품질 특성이 생긴다는 것을 혼동 행렬과 함께 봤다. 두 레슨이 각자 한쪽을 다뤘다면, 이 레슨은 둘을 잇는 규격이다.
ISO/IEC 25059 는 SQuaRE 시리즈의 AI 시스템용 확장 이다. 새 모델을 처음부터 만들지 않고, 기존 제품 품질 모델과 사용 품질 모델을 그대로 가져온 뒤 AI 때문에 필요해진 부특성을 더하거나 뜻을 바꾼다. 이 설계가 실무에 주는 의미는 크다. 25010을 쓰던 조직은 체계를 바꿀 필요 없이 바뀐 칸만 새로 채우면 된다.
모듈 32 레슨 7의 인정범위 목록에서 이 규격은 AI 시스템 품질·신뢰성 갈래의 첫 줄이었다. 국내에서도 이 규격을 기준으로 AI 시스템 품질 시험을 제공하는 시험기관이 있다.
무엇이 더해지고 바뀌었는가
25059:2023이 AI 시스템에 대해 더하거나 수정한 부특성은 다음과 같다. 소속 특성은 이 규격의 평가 지침인 ISO/IEC TS 25058의 목차 배치와 대조해 정리했다.
제품 품질 모델
| 특성 | 부특성 | 상태 | 요지 |
|---|---|---|---|
| 기능 적합성 | 기능 적응성(functional adaptability) | 신규 | 변화하는 환경·데이터에 맞춰 스스로 조정하는 능력 |
| 기능 적합성 | 기능 정확성(functional correctness) | 수정 | 확률적으로 동작하는 AI는 항상 정답일 수 없다는 전제를 반영 |
| 사용성 | 사용자 통제성(user controllability) | 신규 | 사용자가 AI의 동작에 적시에 적절히 개입할 수 있는 정도 |
| 사용성 | 투명성(transparency) | 신규 | 시스템에 관한 적절한 정보가 이해관계자에게 전달되는 정도 |
| 신뢰성 | 강건성(robustness) | 신규 | 불리한 조건에서도 기능 정확성을 유지하는 능력 |
| 보안성 | 개입 가능성(intervenability) | 신규 | 운영자가 위해를 막기 위해 개입할 수 있는 정도 |
사용 품질 모델
| 특성 | 부특성 | 상태 |
|---|---|---|
| 만족 | 투명성 | 신규 |
| 위험으로부터의 자유 | 사회·윤리적 위험 완화(societal and ethical risk mitigation) | 신규 |
표에서 두 가지를 먼저 짚자.
기능 정확성은 "신규"가 아니라 "수정"이다. 전통 소프트웨어에서 기능 정확성은 "정확한 결과를 내는가" 였다. 그런데 분류 모델은 설계상 일정 비율로 틀린다. 25059는 이 부특성의 의미를 "확률적 오류가 있음을 전제로, 그 오류가 요구된 수준 안에 있는가" 로 바꿨다. 모듈 18b 레슨 5에서 비결정적 출력을 통계로 검증한 이유가 규격 수준에서 정당화되는 지점이다.
비슷한 이름의 두 부특성을 구분해야 한다. 사용자 통제성은 사용성 아래에 있고 사용자 관점이다. 개입 가능성은 보안성 아래에 있고 운영자 관점이다. 추천 알림을 사용자가 끌 수 있는가는 전자, 이상 동작하는 모델을 운영자가 즉시 차단·롤백할 수 있는가는 후자다.
부특성을 검증 질문으로 — 모듈 25의 4단계 그대로
모듈 25 레슨 2에서 품질 특성을 테스트 케이스로 옮기는 4단계를 배웠다. AI 부특성에도 똑같이 적용한다. 신규·수정 부특성마다 검증 질문과 대표 시험을 붙이면 이렇다.
| 부특성 | 검증 질문 | 대표 시험 |
|---|---|---|
| 기능 정확성(수정) | 요구된 성능 지표가 대표 데이터에서 목표 수준을 넘는가? 그 차이가 통계적으로 의미 있는가? | 분류 성능 평가(레슨 3의 TS 4213), 메타모픽 테스트 |
| 기능 적응성 | 데이터 분포가 바뀐 뒤 적응 절차가 성능을 회복시키는가? 적응이 다른 기능을 망가뜨리지 않는가? | 분포 변화 시나리오 전후 비교, 재학습 회귀 |
| 강건성 | 잡음·결측·기형 입력·경계 밖 입력·적대적 섭동에서 성능이 얼마나 떨어지는가? | 섭동 강도별 성능 곡선, 적대적 예제 |
| 사용자 통제성 | 사용자가 AI 결과를 거부·수정·끌 수 있는가? 그 조작이 적시에 반영되는가? | 사용성 시험 세션, 조작 경로 전수 확인 |
| 투명성(제품) | 사용자가 AI가 개입했다는 사실, 한계, 신뢰도를 알 수 있는가? | 화면·문서 검토, 사용자 이해도 확인 |
| 개입 가능성 | 운영자가 모델을 차단·우회·롤백할 수단이 있고 실제로 동작하는가? 권한은 통제되는가? | 차단·롤백 절차 리허설, 권한 시험 |
| 사회·윤리적 위험 완화 | 집단별 성능 차이, 차별적 결과가 허용 범위 안인가? | 편향·공정성 지표(레슨 4의 TR 24027) |
이 표를 보면 새 부특성의 대부분이 이 모듈의 다른 레슨으로 이어진다 는 것이 보인다. 기능 정확성은 레슨 3, 사회·윤리적 위험은 레슨 4, 강건성·투명성·개입 가능성은 레슨 5의 신뢰성 대책과 연결된다. 25059는 이 모듈의 목차 역할 을 한다.
강건성 하나를 끝까지 — "잘 된다"를 곡선으로 바꾸기
강건성은 가장 자주 요구되면서 가장 모호하게 적히는 부특성이다. "AI는 다양한 조건에서 강건해야 한다"는 문장은 시험할 수 없다. 모듈 2에서 배운 검증 가능한 요구사항 형식으로 바꾸려면 세 가지를 정해야 한다.
1. 무엇을 불리한 조건으로 볼 것인가 섭동의 종류
2. 얼마나 불리하게 할 것인가 섭동의 강도 단계
3. 얼마까지 떨어지면 허용하는가 성능 하락 허용 한계예를 들어 결함 이미지 분류 모델이라면 이렇게 된다.
| 섭동 | 강도 단계 | 허용 기준 (예) |
|---|---|---|
| 가우시안 잡음 | σ = 0.01 / 0.05 / 0.1 | F1 하락 3%p / 8%p / 15%p 이내 |
| 밝기 변화 | ±10% / ±30% | 하락 3%p / 10%p 이내 |
| 부분 가림 | 5% / 15% 면적 | 하락 5%p / 15%p 이내 |
| 해상도 저하 | 1/2 / 1/4 | 하락 5%p / 20%p 이내 |
결과는 한 숫자가 아니라 섭동 강도에 따른 성능 곡선 이다. 곡선이 완만하게 내려가면 강건하고, 특정 강도에서 절벽처럼 떨어지면 그 지점이 운영 조건의 경계 가 된다. 이 경계를 사용 설명서에 적는 순간 강건성 시험은 투명성(한계를 알린다)의 증거로도 쓰인다.
허용 기준 칸의 숫자는 규격이 주지 않는다. 다음 레슨의 TS 25058이 명시적으로 정확한 측정량과 임계값은 시스템마다 달라서 규정하지 않는다 고 말한다. 숫자는 위험 분석과 의뢰자 합의에서 온다. 모듈 31 레슨 3에서 판정 기준을 의뢰자와 합의해 성적서에 명시하라고 한 원칙이 AI 품질 시험에서 가장 무거워진다.
판의 간극 — 25010:2023과 25059의 다음 판
모듈 32 레슨 7에서 25010이 2023년에 개정 되어 특성이 아홉 개로 바뀌었다고 했다. 여기서 흥미로운 간극이 생긴다. 25059:2023과 TS 25058:2024의 목차는 25010:2011 구조(여덟 특성, 호환성·이식성 포함)를 그대로 따른다. 25058의 각 부특성 지침이 25023:2016의 측정량 을 참조하는 것도 같은 이유다.
그리고 25059는 이미 개정 초안(DIS) 이 진행 중이다. 공개된 해설에 따르면 개정안은 품질 모델을 제품 품질·사용 품질· 서비스 품질 의 세 모델로 늘리고, 환경 지속가능성 을 성능 효율성의 부특성과 위험 완화 쪽에 넣으며, 25010:2023· 25019:2023으로 재편된 SQuaRE 구조에 맞춘다. 초안의 공개 의견 수렴은 2026년 3월에 끝났다.
현재 인정·계약에서 쓰이는 조합 25059:2023 + TS 25058:2024 + 25023:2016 (25010:2011 구조)
개정이 향하는 조합 25059 개정판 + 25010:2023 + 25019:2023 (세 모델, 지속가능성)실무 결론은 모듈 32 레슨 7과 같다. 시험 계획서와 성적서에 판을 고정 하고, 의뢰자가 25010:2023 용어(예: 사용성 대신 상호작용 능력)로 요구하면 대응표를 붙인다. 장기 계약이라면 25059 개정판이 발행됐을 때 어떻게 전환할지 조항을 둔다.
실무에서 왜 필요한가
AI 제품의 품질 요구사항은 대개 "정확도 95% 이상" 한 줄에서 멈춘다. 이 한 줄은 25059의 기능 정확성 한 칸일 뿐이다. 강건성·사용자 통제성·개입 가능성·사회적 위험이 비어 있으면, 출시 후 문제가 되는 곳이 정확히 그 빈칸이다. 조명이 바뀐 공장에서 성능이 떨어지고(강건성), 사용자가 잘못된 추천을 끌 방법이 없고(사용자 통제성), 이상 동작한 모델을 롤백하는 데 반나절이 걸리고(개입 가능성), 특정 집단에서만 오류율이 높다(사회·윤리적 위험).
25059를 요구사항 리뷰 체크리스트 로 쓰면 이 빈칸이 기획 단계에서 드러난다. 모듈 25 레슨 2에서 "여덟 칸을 억지로 다 채우지 말라"고 했듯이 모든 칸에 요구를 만들 필요는 없지만, 비워 둔 칸마다 비워 둔 이유 가 있어야 한다.
규제 쪽에서도 쓰인다. 모듈 18b 레슨 6에서 본 AI 규제들은 투명성·인간 감독·강건성을 요구하는데, 법 문장은 결과만 말한다. 25059의 부특성은 그 결과를 측정 가능한 품질 요구로 번역하는 표준 어휘 를 준다. 모듈 34에서 법이 요구하고 규격이 방법을 준다는 구조를 봤는데, AI에서도 같은 층이 만들어지고 있다.