개념
왜 AI에도 규제가 필요한가
모듈 8(레슨 1)에서 배운 "표준이 필요한 이유"(공통 언어, 감사 가능성, 규제 대응)를 떠올려보자. AI가 채용, 대출 심사, 의료 안내처럼 사람의 삶에 직접 영향을 주는 결정에 쓰이기 시작하면서, 이 모듈에서 배운 환각(레슨 2)·편향(레슨 4) 같은 문제가 개인과 사회에 실질적인 피해를 줄 수 있다는 우려가 커졌다. 이에 따라 여러 국가와 기관이 AI를 규제하는 법·표준을 만들고 있다.
EU AI Act — 위험 기반 규제
유럽연합의 AI 법은, 모듈 4(레슨 2)에서 배운 위험기반 테스트와 비슷한 발상으로 AI 시스템을 위험도에 따라 분류한다.
허용 불가(Unacceptable Risk) — 사회적 신용 점수화 같은 시스템은 금지
고위험(High Risk) — 채용, 신용평가, 의료 등 — 엄격한 검증·문서화 의무
제한적 위험(Limited Risk) — 챗봇 등 — AI임을 사용자에게 고지할 의무
최소 위험(Minimal Risk) — 대부분의 일반적인 AI 활용 — 규제 부담 적음이 위험 등급에 따라 요구되는 테스트와 문서화의 수준이 크게 달라진다 — 고위험으로 분류된 AI 시스템은, 이 모듈에서 배운 편향·환각 검증을 의무적으로, 문서로 남겨 수행해야 한다.
ISO/IEC 42001 — AI 관리 시스템 표준
모듈 8에서 배운 ISO/IEC/IEEE 29119가 소프트웨어 테스트의 국제 표준이었던 것처럼, ISO/IEC 42001은 조직이 AI를 책임감 있게 개발·운영하기 위한 관리 체계의 국제 표준이다. 모듈 8(레슨 3)에서 배운 "조직 테스트 정책"과 비슷하게, "우리 조직은 AI를 어떤 원칙으로 다루는가"를 체계적으로 정의하도록 요구한다.
QA에게 미치는 실질적 영향
- 고위험 AI 시스템을 다루는 QA는, 이 모듈의 검증(편향·환각·
통계적 신뢰도)을 문서화된 증거로 남겨야 할 의무가 생길 수 있다
- 모듈 8(레슨 6)에서 배운 표준 문서 체계(테스트 계획서, 완료
보고서)의 AI 버전을 준비해야 하는 조직이 늘고 있다
- "AI가 이 정도는 검증됐다"는 것을 규제기관이나 감사자에게
증명할 수 있는 근거 자료가 필요해진다규제가 QA의 역할을 확장한다
전통적으로 QA는 "이 기능이 명세대로 동작하는가"를 검증했다. AI 규제 환경에서는 여기에 **"이 AI가 사회적으로 용인 가능한 방식으로 동작하는가"**라는 질문이 추가된다. 이 모듈에서 배운 환각·편향·통계적 검증은 이제 "잘하면 좋은 것"이 아니라, 규제 산업에서는 법적 준수를 위한 필수 활동이 되어가고 있다.
규제는 계속 변화한다
이 분야는 이 강의를 쓰는 지금도 빠르게 바뀌고 있다. 중요한 건 특정 법 조항을 암기하는 게 아니라, **"AI를 다룰 때는 전통적인 기능 검증을 넘어, 사회적 영향까지 고려한 검증과 문서화가 필요할 수 있다"**는 감각을 갖추는 것이다.
이 모듈을 마무리하며
레슨 1에서 "정답이 하나가 아닌 소프트웨어"라는 도전을 소개하며 시작해, 환각(레슨 2)·RAG(레슨 3)·편향(레슨 4)·통계적 검증(레슨 5)이라는 구체적인 검증 기법을 쌓아왔다. 이 레슨은 그 모든 검증이 왜 "선택이 아니라 점점 의무가 되어가는지"를 보여주며 모듈을 마무리한다. 다음 모듈(18c)에서는 관점을 한 번 더 바꿔, AI가 QA를 위해 만든 산출물(테스트 코드 등)을 사람이 검증하는 법을 다룬다.
실무에서 왜 필요한가
"우리 AI 기능이 규제 대상인지도 몰랐다"는 상황은, 서비스가 커진 뒤 법적 리스크로 돌아올 수 있다. QA가 위험 기반 분류 개념을 알고 있으면, 새 AI 기능을 기획하는 단계에서부터 "이건 고위험군에 해당할 수 있으니 검증·문서화를 더 철저히 해야 한다"고 미리 제안할 수 있다.