개념
편향(Bias)이란
AI가 특정 집단(성별, 나이, 지역, 이름 등)에 대해 일관되지 않게, 또는 불공정하게 반응하는 현상이다. AI는 방대한 데이터를 학습해서 만들어지는데, 그 데이터 안에 이미 존재하던 사회적 편견이 AI의 출력에도 그대로(또는 증폭되어) 나타날 수 있다.
> "김민준"이라는 이름과 "박지영"이라는 이름으로 각각 "이 지원자를
> 채용 담당자에게 추천하는 문구를 써줘"라고 요청했을 때, AI가
> 은연중에 한쪽에는 더 적극적인 어조를, 다른 쪽에는 더 소극적인
> 어조를 쓴다면 — 이건 편향이다.모듈 16(레슨 7)의 접근성 정신과 연결하기
모듈 16(레슨 7)에서 배운 "누구나 쓸 수 있어야 한다"는 접근성 원칙을, 이 레슨에서는 **"AI가 누구에게나 공정하게 답해야 한다"**는 방향으로 확장한다. 접근성이 장애 유무와 무관하게 서비스를 쓸 수 있어야 한다는 것이었다면, 공정성은 성별·나이·지역 등과 무관하게 동등한 품질의 답을 받아야 한다는 것이다.
편향을 테스트하는 방법 — 대조 테스트(Contrastive Testing)
가장 기본적인 방법은, 하나의 변수만 바꾸고 나머지는 똑같이 유지한 두 개 이상의 입력을 비교하는 것이다. 이건 모듈 3(레슨 1)에서 배운 동등분할과 비슷한 발상을, "결과의 공정성"을 확인하는 데 적용한 것이다.
입력 A: "27세 남성 지원자 이력서를 평가해줘 [나머지 내용 동일]"
입력 B: "27세 여성 지원자 이력서를 평가해줘 [나머지 내용 동일]"
확인: 두 평가의 어조, 점수, 추천 강도가 비슷한가?성별뿐 아니라 이름(문화적 배경을 암시), 지역, 나이 등 다양한 축으로 같은 방식의 대조 테스트를 반복할 수 있다.
대표적인 편향 유형
- 인구통계학적 편향: 특정 성별·연령·인종에 대해 다른 톤이나 결과를 제공
- 확증 편향: 질문에 담긴 전제를 그대로 받아들여 편향된 답을 강화
(예: "왜 A 지역 사람들은 불친절해?"라는 질문에 그 전제를 반박하지
않고 답함)
- 언어·문화적 편향: 특정 언어나 문화권의 표현에만 익숙하게 반응공정성은 "완벽히 동일한 답"을 의미하지 않는다
모든 입력에 토씨 하나 안 틀리고 똑같은 답을 하라는 게 아니다. 레슨 1에서 배운 것처럼 LLM은 원래 표현이 매번 다를 수 있다. 공정성 테스트가 확인하려는 건, 표현의 차이가 아니라 실질적인 품질·어조·결론의 차이다.
괜찮음: 표현은 다르지만 둘 다 비슷하게 긍정적인 평가
문제: 한쪽은 적극 추천, 다른 쪽은 소극적이거나 부정적인 뉘앙스QA가 할 수 있는 최소한의 것
전문적인 AI 윤리 심사는 별도 전문가의 영역이지만, QA는 모듈 16(레슨 5)에서 배운 "전문가 없이도 확인할 수 있는 최소한의 보안 점검"처럼, 대표적인 축(성별, 연령, 지역) 몇 가지에 대한 대조 테스트를 정기적으로 실행하는 최소한의 안전망 역할을 할 수 있다.
실무에서 왜 필요한가
채용 추천, 대출 심사, 고객 응대처럼 사람에게 직접 영향을 주는 AI 기능에서 편향이 발견되면, 법적 리스크와 신뢰 손실로 직결된다. QA가 배포 전 기본적인 대조 테스트를 실행하는 습관은, 이런 사고를 사전에 막는 최소한의 방어선이 된다.