개념
COO — 일상적인 사업 운영과 생산 관리를 총괄
CEO가 어디로 갈지 정한다면, COO는 매일 굴러가게 만든다. 회사마다 범위 편차가 가장 큰 직함이기도 하다 — 생산·물류·CS 운영을 모두 갖기도 하고, 사업부 몇 개만 맡기도 한다.
| 하는 일 | 대표 숫자 | QA 접점 |
|---|---|---|
| 운영 프로세스 설계·개선 | 처리 리드타임, 운영 비용 | 운영 절차 변경의 검증 |
| 서비스 수준 관리 | SLA·SLO, 가용성 | 장애 기준(모듈 14 레슨 7), 성능 기준(모듈 16 레슨 2) |
| 장애·위기 대응 | 장애 횟수, 복구 시간(MTTR) | 장애 재현, 사후 분석(포스트모템) |
| CS·물류·생산 운영 | 처리량, 오류율 | 운영 도구(백오피스) 테스트 |
SLO를 숫자로 감각하기
모듈 14 레슨 7에서 SLI·SLO·에러 버짓의 개념을 배웠다. COO와 대화하려면 가용성 퍼센트가 시간으로 얼마인지 알아야 한다. (30일 기준)
| 가용성 목표 | 한 달 허용 중단 시간 |
|---|---|
| 99% | 약 7시간 12분 |
| 99.9% | 약 43분 |
| 99.95% | 약 22분 |
| 99.99% | 약 4분 19초 |
에러 버짓(Error budget)은 "허용 중단 시간 중 남은 양" 이다. 이번 달 버짓을 다 썼다면 새 기능 배포보다 안정화가 먼저라는 합의를 만드는 도구다. QA는 배포가 버짓을 얼마나 쓰게 했는지 데이터를 줄 수 있다.
운영 매뉴얼(런북)도 테스트 대상이다. "결제 장애 시 수동 전환 절차" 가 문서대로 실제로 되는지, 장애가 나기 전에 확인한다.
CHRO — 채용, 평가, 복지 등 인사 업무 총괄
| 하는 일 | QA와의 관계 |
|---|---|
| 채용 | QA 직무 기술서(JD), 면접 과제 설계 |
| 평가·보상 | QA 성과를 무엇으로 평가할지 (결함 수만 세면 왜곡된다) |
| 교육·경력 개발 | QA 역량 모델(모듈 7 레슨 9의 스킬 매트릭스), 경력 사다리 |
| 조직문화 | 결함을 보고한 사람이 비난받지 않는 문화 |
| 인사 시스템 | 급여·근태·평가 시스템의 품질 |
QA가 CHRO와 만나는 두 방향.
- 내 커리어 — 경력 사다리가 없으면 QA는 "시니어 다음" 이 안 보인다. 역량 모델 초안을 QA 리드가 먼저 제안하는 경우가 많다.
- HR 시스템 테스트 — 급여 계산은 결정테이블과 경계값의 교과서다(모듈 3 레슨 1·3). 입사일·퇴사일 경계, 수습 기간, 휴직, 연장근로 조건이 얽힌다. 그리고 가장 민감한 개인정보를 다룬다.
AI 도입에 따른 역할 재정의도 CHRO 의제다. "테스트 실행" 비중이 줄고 "AI 산출물 검증·판단" 비중이 커지는 변화(스테이지 6)를 직무 기술서와 교육 계획으로 옮기는 일에 QA가 근거를 줄 수 있다.
평가 지표 설계 예:
| 나쁜 지표 | 왜 나쁜가 | 나은 지표 |
|---|---|---|
| 개인별 결함 발견 수 | 사소한 결함 쪼개기, 개발자와 대립 | 결함 탈출률, 치명 결함 사전 발견 비율 |
| 자동화 스크립트 개수 | 쓸모없는 스크립트 양산 | 자동화로 대체한 회귀 시간, 플래키율 |
(지표 자체는 모듈 6 레슨 5에서 다뤘다)
CTO — 제품 기술과 개발 조직
| CTO | CIO (레슨 4) | |
|---|---|---|
| 대상 | 고객에게 파는 제품의 기술 | 사내에서 쓰는 IT 시스템 |
| 관심 | 아키텍처, 개발 생산성, 기술 부채 | 업무 시스템, 인프라 안정성, IT 비용 |
CTO가 자주 보는 개발 성과 지표로 DORA 4대 지표가 있다.
| 지표 | QA가 영향을 주는 방식 |
|---|---|
| 배포 빈도 | 느린 수동 회귀는 배포 빈도를 떨어뜨린다 |
| 변경 리드타임 | 테스트 대기 시간이 리드타임에 포함된다 |
| 변경 실패율 | 배포 후 장애·롤백 비율 — QA 품질이 직접 드러나는 숫자 |
| 복구 시간 | 재현·원인 분석 속도 |
속도(앞의 둘)와 안정성(뒤의 둘)을 함께 보는 지표라서, QA가 "속도를 늦추는 조직" 이 아니라는 것을 보여주기 좋다.
CPO — 제품 비전과 로드맵
Chief Product Officer. PM 조직을 이끌고 무엇을 만들지, 무엇을 먼저 할지 정한다.
| QA 접점 | 설명 |
|---|---|
| 요구사항 품질 | 명세 결함은 CPO 조직의 산출물에서 나온다 (모듈 2 레슨 3) |
| 인수 기준 | "완료" 의 정의를 PM과 함께 쓴다 |
| 기능 출시 판단 | 기능 플래그, 단계적 출시 범위 |
약어 주의 — CPO가 Chief Privacy Officer(개인정보 보호책임자)일 수도 있다. 한국 법에서 CPO라고 하면 보통 이쪽이다. (레슨 4)
CAIO — AI 전략과 거버넌스
Chief AI Officer. AI를 어디에 쓸지, 어떻게 안전하게 쓸지를 책임진다. 최근 빠르게 늘어난 직함이다.
| 하는 일 | 예 |
|---|---|
| AI 활용 전략 | 어떤 업무·기능에 AI를 넣을지 |
| 거버넌스 | 사용 가이드, 승인 절차, 고위험 AI 관리 |
| 리스크 관리 | 환각, 편향, 개인정보·저작권, 보안 |
| 규제 대응 | 국내외 AI 규제 준수 |
규제 흐름 두 가지 — EU AI Act의 위험 기반 분류는 모듈 18b 레슨 6에서 다뤘다. 여기서는 미국과 한국을 본다.
- 미국 — 연방정부 관리예산처(OMB)가 2024년 각 연방기관에 CAIO 지정을 요구했고(M-24-10), 2025년 4월 이를 대체한 M-25-21 에서도 기관별 CAIO 지정과 고영향 AI 관리 절차를 유지했다.
- 한국 — 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(AI 기본법) 이 2026년 1월 22일 시행됐다. 고영향 인공지능의 안전성·신뢰성 확보 조치, 생성형 AI 결과물 표시 등이 핵심이고, 정부는 시행 초기 최소 1년 이상의 계도기간을 두겠다고 밝혔다.
이 법들이 민간 기업에 CAIO라는 직함을 두라고 강제하는 것은 아니다. 하지만 이런 의무에 대응하는 일이 CAIO나 AI 거버넌스 조직의 몫이 된다.
QA 접점 — AI 기능은 QA가 가장 필요한 영역이다
| 검증 | 설명 |
|---|---|
| 품질 평가 | 정확도, 환각률 — 평가 데이터셋을 누가 만들고 관리하는가 |
| 편향·안전 | 민감 주제, 차별적 응답, 레드팀 |
| 표시 의무 | AI 생성 결과물임이 표시되는가 (법 해석은 법무 확인) |
| 회귀 | 모델·프롬프트를 바꿨을 때 품질이 떨어지지 않는가 (모듈 18b 레슨 5) |
| 사람 검토 | 사람이 개입·수정할 수 있는 경로가 동작하는가 |
CQO — 전사 품질 책임자
Chief Quality Officer. 품질경영 체계, 규제 준수, 지속적 개선, 품질 문화를 책임지고, 보통 CEO에게 보고한다.
| 업종 | 모습 |
|---|---|
| 제조·제약·의료기기·병원 | 흔하다. 품질 규제와 인증이 사업의 전제다 (모듈 25) |
| 소프트웨어·IT 서비스 | 드물다. 대신 VP of Quality, QA 본부장, Head of QA 같은 직함 |
QA 커리어의 최상단이 어떤 모습인지 보여주는 역할이다. 소프트웨어 회사에서 품질이 C레벨 의제가 되는 순간은 대개 대형 장애·보안 사고 직후다. 그 전에 지표와 체계를 준비해 둔 QA 리드가 그 자리를 맡는다.
C레벨 지도 완성
방향 CEO · CSO · (CEO Japan: 지역)
돈 CFO
매출·고객 CRO · CMO · CCO
운영 COO
사람 CHRO
기술 CTO · CIO · CDO
제품 CPO(Product)
위험 CISO · CPO(Privacy) · CLO
AI CAIO
품질 CQO / Head of QA런북 테스트는 장애 전에 한다
위에서 "운영 매뉴얼(런북)도 테스트 대상" 이라고 했는데, 이것이 COO 조직과 일하는 가장 구체적인 접점이다. 확인 항목이 정해져 있다.
| 확인 | 왜 |
|---|---|
| 적힌 명령·화면이 지금도 유효한가 | 시스템이 바뀌면 문서는 안 바뀐다 |
| 그 작업에 권한이 있는 사람이 누구인가 | 새벽에 그 사람이 없으면 절차가 멈춘다 |
| 되돌리는 절차가 있나 | 전환만 있고 복귀가 없는 런북이 흔하다 |
| 소요 시간이 적혀 있나 | 에러 버짓 판단에 쓰인다 |
두 번째가 실제 장애에서 가장 많이 걸린다. 절차는 맞는데 그 시각에 실행할 권한을 가진 사람이 없는 경우다. 이것은 기능 결함이 아니라 운영 설계의 공백이고, 평시에 한 번 돌려 보면 드러난다.
사례 — 포스트모템에서 QA가 앉는 자리
결제 장애로 47분간 주문이 안 된 날이 있었다. 다음 날 포스트모템에 COO·CTO·개발 리드·QA가 앉았고, 첫 질문이 QA에게 왔다.
"이건 왜 테스트에서 안 걸렸습니까?"
QA가 처음 준비한 답은 범위 설명이었다 — "해당 조건은 테스트 범위에 없었습니다." 사실이었지만 그 자리에서는 변명으로 들렸다. 분위기가 "QA 책임" 쪽으로 기울었다.
두 번째 장애 때는 답의 구조를 바꿨다. 같은 질문에 세 줄로 답했다.
| 순서 | 답 |
|---|---|
| 1 | 사실 — "외부 결제사 응답이 30초를 넘는 조건이었고, 테스트 환경의 모의 서버는 항상 1초 내 응답합니다" |
| 2 | 왜 볼 수 없었나 — "지연 응답을 만들 수 있는 환경이 없습니다" |
| 3 | 무엇을 바꾸면 잡히나 — "모의 서버에 지연·타임아웃 응답을 추가하면 됩니다. 반나절 작업입니다" |
3번이 자리의 성격을 바꿨다. 대화가 "누가 놓쳤나" 에서 "무엇을 만들면 다음에 잡히나" 로 옮겨졌고, 그 자리에서 모의 서버 개선이 과제로 배정됐다.
그리고 COO가 추가로 물은 것이 있었다.
"이 장애로 에러 버짓을 얼마나 썼습니까?"
QA가 그 숫자를 갖고 있었다 — 47분은 99.9% 목표의 한 달 버짓(43분)을 이미 넘긴 양이었다. 그 한 줄이 "이번 달은 새 기능보다 안정화" 라는 결정을 만들었다.
여기서 남는 교훈이 셋이다.
- 범위 설명만으로 끝내면 변명이 된다 — "무엇을 바꾸면 잡히나" 를 붙인다
- 에러 버짓을 숫자로 알고 있으면 장애의 의미를 운영 언어로 말할 수 있다
- 포스트모템에서 QA의 가치는 원인 분석이 아니라 "재발을 막을 장치" 제안 이다(모듈 10의 결함 분석과 같은 태도)
마지막 줄을 놓치기 쉽다. 원인 분석은 개발이 더 잘하고, "그 시점에 아무도 그것을 볼 수 없었던 구조" 를 찾는 것이 QA의 강점이다(모듈 6 레슨 3).
"QA가 속도를 늦춘다" 에 답하는 법
이 오해는 거의 모든 조직에 있다. 그리고 감정으로 반박하면 이기지 못한다 — DORA 4대 지표가 숫자로 답하는 틀을 준다.
| 주장 | 숫자로 본 반론 |
|---|---|
| "QA 때문에 배포가 느리다" | 배포 빈도만 보면 그렇다. 그런데 변경 실패율과 복구 시간은 QA가 내리는 숫자다 |
| "테스트 없이 빨리 내보내자" | 배포 빈도는 올라가고 변경 실패율이 같이 오른다. 롤백과 긴급 배포가 늘어난다 |
| "자동화하면 QA가 필요 없다" | 자동화는 리드타임을 줄이고, 변경 실패율은 무엇을 자동화할지 고르는 판단에서 나온다 |
핵심은 네 지표를 함께 본다는 것이다. 속도 둘만 보면 QA는 비용이고, 안정성 둘을 함께 보면 QA는 그 둘을 지키는 조직이 된다. 그래서 QA가 먼저 DORA를 꺼내는 편이 유리하다.
실무적으로 준비할 것은 하나다 — 우리 팀의 변경 실패율(배포 중 장애· 롤백 비율)을 알고 있는 것. 모듈 6 레슨 5의 지표에 그 한 줄을 더해 두면, 이 대화에서 쓸 숫자가 생긴다.
실무에서 왜 필요한가
운영(COO)과 인사(CHRO)는 QA가 직접 보고할 일은 적지만 영향은 크게 받는 조직이다. 장애가 나면 포스트모템 자리에 COO가 앉고, 평가 시즌에는 QA의 성과를 무엇으로 볼지 인사 기준이 정한다. 두 조직의 언어(SLO, 에러 버짓, 역량 모델, 평가 지표)를 모르면 QA는 자기 일의 결과가 어떻게 해석되는지 통제할 수 없다.
그리고 AI 기능이 붙은 서비스가 늘면서 CAIO나 AI 거버넌스 조직이 생기고 있다. 이들이 가장 필요로 하는 것이 AI 기능을 평가하고, 모델이 바뀔 때마다 회귀를 잡는 능력 — 즉 QA의 역량이다. 스테이지 6에서 배운 검증 기법이 조직 안에서 누구에게 쓰이는지를 알면, 그 역량을 어디에 가져가야 하는지도 보인다.
새 C레벨이 생긴다는 것은 새 이해관계자가 생긴다는 뜻이고, 그 자리에서 QA의 역할은 새로 정의된다. CTO·CPO와의 관계는 이미 익숙하겠지만, 그들이 보는 지표(DORA, 로드맵)로 말할 수 있어야 "QA가 속도를 늦춘다"는 오해에 숫자로 답할 수 있다.
채용시장에서의 위치
- 장애 대응·포스트모템 경험은 운영 성숙도가 높은 회사일수록 필수로 본다. COO·CTO와 같은 테이블에 앉는 일이다.
- AI 기능을 가진 서비스가 늘면서 "AI 품질 평가", "LLM 평가", "AI 레드팀" 이 QA 공고에 등장했다. CAIO 조직과 협업하는 자리다.
- 리드 공고의 "QA 조직 구축, 역량 모델·온보딩 설계" 는 CHRO와 함께 하는 일이다.
- DORA 지표로 품질을 말할 수 있으면 "QA가 속도를 늦춘다" 는 편견에 숫자로 답할 수 있다.
질문별로 갈리는 지점은 이렇다.
| 질문 | 약한 답 | 강한 답 |
|---|---|---|
| "장애 포스트모템에서 뭘 하세요?" | "원인을 함께 찾습니다" | "재발을 막을 장치를 제안합니다. 원인 분석은 개발이 더 잘합니다" |
| "왜 테스트에서 안 걸렸냐고 물으면?" | "범위에 없었다고 설명합니다" | "사실·왜 볼 수 없었나·무엇을 바꾸면 잡히나 세 줄로 답합니다" |
| "QA가 속도를 늦춘다는 말에는?" | "품질이 중요하다고 설명합니다" | "DORA 네 지표를 함께 봅니다. 변경 실패율과 복구 시간은 QA가 내리는 숫자입니다" |
| "SLO를 아세요?" | "가용성 목표입니다" | "99.9%는 한 달 43분입니다. 장애가 버짓을 얼마나 썼는지 말할 수 있습니다" |
| "AI 기능 품질은 어떻게 보세요?" | "결과를 확인합니다" | "모델이 바뀔 때마다 회귀를 잡는 체계가 필요합니다. 평가 기준을 먼저 합의합니다" |
두 번째가 가장 변별력이 크다. 같은 사실을 전하면서 변명이 아니라 제안으로 만드는 능력이고, 그것은 포스트모템 자리를 실제로 겪어 본 사람만 안다.
네 번째는 COO·SRE 조직과 일하는 자리에서 바로 쓰인다. 퍼센트를 시간으로 바꿔 말할 수 있는지가 그 조직의 언어를 아는 신호다.