본문으로 건너뛰기
QA-Lab용어집
고급약 12.5시간 (예상)

클라우드·AI 인프라 플랫폼 QA — Kubernetes·OpenStack·GitOps·GPU 워크로드

인프라 플랫폼의 결함은 응답이 아니라 수렴하지 않는 상태와 남은 리소스로 드러난다. 제어·데이터 평면, 비동기 수렴과 부분 생성 누수, 테넌트 격리와 폐쇄망 설치를 기준으로 쓰고, Kubernetes의 observedGeneration·conditions·오퍼레이터 조정 루프, OpenStack Tempest·Rally와 SLURP 업그레이드 경로, Argo CD 동기화·헬스 판정·PostSync 스모크·Argo Rollouts 분석 게이트를 검증한다. GPU 층에서는 DCGM 진단·Xid·MIG 격리·NCCL busbw·Kueue 입장·체크포인트 재개를, 추론 서빙에서는 TTFT·ITL·goodput·부하 모양·오토스케일·런타임 교체 회귀를 판정한다. 정상 상태 가설로 장애를 주입해 복구 시간을 재고, 에이전트 샌드박스의 격리·도구 권한·출구·웜 풀 오염·pass^k를 시험하며, CSAP·CC인증·품질성능 확인·고객 인수시험에 쓸 증거를 파이프라인에서 만든다. 마지막으로 kind 다중 노드 랩에 상태 모델 판정·폴링 대기·스냅샷 차분을 직접 올려 보고, 병렬 파일시스템의 학습 데이터 읽기·체크포인트 쓰기·메타데이터를 작업 부하로 나눠 재며 일관성 보장 범위와 장애 시 데이터 상태를 확인한다.

★ 인프라 플랫폼의 결함은 응답이 아니라 수렴하지 않는 상태와 남은 리소스로 드러난다.

학습 목표

이 모듈 한 줄 요약 — "응답이 맞아도 결함일 수 있는 곳". 웹에서는 버튼을 누르면 결과가 바로 응답에 담겨 온다. 여기서는 "접수했다" 는 답만 먼저 오고, 진짜 일은 그 뒤 몇 분 동안 사용자가 보지 않는 곳에서 일어난다. 그래서 무엇을 볼 것인가가 아예 다르다 — 응답이 아니라 시간이 지난 뒤의 상태와 남겨진 자원을 본다.

지금까지의 비기능 테스트는 웹·모바일 서비스를 대상으로 했다. 이 모듈은 그 서비스들이 올라가는 바닥 — Private Cloud 관리 플랫폼, GPUaaS, AI 학습·추론 플랫폼, AI 에이전트 실행 플랫폼 — 을 검증한다. 채용 공고에 "Kubernetes/OpenStack, GPU·AI 워크로드 등 인프라 플랫폼 도메인 QA", "GitOps(ArgoCD 등) 기반 배포 흐름", "성능/부하/신뢰성 테스트", "인증 시험 대응·납품 검증"으로 나오는 요건을 한 흐름으로 묶는다.

먼저 제어 평면과 데이터 평면을 가르고, 요청이 아니라 상태의 수렴·부분 생성 누수·테넌트 격리·폐쇄망 제약을 기준으로 쓴다. Kubernetes에서는 observedGeneration과 conditions로 status를 믿어도 되는 시점을 판정하고 오퍼레이터의 조정 루프 성질을 시험하며, OpenStack에서는 Tempest·Rally와 정리 유틸리티, SLURP 업그레이드 경로로 배포 품질을 증명한다. GitOps 흐름에서는 동기화·헬스 상태, PostSync 스모크, Argo Rollouts 분석 게이트로 배포 자체에 판정을 심는다. GPU 층에서는 DCGM 진단·Xid·MIG 격리·NCCL busbw·Kueue 입장·체크포인트 재개를 기준으로 삼고, 추론 서빙에서는 TTFT·ITL·goodput과 부하 모양·오토스케일·모델 교체 회귀를 판정한다. 장애 주입으로 정상 상태 가설과 복구 시간을 숫자로 남기고, 에이전트 실행 플랫폼의 샌드박스 격리·도구 권한·출구·웜 풀 오염을 시험한 뒤, CSAP·CC인증·품질성능 확인·고객 인수시험에 쓸 증거를 파이프라인에서 만드는 법으로 마무리한다.

이 모듈을 관통하는 문장은 하나다. 인프라 플랫폼의 결함은 응답이 아니라 수렴하지 않는 상태와 남은 리소스로 드러난다.

완료 후 할 수 있는 것

  • 제어 평면·데이터 평면을 구분하고, 상태 모델·폴링 대기·부분 생성 누수·쿼터·과금 부수 효과·테넌트 격리·폐쇄망 설치를 검증 기준으로 쓸 수 있다
  • Kubernetes 리소스의 generation·observedGeneration·conditions로 거짓 통과를 막고, 오퍼레이터의 수렴·멱등성·자기 치유·finalizer·재시작 내성을 시험할 수 있다
  • kind·가상 클러스터로 PR 환경을 만들고 흉내 검증과 실물 검증의 범위를 기록하며, 버전 호환 매트릭스와 제거 예정 API 검사를 운영할 수 있다
  • Tempest 포함·제외 목록과 기능 플래그를 검증 범위 선언으로 관리하고, 정리 유틸리티와 Rally SLA로 누수와 제어 평면 부하 결함을 찾을 수 있다
  • SLURP 건너뛰기를 포함한 업그레이드 경로와 업그레이드 전 생성 리소스 유지를 릴리스 전 검증으로 설계할 수 있다
  • GitOps 흐름에서 이미지 다이제스트 연결, 동기화·헬스 판정, 커스텀 헬스 체크, PostSync 스모크, 카나리 분석 게이트의 함정을 검증할 수 있다
  • GPU Operator 구성요소, DCGM 진단 단계와 Xid 조치, MIG와 시분할의 격리, NCCL algbw·busbw, Kueue 입장·선점, 체크포인트 재개 정확성을 기준으로 판정할 수 있다
  • TTFT·TPOT·ITL·goodput으로 추론 성능 기준을 쓰고, 부하 모양·스윕 용량·MLPerf 시나리오·오토스케일·런타임 교체 회귀를 판정할 수 있다
  • 정상 상태 가설·폭발 반경·중단 조건으로 장애 주입 실험을 설계하고 감지·격리·복구 시간과 손실 학습 스텝을 측정할 수 있다
  • 에이전트 샌드박스의 격리 런타임·자원 고갈·도구 권한·출구·비밀·인젝션·웜 풀 오염·킬 스위치·pass^k를 시험할 수 있다
  • CSAP 등급과 CC인증·품질성능 확인에 쓸 증거를 대응표로 관리하고, 설치형 납품 인수시험을 계획·수행·결과서로 운영할 수 있다

채용시장에서의 위치

이 모듈의 요건 조합은 GPU 클라우드·AI 인프라 스타트업, 소버린 AI·프라이빗 클라우드 솔루션 기업, 통신사·대기업 클라우드 조직, 공공·금융 전용 클라우드 사업자의 QA 공고에서 나온다. 이 조직들은 AI 수요 급증으로 빠르게 성장하고 있지만 인프라 도메인을 아는 QA 는 시장에 매우 드물다. 인프라 경험자는 대개 SRE·DevOps로 가고, QA 경력자는 대개 웹·모바일 서비스에 머물러 왔기 때문이다.

QA 경력자에게 유리한 지점은 판정 기준을 세우고 결함을 재현·분류하는 습관이다. SRE는 장애를 빨리 복구하는 데 강하지만, "202 이후 BUILD 체류", "observedGeneration 불일치 상태의 Ready", "재시도로 가려진 간헐 체크포인트 결함", "웜 풀 재사용 오염"을 기준으로 만들어 매주 판정 하는 일은 QA의 영역이다. 반대로 가장 큰 공백은 Kubernetes·GPU·분산 통신의 기본 개념이고, 이 모듈은 그 공백을 검증 관점에서 필요한 만큼 채운다.

면접에서 힘을 갖는 이야기는 도구 이름이 아니라 인프라에서만 나는 결함을 어떤 기준으로 잡았는가 다. nvidia-smi는 정상이었지만 NCCL busbw가 기준의 일부라 소켓 대체 전송을 찾은 이야기, 카나리 분석 쿼리가 비어 아무것도 측정하지 않고 진행되던 것을 막은 이야기, CSAP 평가 항목을 회귀 층 레코드로 대응시켜 준비 기간을 줄인 이야기가 이 모듈의 성숙도를 보여준다.

레슨 (11개)

  1. 고급약 35분

    인프라 플랫폼 QA는 무엇을 검증하는가 — 제어 평면·데이터 평면·비동기 수렴·멀티테넌시

    Private Cloud 관리 플랫폼, AI 학습·추론 플랫폼의 QA는 웹 서비스 QA와 결함이 드러나는 방식이 다르다. 제어 평면과 데이터 평면의 구분, 요청이 아니라 상태가 수렴하는지를 보는 비동기 검증, 폴링과 타임아웃 설계, 부분 생성 누수와 쿼터·과금 부수 효과, 테넌트 격리, 그리고 소버린·에어갭 환경이 검증에 더하는 제약을 다룬다.

  2. 고급약 40분

    Kubernetes 위에서 검증하기 — 선언형 상태·conditions·오퍼레이터·테스트 클러스터·적합성 시험

    Kubernetes 기반 플랫폼에서 QA가 읽고 판정해야 할 것은 리소스의 spec과 status, conditions와 이벤트다. 선언형 모델에서의 검증 기준 쓰기, observedGeneration으로 오래된 상태를 걸러내는 법, 오퍼레이터와 커스텀 리소스 검증, kind·가상 클러스터로 PR 환경 만들기, 적합성 시험과 버전 호환 매트릭스, pytest로 상태를 판정하는 패턴을 다룬다.

  3. 고급약 40분

    OpenStack 기반 Private Cloud 검증 — Tempest·Rally·SLURP 업그레이드·쿼터와 테넌트 격리

    OpenStack 위에 관리 플랫폼을 올린 Private Cloud에서 QA가 쓰는 표준 도구와 검증 관점을 다룬다. Tempest의 API·시나리오 테스트와 smoke 태그, 포함·제외 목록과 설정, 정리 유틸리티로 남은 리소스 잡기, Rally 작업과 SLA로 제어 평면 부하 판정, SLURP 주기에 맞춘 업그레이드 검증, 관리 플랫폼이 OpenStack 위에 더한 기능을 검증하는 경계 설정을 다룬다.

  4. 고급약 40분

    GitOps·Argo CD 배포 흐름에서 QA — 동기화·상태 판정, 훅 스모크, 점진 배포 분석 게이트

    GitOps에서는 배포가 Git 커밋이고, Argo CD가 클러스터를 그 커밋에 맞춘다. QA가 이 흐름에 검증을 심는 지점 — 매니페스트 PR 검증, 동기화 상태와 헬스 상태의 구분, 커스텀 헬스 체크, PostSync 훅 스모크 테스트, Argo Rollouts 분석 템플릿으로 카나리 단계마다 지표 판정, 환경 승격과 드리프트 감시, 롤백 검증 — 을 다룬다.

  5. 고급약 45분

    GPU·AI 학습 워크로드 검증 — GPU Operator·DCGM 진단·MIG 격리·NCCL 통신·Kueue 쿼터·체크포인트 재개

    GPUaaS와 AI 학습 플랫폼의 QA는 GPU가 "보인다"에서 끝나지 않는다. GPU Operator 구성요소별 검증, DCGM 진단 단계와 Xid 오류로 장치 건전성 판정하기, MIG·시분할 공유의 격리 차이, NCCL 테스트의 algbw·busbw로 다중 GPU 통신 판정하기, Kueue로 쿼터·입장·선점 검증하기, 분산 학습의 체크포인트 저장·재개 정확성 기준을 다룬다.

  6. 고급약 45분

    AI 추론 서빙 성능·신뢰성 검증 — TTFT·TPOT·ITL·goodput, 부하 모양, 오토스케일, 모델 교체 회귀

    LLM 추론 엔드포인트의 성능은 요청당 응답 시간 하나로 판정할 수 없다. 첫 토큰까지 시간·출력 토큰당 시간·토큰 간 지연·종단 지연의 정의와 사용자 체감의 연결, SLO를 만족한 요청만 세는 goodput, vLLM 벤치마크와 GuideLLM으로 부하 모양을 설계하는 법, MLPerf의 서버·오프라인 시나리오 읽기, 오토스케일·콜드 스타트·모델 교체 시 성능과 품질 회귀 판정을 다룬다.

  7. 고급약 40분

    신뢰성·장애 주입 테스트 — 정상 상태 가설, Chaos Mesh 실험, GPU·제어 평면 장애, 폐쇄망 복구

    인프라 플랫폼의 신뢰성은 장애가 일어났을 때 무엇이 유지되고 얼마나 빨리 돌아오는가로 판정한다. 카오스 엔지니어링의 다섯 원칙을 QA 시험 설계로 옮기는 법, 측정 가능한 정상 상태 가설 쓰기, Chaos Mesh·LitmusChaos로 파드·네트워크·노드 장애 주입, 제어 평면 장애 중 데이터 평면 유지, GPU 장치 오류와 학습 작업 복구, 폭발 반경 통제와 중단 조건, 폐쇄망 고객 환경의 복구 리허설을 다룬다.

  8. 고급약 40분

    AI 에이전트 실행 플랫폼 검증 — 샌드박스 격리·도구 권한·네트워크 출구·세션 수명·중단 장치

    자율 AI 에이전트가 코드를 실행하고 도구를 호출하는 플랫폼은 "에이전트가 똑똑한가"가 아니라 "에이전트가 무엇을 해도 안전하게 담기는가"를 먼저 검증한다. Kubernetes Agent Sandbox와 gVisor·Kata 격리 백엔드, 격리 탈출·자원 고갈 시험, 도구·MCP 서버 권한과 승인 경계, 네트워크 출구와 비밀 정보 노출, 도구 출력을 통한 프롬프트 인젝션, 세션 수명과 웜 풀, 비용 한도와 중단 장치, 반복 신뢰성(pass^k) 판정을 다룬다.

  9. 고급약 40분

    클라우드 플랫폼의 인증 시험 대응과 납품 검증 — CSAP 등급·CC인증·품질성능 확인·고객 인수시험

    Private Cloud·GPUaaS 플랫폼이 공공·금융·연구기관에 들어가려면 제품 품질을 제3자와 고객에게 증명해야 한다. CSAP 상·중·하 등급의 구조와 QA가 준비하는 증거, 보안 제품 요건으로서 CC인증·보안기능 확인서, 클라우드 품질·성능 확인의 일곱 기준, 여러 인증이 겹칠 때 증거를 한 번 만들어 재사용하는 법, 설치형 납품의 인수시험 계획·수행·결과서, 인증 범위를 깨뜨리지 않는 변경 관리를 다룬다.

  10. 고급약 45분

    인프라 QA 실습 랩 — 내 노트북에 올리고 기준·폴링 대기·스냅샷 비교를 직접 쓰기

    레슨 1~9 의 검증 관점을 실제로 돌려 볼 환경을 손으로 만든다. kind 로 다중 노드 클러스터를 세우고, 상태 모델을 판정 기준으로 옮기고, 수렴을 기다리는 폴링을 제대로 쓰고, 리소스 스냅샷을 전후로 비교해 남은 리소스를 잡는다. OpenStack 올인원 환경의 선택지와 비용·한계도 함께 정리한다.

  11. 고급약 45분

    분산 스토리지·병렬 파일시스템 검증 — 학습 데이터·체크포인트 I/O 와 일관성

    GPU 가 비어 있는 시간의 상당 부분은 스토리지를 기다리는 시간이다. 병렬 파일시스템의 구조에서 어디가 병목이 되는지 가르고, 학습 데이터 읽기와 체크포인트 쓰기를 서로 다른 작업 부하로 측정하고, 여러 노드가 같은 파일시스템을 볼 때의 일관성 보장 범위를 확인하고, 장애 시 데이터가 어떤 상태로 남는지 검증한다.