← IT·AI 소식 피드
AI 도구 · 2026-11-06 19:17 회차

깃허브 코파일럿을 내 PC 그래픽카드로 돌린다? — MS 'Foundry Local'에 Qwen3.8-27B, 24GB GPU면 되나

VRAM 24GB 이상 엔비디아 GPU가 있는 윈도우 PC라면 됩니다. 마이크로소프트가 Foundry Local로 Qwen3.8-27B를 내 PC에서 돌려 깃허브 코파일럿 앱에 연결하는 방법을 공개해, 코드가 밖으로 나가지 않고 인터넷이 끊겨도 코딩 보조를 쓸 수 있게 됐습니다.

무슨 일인가

마이크로소프트 Foundry 블로그는 미국 시각 11월 5일, 내 컴퓨터에서 AI 모델을 돌리는 도구 Foundry Local이 알리바바의 오픈웨이트 코딩 모델 Qwen3.8-27B를 엔비디아 GPU에 맞춰 최적화했다고 밝혔습니다. 깃허브 코파일럿 앱의 '내 키 가져오기(BYOK)' 기능으로 이 로컬 모델을 연결하면, 코파일럿 모델 선택 창에서 클라우드 모델 대신 고를 수 있습니다. Foundry Local CLI 0.13.0 이상이 필요하고, CUDA·cuDNN은 따로 설치해야 합니다.

로컬 코딩 연결 순서 (MS Foundry 블로그 기준)
Foundry Local CLI
0.13.0 이상 설치
→
qwen3.8-27b
모델 불러오기
→
코파일럿 앱
모델 제공자 추가
→
모델 선택 창에서
Qwen3.8-27B
출처: Microsoft Foundry Blog(2026-11-05). 엔드포인트 주소는 PC마다 다르니 foundry server status에 나온 값을 씁니다.

왜 중요한가

클라우드 코딩 보조는 쓸수록 비용이 늘고, 작업 중인 코드가 외부 서버로 갑니다. 로컬 모델은 이 두 가지를 줄이는 대신 성능을 일부 내줍니다. MS가 공개한 수치로 Qwen3.8-27B는 Terminal Bench 2.1 73.0, SWE-bench Pro 61.7이고, RTX 5090과 DGX Spark에서 llama.cpp보다 모든 프롬프트 길이에서 생성 속도가 빨랐다고 합니다(MS 자체 측정). 2026년 11월 기준 공식 지원은 엔비디아 GPU뿐입니다.

로컬에 맡기기 좋은 일

  • 반복 수정·주석·테스트 작성
  • 고객사 코드처럼 밖에 못 내보내는 작업
  • 인터넷이 불안한 현장 작업

클라우드에 두는 게 나은 일

  • 설계를 크게 바꾸는 작업
  • 여러 저장소를 오가는 긴 작업
  • 추론이 많이 필요한 디버깅

내 사업·앱에 무슨 의미

지금 해볼 것

1
GPU 메모리 확인윈도우 작업 관리자 → 성능 → GPU에서 전용 GPU 메모리가 24GB 이상인지 봅니다.
2
설치 후 버전 확인winget install Microsoft.FoundryLocal 뒤 foundry --version이 0.13.0 이상인지 확인합니다.
3
작업 나눠 쓰기작은 수정은 로컬, 큰 설계 변경은 클라우드 모델로 정해 두고 1주일 써 봅니다.

Q&A — 자주 묻는 질문

어떤 컴퓨터가 있어야 하나요?

VRAM 24GB 이상인 엔비디아 GPU가 필요합니다. 4비트로 줄인 모델이 약 18GB라 24GB 카드에서는 6만 4천 토큰(64K)까지, 32GB 이상이면 최대 26만 2천 토큰까지 문맥을 쓸 수 있다고 MS는 밝혔습니다. 맥과 AMD GPU는 아직 지원하지 않고 추후 확대 예정입니다.

클라우드 코파일럿 모델을 완전히 대체할 수 있나요?

대체보다는 나눠 쓰는 용도입니다. MS도 로컬 모델은 크기가 작아 추론력이 클라우드 고급 모델보다 떨어질 수 있다며, 복잡한 작업은 클라우드, 일상 코딩과 작은 작업은 로컬로 나누는 방식을 권했습니다.

모델을 상업용으로 써도 되나요?

Qwen3.8-27B는 허깅페이스 모델 카드 기준 Apache 2.0 라이선스입니다. 다만 회사 코드 정책이나 고객 계약에 외부 모델 사용 조건이 있다면 그쪽을 먼저 확인하세요.

출처