핸드브레이크(HandBrake) 사용법 - 동영상 용량 줄이기·변환 완벽 가이드

안녕하세요, 우리들의 주파수 구독자 여러분! 스마트폰이나 캠코더로 찍은 동영상 용량이 몇 GB씩 나와서 카카오톡 전송이 막히거나, USB에 다 안 들어가서 당황한 적 있으신가요? 반대로 특정 포맷(MOV, MKV 등)이 재생이 안 되거나 편집 프로그램에서 안 열려서 변환이 필요한 경우도 많습니다. 이럴 때 돈 주고 유료 변환 프로그램을 쓸 필요 없습니다. **HandBrake(핸드브레이크)**는 완전 무료·오픈소스 동영상 변환/압축 프로그램으로, 품질은 거의 유지하면서 용량을 수십 %까지 줄일 수 있습니다. 이 글에서는 설치부터 실전 압축 설정, 포맷 변환, 자주 발생하는 오류까지 하나씩 끝까지 해결해 드립니다.

1. HandBrake란 무엇인가

HandBrake는 2003년부터 개발된 오픈소스 동영상 트랜스코딩(재인코딩) 프로그램입니다. Windows, macOS, Linux를 모두 지원하며 광고나 워터마크가 전혀 없습니다.

• 용량 줄이기: 같은 해상도·화질을 유지하면서 파일 크기를 30~80%까지 축소
• 포맷 변환: MOV, AVI, WMV, FLV 등 → MP4/MKV로 변환
• 해상도·프레임레이트 변경: 4K → 1080p 다운스케일, 60fps → 30fps 변환
• 배치(여러 파일 일괄) 처리: 폴더 전체를 큐에 넣고 한 번에 변환
• 하드웨어 가속 인코딩: NVIDIA(NVENC), Intel(QuickSync), AMD(VCE) GPU 가속으로 속도 향상

용량을 줄이는 원리는 “재인코딩”입니다. 원본 영상을 더 효율적인 코덱(H.264, H.265/HEVC)으로 다시 압축해서, 사람 눈으로 체감하기 어려운 수준의 화질 손실만 감수하고 파일 크기를 크게 줄이는 방식입니다.

2. 설치하는 법

2-1. 다운로드

1. 공식 홈페이지 handbrake.fr 접속 (검색창에 “handbrake 다운로드”로 검색해도 공식 사이트가 바로 나옵니다)
2. Download HandBrake 버튼 클릭
3. Windows 사용자는 .exe 설치 파일, macOS 사용자는 .dmg 파일이 자동으로 운영체제에 맞게 제공됩니다

2-2. 설치 과정

• Windows: 다운로드한 설치 파일을 실행 → “다음” 계속 클릭 → 설치 완료 후 바로 실행 가능
• macOS: .dmg 파일을 열고 HandBrake 아이콘을 Applications 폴더로 드래그 → 최초 실행 시 “확인되지 않은 개발자” 경고가 나오면 시스템 설정 → 개인정보 보호 및 보안에서 “확인 없이 열기” 허용

설치 용량은 약 60~100MB로 가볍고, 별도 코덱 설치나 결제 과정이 전혀 없습니다.

3. 기본 사용법 - 동영상 용량 줄이기

가장 많이 찾는 “용량 줄이기” 작업을 기준으로 단계별로 설명합니다.

3-1. 파일 불러오기

1. HandBrake 실행 후 좌상단 Open Source 클릭 (또는 파일을 창에 바로 드래그&드롭)
2. 압축하고 싶은 동영상 파일 선택

3-2. 저장 위치 지정

화면 하단 Save As 옆의 Browse를 눌러 출력 파일명과 저장 폴더를 지정합니다. 원본과 같은 폴더에 저장하려면 파일명을 다르게 해야 원본이 덮어씌워지지 않습니다.

3-3. 프리셋(Preset) 선택

오른쪽 패널에서 프리셋을 고릅니다. 처음이라면 아래를 추천합니다.

3-4. 핵심 설정 - Video 탭

용량을 직접 조절하려면 Video 탭에서 아래 두 값을 확인합니다.

• Video Codec: H.265 (x265) 선택 — H.264보다 같은 화질에서 용량이 더 작음 (단, 구형 기기는 호환 안 될 수 있음. 호환성이 중요하면 H.264 (x264) 선택)
• Quality → Constant Quality (RF): 슬라이더를 조절하는 핵심 값입니다
  • RF(CQ) 값이 낮을수록 고화질·고용량, 높을수록 저화질·저용량
  • H.264 기준 권장값: RF 20~23 (용량/화질 균형)
  • H.265 기준 권장값: RF 24~28
  • 용량을 크게 줄이고 싶다면 RF 값을 2~3씩 올려가며 결과를 비교

3-5. 인코딩 시작

하단의 Start Encode 버튼(초록색 재생 아이콘)을 클릭하면 인코딩이 시작됩니다. 진행률과 예상 남은 시간이 화면에 표시되며, 완료되면 지정한 폴더에 결과 파일이 생성됩니다.

팁: 변환 전 원본 파일 용량을 메모해두고, 완료 후 결과 파일 용량과 비교하면 압축률을 바로 확인할 수 있습니다. RF 22 기준으로 보통 원본의 40~60% 수준까지 줄어듭니다.

4. 포맷(컨테이너) 변환하는 법

MOV, AVI, FLV 등을 MP4로 바꾸고 싶을 때는 용량 설정과 별개로 Summary 탭에서 작업합니다.

1. Summary 탭 클릭
2. Format 드롭다운에서 원하는 출력 형식 선택
   • MP4: 호환성 최고, 대부분의 기기·플랫폼에서 재생
   • MKV: 자막·다중 오디오 트랙을 많이 담을 때 유리
3. 포맷만 바꾸고 화질은 유지하려면 Video 탭의 Codec을 원본과 동일하게 두고 Quality를 높게(RF를 낮게) 설정

5. 속도 높이기 - 하드웨어 가속 인코딩

대용량 파일이나 여러 개를 한꺼번에 변환할 때는 CPU 소프트웨어 인코딩 대신 GPU 하드웨어 인코딩을 쓰면 훨씬 빠릅니다.

1. Video 탭에서 Video Codec을 H.264 (NVEnc), H.265 (NVEnc)(NVIDIA), H.264 (QSV)(Intel 내장그래픽), H.264 (VCE)(AMD) 중 그래픽카드에 맞는 항목으로 변경
2. 속도는 2~5배 빨라지지만, 동일 용량 기준 화질은 소프트웨어(x264/x265) 인코딩보다 약간 떨어질 수 있습니다
3. 최고 압축률이 목표라면 x264/x265, 속도가 목표라면 하드웨어 가속을 선택하세요

6. 여러 파일 한꺼번에 변환하기 (배치 처리)

1. Open Source 대신 Open Source → Folder로 폴더 전체를 선택
2. 변환할 파일들이 Queue(큐) 목록에 추가됨
3. 각 파일별로 설정을 확인한 뒤 Queue → Add to Queue로 쌓고, 마지막에 Start Queue를 누르면 순서대로 자동 변환됩니다
4. 밤새 많은 영상을 변환해야 할 때 특히 유용합니다 (완료 후 “Put computer to sleep” 옵션도 지원)

7. HandBrake vs 다른 프로그램 비교

개인 영상이나 민감한 자료는 서버에 올리지 않는 HandBrake(또는 FFmpeg)가 안전합니다. 명령줄에 익숙하지 않다면 HandBrake가 가장 균형 잡힌 선택입니다.

8. 자주 발생하는 오류와 해결법

“No Title Found” 오류

원본 파일이 손상됐거나 복사 중 끝까지 받아지지 않은 경우입니다. 파일을 다시 복사하거나 다른 재생 프로그램(VLC 등)으로 먼저 정상 재생되는지 확인하세요.

인코딩이 끝났는데 소리가 없음

Audio 탭에서 오디오 트랙이 선택되어 있는지 확인합니다. 기본값이 “None”으로 되어 있으면 트랙을 직접 추가(Add Track)해야 합니다.

자막이 사라짐

Subtitles 탭에서 원하는 자막 트랙을 Add로 추가하고, MP4로 출력할 경우 “Burn In” 옵션을 체크해야 영상에 자막이 입혀집니다(MKV는 자막을 트랙으로 유지 가능).

인코딩 속도가 너무 느림

• Video Codec을 x265(느림) 대신 x264(빠름)로 변경
• Preset의 Encoder Preset을 Medium→Fast나 Veryfast로 낮추면 속도는 빨라지지만 같은 용량에서 화질이 조금 떨어짐
• 하드웨어 가속(NVEnc/QSV/VCE) 활용

변환 후 용량이 거의 줄지 않음

RF(CQ) 값을 확인하세요. 기본값이 너무 낮게(고화질 우선) 설정된 경우 용량이 거의 안 줄어듭니다. RF 값을 2~5 정도 올려서 다시 시도합니다.

GPU 가속 옵션이 보이지 않음

그래픽 드라이버가 오래된 경우 발생합니다. NVIDIA/AMD/Intel 드라이버를 최신 버전으로 업데이트한 뒤 HandBrake를 재시작하세요.

9. 실전 추천 설정 요약

10. 핵심 요약

• HandBrake는 완전 무료·광고 없는 오픈소스 동영상 변환/압축 프로그램이다.
• 용량을 줄이려면 Video 탭 → Constant Quality(RF) 값을 조절하는 것이 핵심이다. 값이 높을수록 용량이 작아진다.
• H.264는 호환성, H.265는 더 높은 압축률이 장점이다.
• 포맷(MP4/MKV) 변경은 Summary 탭에서, 속도를 높이려면 하드웨어 가속(NVEnc/QSV/VCE)을 쓴다.
• 여러 파일은 Queue 기능으로 한꺼번에 처리할 수 있다.
• 온라인 압축 사이트와 달리 파일을 서버에 올리지 않아 개인정보 걱정 없이 사용할 수 있다.

FAQ

Q. HandBrake로 압축하면 화질이 많이 나빠지나요? A. RF 값을 20~23 사이로 설정하면 원본과 체감 차이가 거의 없으면서 용량은 크게 줄어듭니다. 무손실은 아니지만 일반적인 시청·공유 목적에는 충분합니다.

Q. 아이폰에서 찍은 HEVC(.mov) 영상도 변환되나요? A. 네, HandBrake는 HEVC/MOV를 포함한 대부분의 포맷을 지원합니다. Open Source로 불러온 뒤 원하는 포맷으로 출력하면 됩니다.

Q. DVD나 블루레이도 변환할 수 있나요? A. 기본 설치만으로는 암호화된 DVD/블루레이를 읽지 못합니다. libdvdcss 같은 별도 라이브러리가 필요하며, 저작권이 있는 미디어는 개인적인 백업 목적 외 용도로 사용하지 않아야 합니다.

Q. 변환 중 컴퓨터를 꺼도 되나요? A. 인코딩이 끝나지 않은 상태에서 종료하면 해당 작업은 처음부터 다시 해야 합니다. Queue에 “완료 후 절전” 옵션을 걸어두고 그대로 두는 것을 권장합니다.

Q. Mac과 Windows에서 설정이 다른가요? A. 인터페이스와 핵심 기능은 동일합니다. 다만 하드웨어 가속 옵션은 Mac은 Apple Silicon의 VideoToolbox, Windows는 NVEnc/QSV/VCE로 이름이 다르게 표시됩니다.

이상으로 HandBrake를 이용한 동영상 용량 줄이기와 포맷 변환 방법을 모두 정리했습니다. 처음에는 프리셋을 그대로 쓰고, 익숙해지면 RF 값을 직접 조절해 자신에게 맞는 최적의 용량/화질 균형을 찾아보시기 바랍니다.

댓글

🖼 이미지/GIF

등록

처음 쓰는 닉네임이면 자동 등록됩니다. 같은 닉네임 재사용/삭제엔 같은 비밀번호를 입력하세요.

불러오는 중…