손실 압축 (Lossy Compression) 알고리즘

게으른냥이템플릿개발 2025. 4. 8.

손실 압축 알고리즘은 데이터의 크기를 줄이기 위해 일부 정보를 의도적으로 제거하는 방식을 사용합니다. 이 과정에서 원본 데이터와 완벽하게 동일한 복원은 불가능하며, 어느 정도의 정보 손실이 발생합니다. 손실 압축 알고리즘은 특히 인간의 감각 (시각, 청각)으로는 인지하기 어려운 부분을 제거하여 압축 효율을 높이는 데 초점을 맞춥니다.

손실 압축 알고리즘의 일반적인 단계:

  1. 변환 (Transform): 원본 데이터를 다른 형태로 변환합니다. 이 단계는 데이터를 압축하기 쉽도록 만드는 데 목적이 있습니다.
  2. 양자화 (Quantization): 변환된 데이터를 양자화합니다. 이 단계에서 정보 손실이 발생하며, 압축률을 조절하는 핵심적인 역할을 합니다.
  3. 엔트로피 부호화 (Entropy Coding): 양자화된 데이터를 엔트로피 부호화 알고리즘을 사용하여 압축합니다.

대표적인 손실 압축 알고리즘:

  • JPEG (Joint Photographic Experts Group): 이미지 압축에 널리 사용되는 알고리즘입니다.
  • MPEG (Moving Picture Experts Group): 비디오 및 오디오 압축에 사용되는 알고리즘입니다.
  • MP3 (MPEG-1 Audio Layer 3): 오디오 압축에 널리 사용되는 알고리즘입니다.
  • AAC (Advanced Audio Coding): MP3보다 개선된 오디오 압축 알고리즘입니다.
  • HEVC (High Efficiency Video Coding): H.265라고도 하며, 최신 비디오 압축 표준입니다.

JPEG 알고리즘 상세 분석:

JPEG 알고리즘은 이미지 압축을 위해 다음과 같은 단계를 거칩니다.

  1. 색 공간 변환 (Color Space Conversion): 필요에 따라 RGB 색상 공간을 YCrCb 색상 공간으로 변환합니다. Y는 밝기(Luminance), Cr과 Cb는 색차(Chrominance) 성분을 나타냅니다.
  2. Chroma Subsampling (색차 서브샘플링): 인간의 시각은 색상 변화보다 밝기 변화에 더 민감하므로, Cr과 Cb 성분의 해상도를 줄여 압축률을 높입니다. 4:2:0, 4:2:2 등의 방식이 사용됩니다.
  3. 블록 분할 (Block Splitting): 이미지를 8x8 픽셀 블록으로 나눕니다.
  4. DCT (Discrete Cosine Transform): 각 8x8 블록에 대해 DCT를 수행합니다. DCT는 공간 영역의 이미지를 주파수 영역으로 변환하여 에너지 집중 효과를 얻습니다. 즉, 이미지의 대부분의 에너지가 저주파 성분에 집중되도록 합니다.
  5. 양자화 (Quantization): DCT 계수를 양자화 테이블을 사용하여 나눕니다. 양자화 테이블은 각 주파수 성분에 대한 양자화 값을 정의하며, 높은 주파수 성분일수록 더 큰 값으로 나누어 정보 손실을 유도합니다. 이 단계가 손실 압축의 핵심입니다.
  6. Zig-zag 스캔 (Zig-zag Scan): 양자화된 DCT 계수를 지그재그 순서로 스캔하여 정렬합니다. 이 과정은 0이 아닌 계수들을 앞쪽에 모아 RLE (Run-Length Encoding) 효율을 높이는 데 도움을 줍니다.
  7. DPCM (Differential Pulse Code Modulation): DC 계수 (각 블록의 평균값)는 DPCM을 사용하여 부호화합니다. 이전 블록의 DC 계수와의 차이를 저장함으로써 압축률을 높입니다.
  8. RLE (Run-Length Encoding): AC 계수 (DC 계수를 제외한 나머지 계수)는 RLE를 사용하여 부호화합니다. 연속되는 0의 개수를 저장하여 압축률을 높입니다.
  9. 엔트로피 부호화 (Entropy Coding): DPCM으로 부호화된 DC 계수와 RLE로 부호화된 AC 계수를 허프만 코딩 또는 산술 코딩 등의 엔트로피 부호화 방식을 사용하여 최종적으로 압축합니다.

손실 압축의 핵심: 양자화 (Quantization)

양자화는 손실 압축에서 가장 중요한 단계입니다. 이 단계에서 데이터의 정밀도를 낮춤으로써 정보 손실을 발생시키고, 압축률을 높입니다. 양자화 테이블은 각 주파수 성분에 대해 얼마나 많은 정보를 버릴지를 결정합니다. 일반적으로 높은 주파수 성분은 시각적으로 덜 중요하므로 더 많은 정보를 버립니다.

양자화 과정은 다음과 같이 표현할 수 있습니다.

양자화된 계수 = round(DCT 계수 / 양자화 값)
Use code with caution.

여기서 양자화 값은 양자화 테이블에서 가져온 값입니다. round 함수는 반올림을 의미합니다. 이 과정에서 소수점 이하의 정보가 버려지므로 정보 손실이 발생합니다.

손실 압축 알고리즘 선택 시 고려 사항:

  • 압축률 (Compression Ratio): 원본 데이터 크기에 비해 압축된 데이터 크기가 얼마나 줄어들었는지를 나타냅니다.
  • 화질/음질 (Quality): 압축 후 복원된 데이터의 품질을 나타냅니다. 손실 압축에서는 압축률이 높을수록 화질/음질이 저하되는 경향이 있습니다.
  • 계산 복잡도 (Computational Complexity): 압축 및 복원 과정에 필요한 계산량을 나타냅니다. 계산 복잡도가 높을수록 처리 시간이 오래 걸립니다.
  • 용도 (Application): 압축된 데이터를 어떤 용도로 사용할 것인지에 따라 적절한 알고리즘을 선택해야 합니다. 예를 들어, 웹 이미지에는 JPEG, 비디오 스트리밍에는 HEVC 등이 적합합니다.

결론:

손실 압축 알고리즘은 높은 압축률을 제공하지만, 정보 손실이 발생한다는 단점이 있습니다. 따라서 압축률과 화질/음질 사이의 균형을 잘 고려하여 적절한 알고리즘과 설정을 선택해야 합니다. JPEG 알고리즘은 이미지 압축에 널리 사용되는 대표적인 손실 압축 알고리즘이며, DCT 변환, 양자화, 엔트로피 부호화 등의 단계를 거쳐 이미지를 압축합니다. 양자화 단계에서 정보 손실이 발생하며, 압축률과 화질 사이의 균형을 조절하는 핵심적인 역할을 합니다.