27. 불균형 데이터 학습 (Class imbalanced learning)

1. 리샘플링 (Re-sampling)

• Re-sampling : 데이터 분포가 불균형한 문제를 해결하기 위한 방법으로, Over-sampling과 Under-sampling이 대표적
  Over-sampling : 소수 클래스 샘플을 증가시키는 방법으로, 데이터를 복제하거나 합성하여 사용함
  Under-sampling : 다수 클래스 샘플을 감소시키는 방법으로, 무작위 선택이나 고급 알고리즘을 사용하여 수행됨

- Re-sampling은 데이터셋을 조작하여 균형 잡힌 분포를 만들어 모델의 성능을 향상시키는데 사용됨
- 주의할 점은 리샘플링이 특정 바이어스나 오버피팅 문제를 유발할 수 있으므로 적절한 방법과 검증 기법을 사용해야 함
- 리샘플링을 통해 불균형 데이터를 다루면 모델이 대표적이고 균형 잡힌 데이터셋에서 학습할 수 있으며, 소수 클래스의 예측 성능이 향상될 수 있음

 

 

2. 재가중치

- 재가중치 : 클래스의 데이터 크기에 반비례하는 가중치를 적용하는 방법이며, 중요성을 고려하여 손실 함수나 알고리즘에 가중치를 적용하는 방식임
- 불균형한 클래스 분포에서는 소수 클래스에 높은 가중치를 부여하여 모델이 소수 클래스에 집중하도록 유도할 수 있음
- 가중치를 조정하는 방법으로는 소수 클래스의 샘플 수에 반비례하는 가중치를 할당하거나, 클래스 불균형 정도에 따라 가중치를 동적으로 조정하는 방법이 있음
- 재가중치를 사용하면 모델은 소수 클래스에 더 관심을 가지고 학습하며, 예측 성능을 개선할 수 있음
- 재가중치는 불균형 데이터 학습에서 유용하며, 적절한 가중치 조정은 모델의 학습을 효과적으로 도울 수 있음

 

3. 클래스 균형 손실 함수 (Class Loss Function)

- 클래스 손실 함수 : 불균형 데이터 학습에서 사용되는 손실 함수로, 다수 클래스와 소수 클래스 간의 불균형을 고려하여 모델을 학습하는 데에 적용됨.
- 주로 크로스 엔트로피 손실 함수나 평균 제곱 오차와 같은 기본적인 손실 함수를 수정하거나 확장하여 사용함
- 클래스 손실 함수의 설계는 다양한 방식으로 이루어지며, 가중치 조정이나 샘플 재가중치 등을 활용하여 소수 클래스에 높은 가중치를 부여하여 모델이 소수 클래스에 집중적으로 학습하도록 유도함
- Focal Loss는 클래스 불균형을 고려한 손실 함수로, 모델이 어려운 샘플에 대한 손실을 증가시키고 쉬운 샘플에 대한 손실을 줄여 모델의 학습을 개선함
- 올바른 클래스 손실 함수의 선택과 설계는 불균형 데이터 학습에서 모델의 성능을 향상시키는 중요한 요소임

 

4. 데이터 증강 기법 (Data Augmentation)

- 데이터 증강(Data Augmentation) : 불균형 데이터 학습에서 새로운 데이터를 생성하기 위해 다양한 기법을 사용하는 방법.
- 일반적으로 사용되는 데이터 증강 기법에는 뒤집기, 이동, 크기 조정, 자르기, 붙이기, 랜덤 지우기, 회전 등이 있음
- 믹스업 (Mixup) : 두 이미지의 픽셀 값의 가중 합을 적용하여 새 이미지를 생성하고 가중치에 따라 레이블을 지정하는 방식
- 마스킹 (Masking): 주파수와 시간으로 구성된 스펙트로그램 이미지를 이용
       - Frequency Masking : 주파수 스펙트럼에서 일부 구간을 제거
       - Time Masking : 시간 축에서 일부 구간을 제거하여 모델의 강인성을 향상시킴.

 

- 롤링 (Rolling) : 오디오 신호에서 일부 구간을 선택하여 앞뒤로 이동시키는 기술로, 다양한 오디오 처리 기법에 적용되어 부드러운 전환효과를 적용할 수 있음