알고리즘 편향 완화 기법은 모델 학습 과정과 관련하여 크게 세 단계로 분류됩니다. 전처리 단계는 학습 데이터 자체를 수정하는 방법(예: 가중치 재조정, 재샘플링)입니다. 중간 처리 단계는 공정성 제약 조건을 모델의 학습 알고리즘에 직접 통합하는 방법입니다. 사후 처리 단계는 모델의 예측이 이루어진 후, 공정성을 향상시키기 위해 예측 결과를 조정하는 방법입니다.
편향 완화 처리 단계
2010
(설명을 위한 생성된 이미지입니다)
이 3단계 분류는 편향 문제를 해결하기 위한 구조화된 프레임워크를 제공합니다. 전처리 단계는 데이터 중심적이며, 모델이 데이터를 입력받기 전에 '공정한' 데이터셋을 만드는 것을 목표로 합니다. 가중치 재부여와 같은 기법은 데이터 포인트에 서로 다른 중요도를 부여하여 불균형을 해소하고, 과표본추출/과소표본추출은 서로 다른 그룹의 인스턴스 수를 조정합니다. 이 접근 방식은 모델에 구애받지 않지만, 데이터의 기본 분포를 변경할 수 있습니다.
인프로세싱은 모델 중심적입니다. 학습 알고리즘의 목적 함수를 수정하여 불공정성에 대한 페널티 항을 추가합니다. 예를 들어, 모델은 정확도를 극대화하는 동시에 그룹 간 오류율 차이를 최소화하도록 최적화될 수 있습니다. 이는 보다 통합된 솔루션으로 이어질 수 있지만, 핵심 알고리즘을 수정해야 하므로 유연성이 떨어집니다.
사후 처리는 예측 중심적입니다. 학습된, 잠재적으로 편향된 모델의 출력을 공정성 기준을 충족하도록 조정합니다. 여기에는 서로 다른 그룹에 대한 분류 임계값을 변경하는 작업이 포함될 수 있습니다. 모델을 블랙박스로 취급하기 때문에 가장 비침습적인 방법이지만, 전반적인 유용성을 저하시킬 수 있고 임의적인 것처럼 보일 수 있습니다. 어떤 단계를 선택할지는 학습 데이터 접근성, 모델 수정 가능성, 그리고 구체적인 공정성 목표와 같은 요소에 따라 달라집니다.
UNESCO Nomenclature: 1203
컴퓨터 과학
유형
추상 시스템
분열
상당한
용법
널리 사용됨
전구체
- 머신러닝에서 불균형 데이터셋을 처리하는 기법
- 수학에서의 제약 조건 최적화 방법
- 공정성 측정 기준을 개발하여 목표 또는 제약 조건으로 활용합니다.
- 머신러닝 분야의 전반적인 성장
응용 프로그램
- IBM의 AIF360 툴킷은 세 가지 범주 모두의 알고리즘을 구현합니다.
- 구글의 '가상 시나리오 도구'는 모델의 동작과 공정성을 탐색할 수 있도록 해줍니다.
- fairlearn은 공정성을 평가하고 개선하기 위한 오픈 소스 파이썬 패키지입니다.
- 편향 감지 및 완화 기능을 내장한 상용 AI 플랫폼
특허:
NA
잠재적 혁신 아이디어
현재 하루 4만 건이 넘는 봇 트래픽을 차단하기 위해 이 콘텐츠는 커뮤니티 회원만 이용할 수 있습니다.
> 로그인 < 또는 >등록 < 이 콘텐츠를 비롯한 모든 제한된 콘텐츠와 도구는 (100% 무료로) 이용할 수 있습니다.
관련 주제: 편향 완화, 전처리, 처리 과정, 후처리, 공정한 머신러닝, 가중치 재조정, 재샘플링, 공정성 제약 조건, 알고리즘 공정성, AI 윤리.
역사적 맥락
편향 완화 처리 단계
(날짜를 알 수 없거나 관련이 없는 경우, 예를 들어 "유체역학"의 경우, 주목할 만한 등장 시기를 대략적으로 추정하여 제공합니다.)
