AI 윤리 ⚖️ 차별/오판 위험과 예방법 AI는 강력한 도구지만, 잘못 설계/운영되면 특정 집단에 불리하게 작동하거나 사실과 다른 판단을 내릴 수 있습니다. 이 글은 위험의 원인→형태→점검법→법·가이드 순서로 정리합니다.1) 왜 차별·오판이 생기나? (원인 7가지)표본 편향: 데이터가 특정 성별/연령/지역에 치우쳐 학습됨.레이블 편향: 과거의 사람 판단(평가, 채용 결과)이 그대로 레이블이 되어 차별을 학습.측정 편향: 센서/설문 방식이 집단별로 다르게 오차를 내는 경우.프록시 변수: 지역/학교/기기 같은 변수가 사실상 민감특성을 대리.알고리즘 설계: 한 지표(정확도)만 최적화해 집단 간 오차 격차를 방치.피드백 루프: 추천/순위가 노출→행동→데이터를 다시 왜곡.운영 드리프트: 배포 후 환경이 바뀌어 특..
카테고리 없음
2025. 8. 27. 06:19