As artificial intelligence becomes increasingly common in hiring and evaluation, many people believe its decisions are objective because they are based on algorithms rather than personal judgment.
인공 지능이 채용 및 평가에서 점점 더 흔해짐에 따라, 많은 사람들은 인공 지능의 결정이 알고리즘에 기반하기 때문에 개인적인 판단보다는 객관적이라고 믿는다.
However, studies suggest that AI does not always remove social bias.
그러나 연구들은 인공 지능이 항상 사회적 편견을 제거하지는 않는다는 것을 시사한다.
Instead, it often perpetuates systemic inequalities already present in society, as these algorithms are shaped by the analysis of historical data.
오히려, 이러한 알고리즘들이 역사적 데이터의 분석에 의해 형성되기 때문에, 인공 지능은 사회에 이미 존재하는 구조적 불평등을 종종 영속시킨다.
In one study by researchers at the University of Washington, identical resumes were sent to several AI hiring systems with only the applicants’ names changed.
워싱턴 대학교 연구자들이 수행한 한 연구에서, 지원자들의 이름만 변경하여 동일한 이력서들이 여러 인공 지능 채용 시스템에 보내졌다.
The results showed a clear difference.
결과는 명확한 차이를 보였다.
Resumes associated with traditionally white-sounding names were preferred in 85 percent of cases, while those with black-sounding names were chosen only 9 percent of the time.
전통적으로 백인 이름처럼 들리는 이름과 연관된 이력서들은 85퍼센트의 경우에 선호된 반면, 흑인 이름처럼 들리는 이름의 이력서들은 단 9퍼센트만 선택되었다.
Similar concerns have appeared in real hiring situations.
유사한 우려들이 실제 채용 상황에서도 나타났다.
In 2025, a federal judge allowed a class-action lawsuit against an HR software company to move forward after claims that its AI screening system unfairly excluded older applicants, black candidates, and people with disabilities.
2025년, 한 연방 판사는 인공 지능 심사 시스템이 고령 지원자, 흑인 지원자, 그리고 장애인들을 부당하게 배제했다는 주장이 제기된 후 한 인사(HR) 관리 소프트웨어 회사에 대한 집단 소송이 진행되도록 허용했다.
These examples highlight the limitations of relying solely on algorithms to ensure fairness in decision-making.
이러한 사례들은 의사 결정에서 공정성을 보장하기 위해 알고리즘에만 의존하는 것의 한계를 부각시킨다.
카페
고객센터
070-4042-1075 (평일 오전 9:30 ~ 오후 6시)
