인공지능(AI) 전문매체 THE AI는 국내 최고 수준의 AI 전문 대응팀을 운영하고 있는 법무법인 '원'과 공동으로, AI에 대한 다양한 법률 전문가 시각을 다뤄보는 ‘특별 연재 칼럼, 법과 AI'를 기획했습니다. 현재 법 체계와 발전하고 있는 AI 사이에서 볼 수 있는 시각차, AI 중심으로 재편되고 있는 우리 사회가 앞으로 나아가야 할 방향 등에 대해 고민해볼 수 있는 시간이 될 것입니다. 독자 여러분들의 많은 관심을 바랍니다. 편집자 주
최근 공공기관이 보유하고 있는 인공지능 면접 관련 정보를 공개하라는 법원의 판결이 있었다. 시민단체가 채용과정에서 인공지능 면접 솔루션을 사용한 공공기관을 상대로 ‘정보공개거부처분 취소소송’을 냈는데, 이에 법원이 “인공지능 면접 솔루션 업체가 공공기관에 제공한 교육·기능 설명자료, 업체가 수집하는 응시자 개인정보의 종류를 확인할 수 있는 문서, 평가하려는 직무 적합성이 무엇인지 확인할 수 있는 문서, 기관과 업체 간 계약 관련 서류, 응시자 개인정보 관리 문서 등”을 공개해야 한다고 판결한 것이다.
언론보도에 따르면 채용과정에서 인공지능을 활용하는 기업은 630곳에 이른다. 앞으로 이 숫자는 더 늘어날 전망이다. 최근에는 취업준비생들을 대상으로 인공지능 면접과 역량평가를 대비하기 위한 학원까지 등장했다.
인공지능을 이용한 면접은 인사담당자가 파악하기 어려운 응시자의 행동패턴 등을 통해 적합한 응시자를 선발할 수 있고 채용 담당자의 업무를 경감시킬 수 있다는 장점이 있다. 반면, 인공지능 면접이 어떻게 채용의 당락을 결정하는지에 관한 정보를 알 수 없어서 공정성과 투명성에 문제가 있다는 비판을 받고 있다.
인공지능 면접은 해당 기업의 해당 직무를 수행하는 우수사원들의 데이터와 지원자의 평가결과를 비교하는 방식으로 이뤄진다고 한다. 그런데 ‘블랙박스’라 불리는 인공지능의 특성으로 인해 구체적인 알고리즘에 대해서는 알려진 바가 없어 공정성, 투명성에 대한 우려가 제기된다.
인공지능 면접에서 가장 큰 문제는 인공지능 학습에 사용되는 데이터가 편향돼 있을 경우 이를 학습한 인공지능 솔루션 또한 편향된 결과를 도출할 수밖에 없다는 점이다. 예컨대 10년 간의 지원자 정보를 통하여 인공지능 학습을 시켰는데 지난 10년 간 여성의 퇴사 비율이 남성의 퇴사비율보다 상대적으로 높았다는 데이터를 학습한 인공지능은 여성 지원자가 조기 퇴사할 가능성이 높다고 판단해 여성 지원자를 더 많이 탈락시킬 수 있게 된다. 즉 인공지능을 채용과정에 도입할 때에는 편향이 없는 객관적인 데이터를 이용해 학습이 이뤄지도록 해야 한다는 점이 중요하다.
이처럼 인간의 결정을 대신하는 인공지능을 개발함에 있어서는 윤리적인 원칙을 세우고 이를 준수할 수 있어야 한다. 현재 국회에 계류 중인 인공지능 관련 법률안 중에는 ‘개인의 권리 및 의무 관계에 중대한 변화를 가져오는 평가 또는 의사결정을 위해 사용되는 인공지능’의 경우 사업자에게 의사결정 원리와 결과 등을 설명할 의무를 부과하고 ‘채용 등 인사 평가 또는 직무 배치의 결정에 이용되는 인공지능’에 있어서는 기술 또는 서비스에 대한 설명 요구권, 이의 제기권, 또는 거부권 등을 부여하는 내용이 포함돼 있다.
한편 앞서 언급한 법원의 판결은 ‘공공기관의 정보공개에 관한 법률’의 적용을 받는 공공기관이었기 때문에 가능한 판결이었다. 앞으로는 민간 기업이 채용과정에 인공지능을 활용하는 경우에도 응시자들에게 인공지능 평가 방식에 대한 정보를 제공할 의무를 부과하고 채용 결과에서 차별이 발생하는 경우 평가 방식을 수정하도록 규제하는 방안도 필요하다.
채용 과정의 투명성과 공정성을 높이기 위해 도입한 인공지능 기술이 오히려 투명성과 공정성을 해치는 일이 없도록 우리 모두의 지혜를 모아야 할 것이다.