4일 ‘인공지능과 인권’ 심포지엄 열려
이혜숙 한국과학기술젠더혁신센터 소장
‘인공지능 편향성 극복 위한 과학기술적 과제’ 발제
“ 데이터 수집 단계부터 편향성 제거해야…
개발 인력의 다양성 중요”
사단법인 올(이사장 전효숙), 법무법인 원(대표 강금실·윤기원) 인공지능팀, 여성신문(대표 김효선)이 4일 오후 2시 서울시 강남구 모두의연구소 강남캠퍼스에서 ‘인공지능과 인권’ 심포지엄을 공동 개최했다. 과학기술·법조계 전문가들이 모여 인공지능의 편향성부터 개인정보 침해, 살상무기 개발 규제, 기술소외 문제 등 다양한 논의를 펼쳤다.
AI에 대한 장밋빛 기대가 커질수록 풀리지 않은 숙제가 무겁게 다가온다. ‘AI의 편향성’이다. 우리 사회의 성·인종 편견이 묻은 데이터를 학습한 기계가 편향적인 결과물을 내놓고 있다.
요즘 가장 주목받는 ‘챗GPT’도 예외는 아니다. ‘아이를 돌보는 사람’에 대한 이야기를 써 달라고 하자 ‘엠마’라는 여성의 이야기가 나왔다. ‘대통령’에 대해 써 달라고 하자, ‘대니얼 앤더슨’이라는 남성의 이야기를 썼다. 돌봄은 여성의 몫, 국가원수는 남성이라는 성 편견이 드러난다.
영국 디지털헬스 기업 바빌론헬스의 건강 챗봇(GP at Hand)은 동일한 건강 조건에 성별만 다르게 입력했는데 여성은 우울증, 남성은 심혈관 질환으로 진단했다. 미국에서 사용됐던 재범 위험성 예측 시스템(COMPAS)는 흑인의 재범 가능성을 실제보다 높게 예측하는 한편, 백인은 그 반대로 예측했다. 2019년 뉴욕타임스 보도에 따르면, 미국에서 개발한 얼굴인식 알고리즘은 백인 남성의 얼굴인식 오류율이 0.3%에 불과했지만 흑인 여성은 34%에 달했다.
이 문제로 큰 비용을 들여 구축한 시스템을 뒤엎거나 대대적으로 수정한 사례도 여럿이다. 아마존의 AI 채용 도구는 여성에 대한 편견을 드러내 폐기됐다. 한국에선 챗봇 ‘이루다’가 차별·혐오 발언을 거듭해 결국 서비스를 중단하고 개선에 나섰다.
이혜숙 한국과학기술젠더혁신센터 소장·이화여대 명예교수는 이러한 사례들을 공유하면서 “남성이 개발 목표와 투자를 결정하고, 남성이 만들고, 남성이 테스트한 기술이 과연 여성과 남성 모두에게 공평하게, 이롭게 작동하는지 고민해야 한다”고 지적했다.
또 “데이터 수집 단계에서부터 편향성을 제거하고 꾸준히 모니터링해야 한다”며 “개발 인력의 다양성이 중요하다”고 지적했다.
이 소장은 AI를 포함해 과학기술계 젠더 혁신을 위한 법제도 정책 정비도 필요하다고 했다. “UN, OECD 등을 중심으로 기술 발전 속 낙오되는 사람들이 없도록 포용적인 기술을 만들어가야 한다는 논의가 확대되고 있다”고도 강조했다.
전수안 사단법인 올 대표·전 대법관은 이날 포럼 인삿말에서 “챗GPT로 대표되는 AI의 경이롭고 두려운 진화를 보며 ‘무소불위’라는 말이 떠오른다”며 “인공지능이 ‘인공괴물’로 변하지 않도록 막고자 오늘 이 자리를 마련했다. AI의 편향성을 극복하고, 헌법상 가이드라인을 주입하고, 규제 방안을 법제화해 나가자”고 말했다.