차별‧혐오 쏟아내는 AI... 다양성‧가이드라인으로 신뢰 회복하나
차별‧혐오 쏟아내는 AI... 다양성‧가이드라인으로 신뢰 회복하나
  • 이하나 기자
  • 승인 2021.05.23 10:21
  • 수정 2021-05-23 21:55
  • 댓글 0
이 기사를 공유합니다

[과학기술정보통신부, 신뢰할 수 있는 AI 실현전략]
민간 자율 규제에 초점
‘제2의 이루다’ 막기 위해
여성참여‧윤리교육 필요
ⓒPixabay
ⓒPixabay

과학기술정보통신부가 인공지능(AI)의 신뢰도를 높이기 위한 구체적 전략을 13일 발표했다. 오는 2025년까지 ‘신뢰할 수 있는 AI 실현전략(이하 실현전략)’을 통해 건전한 AI 의식을 확산시키고 AI 강국으로 도약하겠다는 구상이다.

AI 윤리 기준을 만들자는 논의는 젠더 편향과 개인정보 유출 논란이 불거진 AI 챗봇 ‘이루다’가 쏘아 올렸다. AI에 혐오·편향이라는 인습이 스며든다는 사실이 드러나면서 재발을 막기 위한 방안으로 윤리 기준 마련이 제시됐다. 정부가 이번에 발표한 전략은 ‘누구나 신뢰할 수 있는 AI, 모두가 누릴 수 있는 AI 구현’을 비전으로 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 통해 2025년까지 단계적으로 추진된다. AI 규제보다는 민간 자율과 진흥에 초점이 맞춰진 것이 특정이다.

우선 정부는 민간의 AI 서비스 구현을 체계적으로 지원한다. 개발 가이드북, 검증, 인증 등 AI 제품·서비스 구현 단계별로 기업, 개발자, 제3자 등이 참조할 수 있는 신뢰 확보 기준과 방법론을 제시한다. 스타트업도 체계적으로 신뢰성을 확보해 나갈 수 있도록 데이터 확보, 알고리즘 학습, 검증을 통합 지원하는 플랫폼을 운영한다. AI가 스스로 법·제도·윤리적 편향성을 진단하고 효율적으로 제거할 수 있도록 설명 가능성, 공정성, 견고성 제고를 위한 원천기술도 개발할 계획이다.

신뢰할 수 있는 인공지능 실현전략의 비전・목표・추진전략©과학기술정보통신부
신뢰할 수 있는 인공지능 실현전략의 비전・목표・추진전략©과학기술정보통신부

이용자가 안전하게 사용할 수 있도록 제도 보완에도 나선다. AI 학습용 데이터의 신뢰성을 제고하고 국민의 안전이나 기본권에 잠재적 위험을 미칠 수 있는 고위험 AI의 범주를 설정하는 한편 서비스 제공 전에 해당 AI 활용 여부를 이용자에게 고지하도록 할 예정이다. AI가 국민생활 전반에 미치는 영향을 종합·체계적으로 분석하고 대응하기 위해 영향평가도 실시한다.

AI 윤리교육 총론을 마련하고 이를 토대로 연구·개발자, 일반시민 등 맞춤형 윤리 교육을 개발·실시한다. 윤리 준수 여부를 자율점검을 할 수 있는 체크리스트 개발·보급하고 AI 윤리와 관련한 의견 수렴, 발전방향을 논의할 수 있는 공론의 장도 운영할 방침이다.

정부의 규제강화 방침에 맞춰 산업계에서도 AI 윤리기준 마련에 나섰다. ‘AI 중심 회사’를 선언한 SK텔레콤은 이날 AI 추구 가치 제정을 선언했다. SK텔레콤은 AI 추구 가치를 사회적 가치와 무해성, 기술 안정성, 공정성, 투명성, 사생활 보호, 지속혁신 등 7개로 제시했다. SK텔레콤은 5월 중 AI 추구 가치를 사규에 반영하고 상반기 안으로 전사 교육 과정을 수립해 AI 추구가치를 내재화하겠다고 밝혔다.

최문정 KAIST 교수 ‘인공지능(AI) 기술 연구 및 전문인력 양성 정책 특정성별영향평가 연구결과’. ⓒ최문정 KAIST 교수
최문정 KAIST 교수 ‘인공지능(AI) 기술 연구 및 전문인력 양성 정책 특정성별영향평가 연구결과’. ⓒ최문정 KAIST 교수

최근 최문정 한국과학기술원 과학기술정책대학원 교수가 발표한 ‘AI 분야에 대한 특정 성별 영향평가’ 보고서를 보면 2019년 기준 AI 관련 사업체 271개에서 여성 대표자의 비율은 5.5%로 나타났다. 2018년 기준으로 소프트웨어 산업기업 2766개 중 여성 대표자는 5.0%, 여성 전문인력의 비율은 17.8%로 나타났다. 최 교수는 “AI 분야에서 여성이 겪는 어려움은 사실상 다른 이공계와 비슷하게 존재한다”면서 “책임 있는 AI와 윤리적 이슈에 대한 연구 지원 확대와 실효성 있는 AI 윤리교육 개발·시행이 필요하다”고 제안했다.

정부와 산업계가 AI 윤리 강화에 나섰지만 여전히 구체적인 내용이 부족하다는 지적도 나온다. 특히 업계 자율규제를 여전히 강조하고 있기 때문이다. 김경만 과기정통부 AI기반정책과장은 “'이루다' 사태 이후 기업은 안전한 기술, 신뢰 가능한 AI 개발을 위한 지침서에 대한 필요성을 제기했다”며 “가이드북 발표 전 중소·벤처기업 등에 과도한 규제로 작용하지 않을지, 기술 실현이 가능한지 여부를 집중 점검하며 진흥 정책 위주로 운영할 것”이라고 말했다.

기사가 마음에 드셨나요?

여성신문은 1988년 창간 이후 여성 인권 신장과 성평등 실현을 위해 노력해 온 국내 최초, 세계 유일의 여성 이슈 주간 정론지 입니다.
여성신문은 여성들의 더 나은 삶을 위해 여성의 '안전, 사회적 지위, 현명한 소비, 건강한 가족'의 영역에서 희망 콘텐츠를 발굴, 전파하고 있습니다.
저희 기사가 마음에 드셨다면 좋은 기사 후원하기를 해주세요.
여러분의 후원은 여성신문이 앞으로도 이 땅의 여성을 위해 활동 할 수 있도록 합니다.

여성신문 좋은 기사 후원하기


※ 소중한 후원금은 더 좋은 기사를 만드는데 쓰겠습니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.