ICT뉴스

알고리즘에 의한 차별? "지능정보사회, 피해도 지능화"

새 이용자 보호제도 필요 .. 변재일 의원실 정책세미나

[아이뉴스24 성지은기자] 산업사회에서 지능정보사회로 변화하고 있는 현재, 시대 변화에 걸맞는 새로운 이용자 보호 제도가 필요하다는 지적이 나왔다.

6일 변재일 의원실 주최로 국회 의원회관에서 '지능정보사회에서의 이용자 보호 이슈와 정책방향 학술세미나'가 열렸다.

이날 변재일 의원은 "그동안은 산업사회 속 정보통신기술(ICT) 이용자를 보호하는 내용을 다뤄왔지만, 지능정보사회로 전환되고 있는 만큼 새로운 보호 방식이 필요하다"고 말했다.

<중략>

고삼석 방송통신위원회 상임위원장은 "지능정보사회에서는 불공정 알고리즘으로 인한 이용자 피해가 발생할 수 있다"며 "한 연구에 따르면 구글 온라인 광고시스템이 여성보다 남성에게 높은 임금의 직업을 추천하고 있는 것으로 나타났는데, 앞으로 알고리즘으로 인한 차별과 피해가 현실화될 가능성이 있다"고 우려했다.

<중략>

최경진 가천대 교수는 "지능정보사회에서는 다양한 이슈가 결합되는데, 각각의 규제가 시장에서는 효율적으로 작동할 수 있으나 이용자 보호에는 효과적이지 못하다"며 "여러 가지 법이 있어도 이용자 보호 절차는 하나로 통일해 원스톱으로 처리하는 방안이 필요하다"고 말했다.

<중략>

황용석 건국대 교수는 "지능정보사회에서는 추천 소프트웨어 시스템에 의존하는 '알고리즘 매개사회'의 성격이 짙어지지만, 딥러닝을 통해 스스로 알고리즘을 변화시켜나가는 AI 알고리즘은 그 과정을 알 수 없는 '블랙박스'와 같다"며 "의사결정 과정을 알 수 없어 불확실성을 높이는 경향이 있다"고 설명했다.

이어 "가령 구글에 '왜 흑인은(Why are black)'이라고 검색하면 '왜 흑인은 시끄러운가(Why are black so loud)' 같은 편향된 자동연관 검색어를 추천하기도 해 편견을 확산한다"며 "이같은 문제를 개선하기 위한 고찰이 필요하고, 공익적 가치가 구현되는 알고리즘 디자인도 어느 정도 필요하다"고 말했다.