인종갈등으로 무고한 수많은 사람들이 희생되는 가운데 미국 기반 SNS 트위터 사진 알고리즘에 인종편견을 조장하는 기술이 들어 있다는 보도가 나왔다.
벤처투자관련 보도매체 벤처비트는 트위터 타임라인에서 사진을 자르는 방법을 선택하는 알고리즘에서 피부 색소가 어두운 사람보다 백인의 얼굴을 선택하도록 자동화 되어 있는 것을 발견했다고 20일(현지시간) 보도했다.
회사는 지난 2017년 이미지의 가장 중요한 부분을 예측할 수 있도록 만든 돌출감지 알고리즘을 도입하면서 얼굴감지 알고리즘을 폐기했다.
트위터 대변인은 회사에서 알고리즘을 재평가한 후 다른 사람들이 검토하거나 복제할 수 있도록 결과를 제공할 계획이라며 알고리즘 배포 전 평가에서 인종이나 성별 차별적인 요소는 발견할 수 없었다며 “다만 더 많은 분석이 필요하다는 것은 인정한다”고 말했다.
그러나 트위터 엔지니어 왕제한(Zehan Wang)은 “알고리즘이 배포되기 전인 2017년 편향성이 발견된 것은 사실이지만 '심각한' 수준은 아니었다고 트위터를 통해 밝혔다. 즉 같은 회사 내에서 책임자와 기술자의 주장이 엇갈리고 있는 셈이다.
실무자와 대변인의 입장이 왜 다른지에 대해 대변인에게 설명을 요구했지만 이유를 밝히기를 거부하고 알고리즘이 출시되기 전 발생한 평가에 대한 세부정보를 수집 중이라고만 답했다.
지난 20일(현지시간) MIT 비나이 프라부(Vinay Prabhu) 알고리즘 편향 연구원은 “편향되지 않은 알고리즘의 두드러진 자르기는 몽상이며 잘 못된 자세”라며 “편견 없는 알고리즘은 없다”고 말했다.
또한 그는 “광범위한 연구결과를 바탕으로 인종차별이 아니라는 사실이 40:52로 나타난다 하더라도 인종편견이 없다는 사실은 아니다”라며 “사람들이 연구결과를 이용해 인종적 편견이 없다는 주장을 내놓을 가능성이 있기 때문에 연구결과 발표를 유보하고 있다”고 덧붙였다.
트위터 디자인 최고책임자 댄트리 데이비(Dantley Davis) 역시 “트위터는 이미지 자르기를 중단해야 한다”해야 한다는 주장을 내놨다.
반면 타임라인에서 이미지 자르기, 돌출 알고리즘 사용과 관련된 윤리적 의문과 돌출 알고리즘 연습에 사용된 데이터 자료에 대한 벤처비트의 질문에 트위터 대변인은 답을 거부하고 “트위터 직원들은 사용자들이 이미지 자르기에 대해 더 많은 통제를 원한다는 것을 알고 있으며 여러 옵션을 고려하고 있다”고 답했다.
