자율주행차의 치명적 "허점"... 피부색 어두울수록 충돌사고 높다
자율주행차의 치명적 "허점"... 피부색 어두울수록 충돌사고 높다
  • 최율리아나 기자
  • 승인 2019.03.08 17:42
  • 댓글 0
이 기사를 공유합니다

현실의 편견, 인공지능(AI)으로 확대? 

[데일리포스트=최율리아나 기자] 안면인식 소프트웨어(SW) 기술이 백인 남성에 편향돼 있으며 피부색이 어두워질수록 에러율이 올라간다는 사실은 이미 알려져 있다.

이런 가운데 자율주행차에 탑재된 인공지능(AI) 시스템도 이와 유사한 문제를 안고 있다는 사실이 새롭게 밝혀졌다. 연구에 따르면 피부색이 어두운 보행자일수록 자율주행차 사고 확률이 높아지는 것으로 나타났다.

미국 조지아 공대 연구진은 자율주행차용 최첨단 물체인식 시스템에 탑재된 8개의 AI 모델 정확도를 조사해 그 결과를 인터넷 논문 공개 사이트 ‘아카이브(arXiv)’에 게재했다.

연구팀이 조사한 물체인식 시스템은 자율주행차가 도로표지판, 보행자, 다른 물체 등을 인식하기 위해 사용된다.

조사에서는 물체인식 시스템이 체크한 보행자 사진을 피츠패트릭(피부색에 따른 피부 유형 분류 기준) 피부 유형에 따라 ‘피부색이 옅은 카테고리’와 ‘피부색이 짙은 카테고리’ 두 가지로 구분했다.

그리고 물체인식 시스템에 보행자를 ▲피부색이 옅은 사람 ▲피부색이 짙은 사람 ▲피부색은 확인할 수 없지만 사람 ▲사람이 아님 가운데 하나로 판단하는 테스트를 실시했다.

테스트 결과 피츠패트릭 분류에서 피부색이 짙은 것에 속하는 ‘옅은 갈색’ ‘갈색’ ‘검은색’인 보행자에 대해 물체인식 시스템이 한결같이 ‘열등한 성능’을 나타내는 것으로 밝혀졌다.

연구진에 따르면, 낮과 밤 등 사진을 촬영한 시간적 변수를 고려하더라도 피부색이 어두운 보행자의 이미지를 포함한 그룹은 물체인식 시스템 정확도가 평균 5% 떨어진다.

AI 분야에서는 데이터가 성능을 결정한다. 즉 AI의 정확도는 학습한 데이터에 달린 셈이다. 조지아 공대 연구진은 “자율주행차의 물체인식 시스템이 현재의 정밀도로 보급된다면 피부색에 의해 교통사고 발생 확률도 달라질 것”이라고 지적했다.

하지만 연구진은 이번 조사 결과를 토대로 "데이터 세트에 피부색이 어두운 보행자의 이미지를 늘린다면 AI가 보다 정확하게 보행자를 감지할 수 있을 것"이라고 설명했다.



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.