얼굴인식 기술의 한계..‘인종·편견 우려’ 의식

ⓒ 데일리포스트 이미지 출처=Pixabay 제공
ⓒ 데일리포스트 이미지 출처=Pixabay 제공

[데일리포스트=최율리아나 기자] 조지 플로이드의 사망을 계기로 인종 차별에 대한 경각심이 높아지면서 아마존, MS, IBM 등 글로벌IT 기업들이 여론을 의식해 얼굴인식 기술 제공을 차례로 중단하고 나섰다.  

얼굴인식 소프트웨어(SW) 기술은 백인 남성에 편향돼 있으며 피부색이 어두워질수록 에러율이 올라가는 것으로 알려져 있다. 이는 AI 학습 과정에서 백인 남성의 얼굴 사진을 많이 사용하기 때문으로, 인종·성별에 따른 편견 논란이 이어지고 있다.  

◆ 아마존, 얼굴인식 기술 美경찰에 제공 중지

세계 최대 전자상거래 업체 아마존이 6월 10일(현지시간) 경찰에 자사 얼굴인식·검출 시스템인 '레코그니션(Rekognition)' 사용을 1년간 금지하는 조치를 단행했다. 

아마존 클라우드 사업부 아마존웹서비스(AWS)는 그동안 레커그니션 기술을 미국 법 집행기관에 판매해왔으며, 불법이민 단속 당국에도 기술을 홍보해 반발을 산 바 있다.

ⓒ 데일리포스트 이미지 출처=아마존웹서비스(AWS)

그동안 얼굴인식 SW 판매에 대한 인권 및 프라이버시 침해 우려에도 불구하고 아마존은 "범죄 용의자나 실종 아동 특정 등 범죄 수사 등에 효과가 크고 공공의 이익이 되기 때문에 기술 자체를 전면 금지하는 것은 시대착오적 발상"이라고 주장해 왔다. 이번 발표는 그동안의 자사 방침을 뒤집는 조치다.   

아마존의 결정은 부당한 경찰 폭력으로 흑인 조지 플로이드가 숨지자 미국 전역에서 인종 차별과 경찰 폭력에 항의하는 움직임이 활발해진 가운데 나왔다. 경찰 등 법 집행기관의 첨담 기술사용에 대한 우려감이 증폭되면서 이를 의식한 것으로 풀이된다. 월스트리트저널(WSJ)은 얼굴인식·검출기술은 백인에 비해 흑인 등 다른 인종에 대한 정확도가 낮다고 지적했다. 

아마존은 성명에서 "우리는 얼굴인식 기술이 윤리적으로 올바르게 이용될 수 있도록 정부가 더 강력한 규제를 시행해야 한다고 주장해왔다. 1년간의 사용 중지 조치가 의회에 적절한 규제를 도입할 충분한 시간을 줄 것으로 기대한다. 필요하다면 지원 준비도 돼 있다"고 밝혔다. 

◆ IBM과 MS도 동참...인권침해·인종 차별 경계하는 사회상 반영 

얼굴 인식 기술과 관련해 IBM은 연방 규칙 제정을 요구한 것으로 전해졌다. IBM 아빈드 크리슈나 최고경영자(CEO)는 지난 8일(현지시간) 얼굴인식 사업에서 전면 철수한다고 발표했다.

그는 "시민 모니터링·인종 분석·기본적 인권과 자유 침해 등 우리의 가치관과 성실·투명성 원칙에 부합하지 않는 목적으로 얼굴 인식을 포함한 기술을 사용하는 것에 단호하게 반대한다"는 입장을 밝혔다. 

ⓒ 데일리포스트 이미지 출처=unsplash

마이크로소프트(MS) 역시 11일(현지시간) 얼굴인식 기술의 사용 규제를 위한 법적 조치가 이루어질 때까지 해당 기술을 경찰에 판매하지 않겠다고 밝혔다. MS는 지난해에도 미 육군과 4억 8000만 달러의 하드웨어 납품 계약을 맺었지만 인권 침해 우려로 얼굴인식 기술은 판매하지 않았다.

한편, 미국 민주당이 최근 발의한 경찰 개혁법안에도 연방 법 집행기관 측에 실시간 얼굴인식 기술을 금지하도록 하는 내용이 담겨 있다. 글로벌 IT기업들의 이번 결정으로 얼굴인증 기술은 당분간 사용이 중단될 전망이지만, 앞으로도 얼굴인식 기술에 대한 편견과 오류, 인권침해 논란은 지속될 전망이다. 

저작권자 © 데일리포스트 무단전재 및 재배포 금지