아마존, “얼굴인식 기술 정부기관에 계속 제공할 방침”
기술 혁신 vs. 프라이버시 침해 논쟁 가열
[데일리포스트=최율리아나 기자] 인공지능(AI)은 이제 신뢰할 수 있을 정도로 충분히 진화한 것일까?
아마존이 자사 얼굴인식·검출 시스템인 ‘레코그니션(Rekognition)'을 정부기관에 계속 제공할 방침을 밝히면서 논란이 가열되고 있다.
미국 캘리포니아주 샌프란시스코 시의회는 최근 경찰 등 행정기관의 얼굴인식 기술의 사용을 막는 조례를 통과시켰고 일부 아마존 주주들도 그동안 얼굴인식 SW 판매에 대한 강한 우려를 나타냈다.
하지만 지난달 열린 아마존 연례 주주총회에서 얼굴인식 기술의 판매 금지 안건이 과반 찬성 확보에 실패하면서 주주들은 아마존 방침에 제동을 걸 수 없게 됐다.
앤디 재시 아마존웹서비스(AWS) CEO는 인권 및 프라이버시 침해 우려에 대해 일정한 이해는 보였지만, 이 기술이 유용하며 앞으로도 정부에 제공하겠다는 방침을 명확히 했다.
미국자유인권협회(ACLU)는 “아마존 AWS가 개발한 레코그니션 소프트웨어(SW)는 지난해 플로리다 경찰 등이 이미 도입했으며 전미 소매점에 고객 감시 수단으로 제공되고 있다"며 비난의 수위를 높이고 있다.
아마존은 미국이민세관수사국 (ICE)에도 이민자 및 난민 프로파일링용으로 해당 SW를 판매하려 한 것으로 알려졌다. 일부 민주당 의원들도 경찰의 남용을 막아야 한다고 주장하고 있다.
이러한 비난에 대해 아마존은 "지금까지 얼굴인식 시스템을 오용했다는 단 하나의 보고도 접수된 적이 없다”며 반박했다. 이어 "(기술이) 공공의 안전을 목적으로 사용되어야 한다는 지침도 함께 제공하고 있다. 인신매매 피해자 3000명 이상을 특정한 사례 등, 유익한 목적에 사용되고 있다"고 주장했다.
일각에서는 범죄 용의자나 실종 아동 특정 등 범죄 수사 등에 효과가 크고 공공의 이익이 되기 때문에 기술 자체를 전면 금지하는 것은 시대착오적 발상이라고 주장한다.
이에 인권 단체는 얼굴인식 기술은 쉽게 남용될 수 있으며 이민자 및 특정 인종, 시민운동가 언론 활동 등의 권리를 침해할 것이라고 맞서고 있다.
한편 마이크로소프트(MS)는 아마존과는 대조적인 움직임을 보이고 있다. MS는 미 육군과 4억 8000만 달러의 하드웨어 납품 계약을 맺었지만 인권 침해 우려로 얼굴인식 기술은 판매하지 않았다.
또 MS는 캘리포니아 경찰당국이 얼굴인식 기술의 제공을 요청했음에도 오인 체포 가능성 등을 이유로 이를 거부했다. 실제로 얼굴인식 소프트웨어(SW) 기술은 백인 남성에 편향돼 있으며 피부색이 어두워질수록 에러율이 올라가는 것으로 알려져 있다. 이는 AI 학습 과정에서 백인 남성의 얼굴 사진을 많이 쓰기 때문이다.
아마존의 결정에 얼굴인증 기술의 편견과 오류에 대한 우려는 앞으로도 이어질 전망이다.