ㅣ데일리포스트=김정은 기자ㅣ이용자가 질문을 하면 학습된 데이터를 기반으로 답변하는 대화형 인공지능 챗봇 '챗GPT'는 출시 이후 세계적인 돌풍을 일으키고 있다.
그러나 전체 유료가입자의 1.2%에 해당하는 가입자 정보가 유출되는 대형 사고가 터지면서 개인정보 유출에 대한 우려가 높아지고 있다. 최근 이탈리아 당국이 개인정보 보호 우려 등을 이유로 챗GPT를 일시적으로 금지한 데 이어, 다른 유럽 국가들도 규제 여부를 놓고 검토에 착수한 것으로 알려졌다.
이번 사고는 가입 정보(개인정보) 일부가 유출된 것으로 보이지만, 현존 최고의 인공지능인 챗GPT가 인터넷에 떠도는 막대한 개인정보를 찾아내고 이를 악용한다면 심각한 문제로 이어질 수 있어 각국이 서둘러 단속에 나선 것으로 분석된다.
◆ 이탈리아, "챗GPT, 개인정보 무단 사용·아동 발달에 부적절"
이탈리아 데이터 보호청은 지난달 31일(현지시간) "오픈AI는 알고리즘 훈련을 위해 수집한 방대한 개인정보 데이터 사용에 법적 근거가 없다"고 지적하며, 조사에 착수했다고 밝혔다.
아울러 유럽연합(EU)의 일반데이터보호규정(GDPR) 준수를 위해 20일간의 유예를 부여하고, 오픈AI가 추가 정보를 제출할 때까지 이탈리아에서 챗GPT 접속을 차단했다. 오픈AI는 기한 내에 어떤 조치를 취할 것인지 제시해야 하며 불응할 경우 제재금을 부과받을 수 있다.
GDPR은 유럽연합 회원국 내에서 활동하며 유럽연합 회원국 시민의 데이터를 취급하는 기관에 한층 강력한 데이터보호 제도를 시행하도록 강제하는 규정이다. EU의 GDPR에 근거한 제재금 최고액은 기업의 글로벌 연간 매출액의 4% 혹은 2000만 유로(287억 5천만원)이다.
이탈리아 당국은 챗GPT가 이용자 연령 확인이 없고 13세 미만 사용을 금지하지 않아, 미성년자에게 무분별한 정보를 제공할 수 있다는 점도 문제 삼고 있다. 챗GPT가 생성하는 답변이 자녀의 발달과 자기 형성 과정에 부적절한 수 있다는 것이다.
이번 결정은 3월 20일 발생한 챗GPT 개인정보 유출 사고가 계기가 된 것으로 보인다. 오픈AI는 가입 확인 이메일을 본인이 아닌 다른 사용자에게 발송했다. 당시 메일에는 이름·이메일 주소·결제 주소·신용카드 번호(마지막 네 자리) 등 민감한 개인정보가 대거 포함됐다.
월스트리트저널(WSJ)에 따르면 이탈리아 당국이 앞으로 구체적인 요구를 할 경우 챗GPT를 둘러싼 규제 논의가 한층 복잡한 양상을 보일 수 있다. 가령 당국이 특정 인물에 대한 정보를 AI 모델 훈련 데이터에서 제외·삭제하도록 요구하거나, 오픈AI가 개인정보 제외·삭제 요구에 응하도록 의무화할 가능성도 나오고 있다.
◆ 미국·유럽 국가들로 규제 움직임 확산
챗GPT 이용이 폭발적으로 확산된 이후 국가 차원에서 이용을 금지하려는 움직임은 이탈리아가 처음이지만, 다른 유럽 국가들도 규제 검토에 착수한 것으로 알려졌다.
영국 규제 당국은 최근 안전성·투명성·형평성 등에 초점을 맞춘 AI 개발 관련된 백서를 발표했다. EU에서는 2021년 제안된 AI 사용 규제 법안 관련 논의가 거의 마무리 단계다. 법안이 통과되면 앞으로 일부 얼굴 인식 기술이 금지될 수 있고, 오픈AI 등 개발사에 대해 AI 학습에 이용되는 데이터의 위험 평가와 데이터 품질 검증 등을 의무화할 가능성이 있다.
또 프랑스와 아일랜드 당국은 챗GPT 차단 근거 등을 확인하기 위해 이탈리아 당국과 접촉한 사실이 알려졌다. 아일랜드 데이터보호위원회(DPC) 대변인은 "이탈리아 규제 당국과 정보를 공유 중이며, 이와 관련해 EU 내 모든 데이터 보호 당국과 의견을 교환하고 있다"고 밝혔다.
독일 언론은 자국 개인정보 감독기구가 개인정보 유출을 우려해 챗GPT를 차단할 가능성이 있다고 전했다. 울리히 켈버 독일 연방 데이터보호·정보자유위원회(BfDI) 위원장은 3일(현지시간) 현지 매체에 "이탈리아의 챗GPT 차단처럼 독일 역시 원칙적으로 동일한 조치가 가능하다. 이는 정부 권한에 속한다"고 언급했다.
미국에서도 고도의 언어 능력을 가진 챗봇 서비스를 둘러싸고 거짓 정보나 안전성, 데이터 보호에 관한 우려가 나오고 있다. 비영리 단체 퓨처 오브 라이프 인스티튜트(Future of Life Institute)는 '거대한 AI 실험을 일시 중단하라'는 제목의 서한을 공개하며 서명 활동에 나섰다. 전세계 AI 연구소 등 업계에 "AI 설계에 관한 안전기준을 정할 때까지 약 6개월간 차세대 AI 모델 훈련을 중단해야 한다"고 호소하는 내용이다.
AI 윤리 문제를 조사하는 비영리단체인 미국 AI디지털정책센터(CAIDP)는 3월 30일 미연방거래위원회(FTC)에 오픈AI가 개발한 대규모 언어모델 GPT-4의 상업적 이용을 금지해 달라고 요청하기도 했다.
챗GPT 열풍에 제동이 걸린 상황에서, 오픈AI 측은 각국 규제 당국에 적극 협조하겠다며 서둘러 진화에 나서는 모습이다. 이탈리아 규제 결정에는 "우리 역시 AI 규제가 필요한 측면이 있다고 보기 때문에 긴밀히 협력하고 시스템 구축 및 사용 방법을 논의하겠다"고 밝혔다. 또 샘 알트만 오픈AI 최고경영자(CEO)는 오는 5월 각국 정책입안자들과 직접 만나 이용자 보호 조치 등에 대해 논의할 계획이다.