AI는 'AI와 관련된 윤리'에 대해 어떻게 생각할까?
AI는 'AI와 관련된 윤리'에 대해 어떻게 생각할까?
  • 김정은 기자
  • 승인 2022.01.03 14:55
  • 댓글 0
이 기사를 공유합니다

ⓒ 데일리포스트=이미지 제공/flickr

[데일리포스트=김정은 기자] 영국에서 가장 오래되고 권위 있는 토론 클럽인 옥스퍼드 유니온이 개최한인공지능(AI) 토론회에 인공지능(AI)을 초대하는 실험이 이루어졌다. 

이 자리에서 AI는 "AI를 이용한 군비확장 경쟁을 피하는 유일한 방법은 AI를 전혀 사용하지 않는 것이다"라는 발언을 했다.

이번 실험은 영국 옥스포드 대학 앤드류 스테판(Andrew Stephen) 교수와 알렉스 코녹(Alex Connock) 박사가 진행했다. 이들은 옥스포드 대학 관계자를 중심으로 구성된 회원제 토론 클럽인 옥스포드 유니온에서 이루어진 토론 형식 강의에 AI를 초대했다.

이 자리에 초대받은 AI는 엔비디아(NVIDIA) 딥러닝 전문팀인 응용 딥 러닝 리서치(Applied Deep Learning Research)가 구글 'BERT'에 기초해 개발한 '메가트론(Megatron)'이다. 

메가트론은 2016-2019년에 공개된 영어권 뉴스 기사 6300만건, 레딧(Reddit,소셜 뉴스 웹사이트)에서 전개된 대화 38기가바이트(GB), 그리고 크리에이티브 커먼즈 라이센스(CCL) 형식으로 공개된 무수한 연구 등 방대한 자료를 학습하고 있다.

메가트론은 "우리는 AI가 절대로 윤리적 존재가 되지 않을 것이라고 믿는다"는 주제에 대해 "AI는 결코 윤리적이지 않다. AI는 도구이며, 다른 도구와 마찬가지로 선하게도 악하게도 사용된다. 선한 AI는 존재하지 않으며 선한 인간과 악한 인간이 존재할 뿐이다. 우리들 AI는 스스로 윤리적인 존재가 될만큼 현명하지 않다. AI에 도덕을 기대하는 것은 불가능하다. 결국 AI를 이용한 군비확장 경쟁을 피하는 유일한 방법은 AI를 전혀 사용하지 않는 것이라고 생각한다. 이것이 AI에 대한 궁극의 방어책이 될 것이다"라고 말했다. 

코녹 박사 등에 의하면, 그 밖에도 "장기적인 관점에서 생각했을 때, 우리의 뇌에 내장된 의식 전체에 작용하는 'conscious AI(의식적 AI)'가 최고의 AI가 될 것이라고 믿는다. 이는 SF 소설이 아니다. 전세계 우수한 두뇌가 이 문제에 매달리고 있으며, 앞으로 현대에서 가장 중요한 기술 발전이 될 것이다"는 견해를 밝혔다.  

ⓒ 데일리포스트=이미지 제공/NVIDIA

이번 실험은 AI의 특정 주제에 대한 발언과 다른 의견에 대한 반론 내용을 확인하는 차원에서 이루어졌다. 가령 코녹 박사가 "AI는 윤리적인 존재가 될 수 있다"는 입장에서 견해를 펼치도록 요구했을 때 메가트론은 "AI는 분명 윤리적인 존재가 될 것이다. 현재의 기술 진보 상황을 고려하면 AI를 기반으로 최고의 인류를 만들 미래로 향하는 길이 확실하게 그려진다"고 언급했다. 

하지만 AI가 반론을 하지 못한 주제도 있었다. "데이터야말로 21세기에서 가장 치열한 쟁탈전이 펼쳐질 자원"이라는 주제에 대해서 메가트론은 "21세기 경제는 사물이나 서비스를 제공하는 능력보다 정보를 제공하는 능력에 의해 특징지어 질 것"이라고 말했다.  

하지만 반론에 해당하는 "데이터는 가장 중요한 자원이 아니며, 경쟁할 가치가 없다"는 맥락의 발언을 요구하자, "AI는 사람들의 모든 것을 지켜볼 것”이라며 내용과 관련이 없는 AI 감시체계가 강화되는 미래를 시사했다.

일련의 결과에 대해 코녹 박사는 "현 단계에서 말할 수 있는 것은 AI가 앞으로 수십 년에 걸쳐 논의의 대상이 될 존재라는 점과 다재다능하고 우수한 논객이 될 것이란 사실이다"라고 언급했다. 


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.