ⓒ데일리포스트=이미지 제공/unsplash

[데일리포스트=김정은 기자] 인공지능(AI)은 다양한 분야에서 활용되고 있으며, 새로운 의약품 후보 발굴에도 큰 역할을 하고 있다.

최근 오용 위험성 검증을 위해 의약품 개발 AI로 실험한 결과, "단 6시간에 4만 종의 화학 무기 후보 분자를 탐색했다"는 충격적인 연구 결과가 발표됐다. 제시된 후보 분자 중에는 신경가스 'VX'를 능가하는 독성도 포함된 것으로 알려졌다. 

이번 실험은 AI가 얼마나 쉽게 남용될 수 있는지, 그 위험성을 시사하고 있다. 연구 결과는 국제학술지 네이처의 자매지 '네이처 머신 인텔리전스(Nature Machine Intelligence)'에 게재됐다. 

ⓒ데일리포스트=이미지 제공/Nature Machine Intelligence

의약품 개발에 사용되는 AI는 표적 독성을 약화시키는 분자를 탐구하도록 설계되어 있다. 미국 콜라보레이션 파마세니컬스(Collaborations Pharmaceuticals)에서 의약품 개발 AI를 연구하는 파비오 어비나(Fabio Urbina) 박사는 독자 개발한 의약품 개발 AI인 'MegaSyn'을 통해 독성을 약화시키는 분자가 아닌, 독성을 강화하는 분자를 탐색하도록 설정하고 테스트를 진행했다. AI를 6시간 동안 동작시킨 결과, 무려 4만종의 화학무기 후보 분자의 특정이 가능했다.  

실험에 이용된 AI 학습에는 신경가스 VX 데이터를 포함한 복수의 화학 무기 관련 데이터가 활용됐다. AI가 특정한 후보 분자 중에는 VX 혹은 기존 화학 무기와 유사한 분자가 많이 포함되어 있었다. 뿐만 아니라 기존 화학 무기와 유사하지 않지만 VX보다 독성이 강한 분자도 확인됐다. 

어비나 박사는 실험 결과에 대해 "유용한 의약품 개발에 관련된 무해한 도구에 독성 물질을 찾으라고 명령한 순간 치명적인 분자 탐색 도구로 변했다"고 말했다. 

해당 AI는 특정 의약품 후보 분자를 실제로 합성하기 전에 가상 선별 기능을 제공하기 때문에, 이번 실험처럼 화학 무기 후보군을 탐색하면 독성 후보 분자를 선별할 수 있다. 

ⓒ데일리포스트=이미지 제공/pixabay

연구팀은 이러한 화학 무기 관련 악용을 막기 위해 실험 상세 내용을 공개할 계획이다. 이번 실험에는 파이썬(Python) 등의 무료 프로그래밍 언어와 무료 의약품 데이터 세트 등이 사용되고 있어, 관련 분야에서 일정 수준의 지식이 있다면 저비용으로 단시간에 실험 내용을 재현할 수 있다. 

어비나 박사는 "이처럼 AI를 이용해 쉽게 화학 무기 후보 분자를 특정할 수 있는 현실에 경종을 울리고 싶었다"며 "AI의 악용을 막기 위한 논의가 반드시 필요하다. 가령 문장 생성 AI인 GPT-3를 개발한 오픈AI(OpenAI)는 악용을 막기 위해 ▲가이드라인 제정 ▲콘텐츠 필터 제공 ▲사용 용도 감시 등의 대책을 추진하고 있다"고 언급했다. 

저작권자 © 데일리포스트 무단전재 및 재배포 금지