LG AI연구원, 유네스코의 국내 첫 AI 윤리 실행 파트너사 선정
|데일리포스트=송협 선임기자| “AI 기술 혁신은 인류에게 전례없는 기회로 다가오고 있지만 부작용과 위험성 해결이 주요 과제가 되고 있습니다. 국제사회가 AI 윤리 기준, 국제 규범과 같은 안전 장치 마련에 공감대를 강화하고 있는 상황에서 LG도 윤리적이고 책임감 있는 AI를 만들기 위해 집단지성 발현에 역할을 다하겠습니다.” (LG 관계자)
LG AI연구원이 국내 기업으로는 유일하게 슬로베니아에서 개최하는 ‘유네스코 AI 윤리 글로벌 포럼’에 참가했다. 올해로 2회째 개최하는 이번 포럼은 첫 국제 표준인 AI 윤리 권고의 이행 방안을 논의하기 위한 자리이며 올해는 ‘변화하는 AI 거버넌스의 지형’을 주제로 진행했다.
이번 포럼에서 LG AI연구원 김유철 전략부문장은 연구 개발부터 활용 및 폐기에 이르기까지 AI 시스템의 생애주기별 LG만의 위험 관리 체계 구축 경험을 공유하고 글로벌 빅테크를 비롯해 유네스코 회원국 및 국제기구 인사들과 AI 윤리 및 거버넌스 분야 협력 관계 구축을 위해 논의했다.
LG AI연구원은 상반기 중 유네스코와 함께 ‘전문가를 위한 AI 윤리 교육 프로그램’을 개발 추진하는 등 향후 국제 AI 윤리 활동을 함께하며 글로벌 AI 윤리 리더십을 강화한다는 방침이다.
LG AI연구원은 이번 포럼을 통해 민간 부문 AI 윤리 기구인 ‘유네스코 비즈니스 카운실’에도 가입했다. 비즈니스 카운실은 공동의장사 마이크로소프트와 텔레포니카를 비롯해 세일스포츠, 세계이동통신사업자협회 등 글로벌 기업 중심으로 유네스코의 AI 윤리 권고 이행 촉진과 AI 윤리영향평가 도구를 개발하고 운영 우수 사례를 확산하는 플랫폼 역할을 하고 있다.
오드레 아줄레 유네스코사무총장은 비즈니스 카운실 및 포럼 참여 기업과 함께 윤리적이고 책임감 있는 AI를 만들기 위한 민간 부문의 약속을 담은 ‘AI 윤리 성명서’를 발표했다.
LG AI연구원은 최근 ‘LG AI 윤리원칙’의 이행 성과를 담은 ‘AI 윤리 책무성 보고서’를 발간한 바 있다. 보고서에는 국내 및 글로벌 AI 윤리원칙 및 규범과의 정합성을 맞추기 위해 유네스코 회원국이 만장일치로 채택한 첫 국제표준인 ‘AI 윤리 권고’와 정부가 발표한 ‘AI 윤리기준’ ‘디지털 권리장전’ 내용을 반영해 작성했다.
이에 앞서 LG는 지난 2022년 ▲인간존중 ▲공정성 ▲안전성 ▲책임성 ▲투명성 등 AI를 개발하고 활용하는 LG의 모든 구성원이 지켜야 할 올바른 행동과 가치 판단 기준이 되는 ‘LG AI 윤리원칙’을 발표하기도 했다.
LG AI연구원은 AI 윤리 실천 뿌리가 되는 거버넌스 고도화를 위해 노력하고 있다. 실제로 AI 연구 허브인 ‘LG AI연구원’ 내 기술과 법학, 정책 등 분야 내외부 전문가들이 참여하는 ‘AI 윤리위원회’를 비롯해 실질적인 AI 윤리 실행을 담당하는 ‘AI 윤리사무국’ AI 알고리즘과 모델의 편견이나 오류, 시스템 취약점을 찾아내는 ‘레드팀’ 임직원들의 자발적인 AI 실천 조직 ‘AI 윤리 연구/활동 그룹’을 운영하고 있다.
여기에 LG 주요 계열사는 AI 윤리 담당자들이 분기별로 모여 AI 윤리 이슈와 현안을 공유하고 윤리 가이드라인을 개발해 전파하는 ‘AI 윤리 워킹그룹’도 운영하고 있다.
LG AI연구원은 AI 윤리 실천을 위한 기술 연구와 인식 증진 활동도 함께 전개하고 있다. 특히 기술 영역에서는 사실이 아닌 말을 그럴듯하게 만들어 내는 ‘환각’이라는 생성 AI 언어 모델의 취약점을 개선하고 신뢰할 수 있는 답변을 제공하는 AI를 만들기 위해 근거에 기반한 답변 하는 AI 기술을 개발했다.
이미지와 텍스트 양방향 생성이 가능한 멀티모달 모델은 저작권 문제없는 이미지 데이터를 학습해 활용하고 사회적 편향을 측정하는 평가 지표를 활용해 모델의 편향성을 지속적으로 완화하고 있다.
LG 관계자는 “이 외에도 건강과 보건, 에너지, 환경 분야 난제 해결에 AI 기술이 적용하는 연구를 통해 지구와 인류의 지속가능성을 높이는데 기여하고 있다.”고 덧붙였다.