혐오·차별 감지 기술도 고도화
LG 전체 구성원의 연구윤리 기준

최근 정부와 기업들이 인공지능(AI) 기술의 윤리원칙 마련에 나선 가운데 LG그룹이 24일 인간존중 등 5대 핵심 가치를 담은 AI 윤리원칙을 발표했다.

LG그룹에 따르면 ‘AI 윤리원칙’은 AI를 개발하고 활용하는 모든 구성원이 지켜야 할 올바른 행동과 가치 판단의 기준으로, ‘고객을 위한 가치 창조’와 ‘인간존중의 경영’이라는 경영이념을 고려해 5대 핵심 가치를 선정했다.5대 핵심 가치는 ▲ AI가 인간의 자율성, 존엄성과 같은 권리를 침해하지 않아야 한다는 ‘인간존중’ ▲ AI가 성별이나 나이, 장애 등 인간의 개인 특성에 기초한 부당한 차별을 하지 않고 공정하게 작동할 수 있도록 하는 ‘공정성’ ▲ AI를 활용한 제품과 서비스의 안전과 관련된 부분은 글로벌 수준의 검증 시스템을 항시 가동한다는 ‘안정성’ ▲ AI를 개발하고 활용하는 LG 구성원들이 주인 의식을 가지고 역할과 책임을 명확히 해야 하는 ‘책임성’ ▲ AI가 내놓은 결과를 고객이 이해할 수 있도록 끊임없이 소통한다는 ‘투명성’이다.

LG는 이런 윤리원칙이 윤리적인 AI 개발에 활용될 수 있도록 그룹 AI 연구 허브인 LG AI 연구원에 ‘AI 윤리 점검 TF’를 신설했다. TF는 LG 구성원들을 대상으로 AI 윤리원칙 교육을 진행하며 AI 연구 및 개발 단계에서 발생 가능한 윤리 문제를 사전에 검증한다.

LG는 그룹 내 주요 AI 윤리 이슈들을 논의하는 협의체인 ‘AI 윤리 워킹그룹’도 연말에 출범할 예정이다. 워킹그룹에는 LG전자, LG디스플레이, LG이노텍, LG화학, LG에너지솔루션 등 10개 계열사가 참여한다.

LG AI 연구원은 이를 통해 축적한 데이터와 사례를 바탕으로 내년까지 LG가 연구하는 AI의 세부 분야별 윤리 가이드라인을 개발해 계열사로 전파할 계획이다.

LG AI연구원은 윤리적인 AI 개발을 위해 ‘혐오 표현 감지’와 ‘설명 가능한 AI’ 등 다양한 기술 연구도 진행 중이다. 혐오 표현 감지는 소비자들이 상담 챗봇 등에서 혐오 및 차별 표현을 경험하지 않도록 단어뿐만 아니라 문장의 맥락까지 분석해 공격적이거나 편향된 정보를 걸러낸다.설명 가능한 AI는 AI가 내놓은 결괏값이 어떤 이유로 도출됐는지 사람이 이해할 수 있도록 설명하는 기술이다. 제조 공장의 경우 AI가 단순히 제품의 불량 유무만을 알려주는 것이 아니라 불량으로 판단한 근거를 명확하게 설명하는 방식이다. 이 기술은 신뢰성과 투명성이 생명인 의료, 법률, 금융 등의 전문 분야에서 인간의 의사 결정을 돕는 전문가 AI를 개발하기 위해 필수적인 기술로 꼽힌다.

배경훈 LG AI연구원장은 “인간이 AI를 어떻게 바라보고 활용하느냐에 따라 그 가치에 대한 평가는 달라질 것”이라면서 “LG는 AI 윤리원칙 수립을 통해 인간과 AI의 공존에 관한 연구를 지속하며 진정한 고객가치를 창출해 나갈 것”이라고 말했다.