라이엇, 올해 말부터 AI로 음성 채팅 내 욕설 잡아낸다

▲ 라이엇게임즈가 음성 채팅 내 욕설과 혐오 발언을 자동으로 적발하는 시스템을 마련한다 (사진출처: 라이엇게임즈 공식 홈페이지)

게임 내 채팅을 이용해 타 플레이어를 공격하거나 모욕하고, 인종이나 성적 차별 발언을 퍼붓는 행위는 온라인게임 초창기부터 문제시 돼 왔다. 텍스트 채팅의 경우 증거가 명확하고 특정 키워드 차단 기능 등으로 어느 정도 예방이 가능하지만, 음성 채팅은 당사자가 녹음 후 고발하는 것 외엔 기술적 조치가 어려웠던 것이 사실이다. 이에 다수 업체에서 AI를 활용해 음성 채팅의 비매너 단어를 차단하거나 적발하는 기술을 여럿 개발 중이지만, 아직 게임에서 이를 만나기란 어렵다.

조만간, 이러한 음성 채팅 비매너 행위를 자동으로 적발해 주는 사례를 게임에서 만날 수 있을 것으로 전망된다. 라이엇게임즈가 자동 음성 평가 시스템을 개발 중이며, 발로란트를 시작으로 리그 오브 레전드 등 음성 채팅을 사용하는 자사 게임들에 확장시킬 것이라 밝혔기 때문이다.

라이엇게임즈는 29일, 현재 수동으로 대응 중인 음성 채팅 남용을 자동으로 진행할 수 있는 자동 음성 평가 기술을 개발 중이라고 공지했다. 이 시스템은 텍스트 채팅 평가 시스템과 유사하게 채팅 내 악의적인 단어나 문장을 자동으로 잡아내도록 설계됐다. 해당 시스템은 지난 7월부터 북미 서버에서 언어 모델을 학습하기 시작했으며, 올해 말 베타 출시를 목표로 개발 중이다.

다만, 해당 시스템의 국내 출시 시점은 확실하지 않다. 언어 별로 특성과 음성인식, 학습 방법이 다르기에, 한국어에 대응시키려면 별도의 백그라운드 학습이 필수적이기 때문이다. 실제로 올해 말 베타 출시 예정인 자동 음성 평가 기술 역시 영어 기반으로 진행되며, 한국어 관련 사항은 아직 공개되지 않았다.

음성 채팅 내 혐오 발언을 걸러주는 기술은 다양한 업체에서 개발 중이다. 인텔은 GDC 2019과 2021에서 AI를 활용한 음성채팅 필터링 기술 '블리프(Bleep)'를 공개했으며, ‘공격적 발언’, ‘성소수자 혐오’, ‘여성혐오’, ‘인종차별 및 외국인 혐오’, ‘백인 우월주의’, ‘N-워드(흑인 인종차별)’ 등으로 카테고리를 구분해 각각 필터링 수위를 네 단계로 조정할 수 있다. 인텔 블리프는 현재 인텔 데스크톱 및 노트북 프로세서에 베타 버전으로 배포됐으며, 올해 말 정식 출시를 목표로 하고 있다.

한편, 라이엇게임즈는 텍스트 채팅 내 혐오 발언을 모니터링 하는 기능도 더욱 강화할 것이라 밝혔다. 부적절한 언어를 자동으로 포착하는 기술 개발을 위해 투자를 아끼지 않을 것이며, 게임 내에서 절대 사용해서는 안 되는 '무관용 단어' 목록을 확장하고, 비슷한 문자나 숫자 등을 바꿔 사용하는 것도 잡아낼 수 있도록 해당 기능을 보완하고 있다고 밝혔다.