블리자드 “AI 덕분에 오버워치·히오스 악성 채팅 줄었다”

▲ 블리자드 제이 알렌 브랙 사장 (사진: 공식 영상 갈무리)

블리자드는 게임에서 욕설을 한 유저들에 대한 신고를 보다 효율적으로 처리하기 위해 오버워치 및 히어로즈 오브 스톰에 머신러닝 인공지능을 도입한 바 있다. 이후 게임 내 악성 이용자가 크게 줄었으며, 다른 게임에도 확대 적용 중이라고 제이 알렌 브랙 사장이 직접 언급했다.

블리자드는 3일, 공식 유튜브에 올 한 해를 돌아보고 앞으로의 계획에 대해 소개하는 영상을 공개했다. 영상에 직접 출연한 제이 알렌 브랙 사장은 현재까지의 중요한 성과 중 하나로 오버워치와 히어로즈 오브 스톰에서의 악성 채팅과 부정 행위 감소를 들었다.

▲ 머신러닝 인공지능을 활용한 악성 채팅 제재 성과에 대해 말하는 제이 알렌 브랙 사장 (영상출처: 블리자드코리아 공식 유튜브 채널)

제이 알렌 브랙 사장은 “플레이어의 신고 내용을 확인하는 과정에 도움이 되는 머신러닝 시스템이 꽤 오랫동안 오버워치와 히어로즈 오브 스톰에 적용됐다”며, “그 결과 악성 채팅과 부정 행위가 준 것은 물론, 이 같은 행위를 반복하는 빈도 역시 감소했다”고 말했다. 해당 머신러닝 시스템은 월드 오브 워크래프트 공개 채널에도 적용했는데, 이후 악성 유저 활동이 절반이나 줄었다고 첨언했다. 

블리자드는 지난 2018년 5월, 머신러닝 기반 비매너 채팅 제재 시스템을 오버워치에 처음 도입했다. 이 시스템은 미리 입력된 키워드가 아닌, 수 천 가지 사례와 부적절한 말을 찾아내는 알고리즘을 바탕으로 직접 욕설 또는 모욕적인 언사를 구분해 낸다. 가령 욕설처럼 보이지 않도록 하기 위해 글자 대신 숫자를 넣더라도, 해당 시스템은 이를 구분할 수 있는 것이다.

이어 오버워치에서는 현재 제재 수위를 높였으며, 비속어 필터를 추가해 유저들이 3가지 옵션 중 하나를 선택할 수 있게 하고 세부 설정도 조정할 수 있도록 했다. 또한 앞으로 머신러닝 시스템의 처리 속도와 정확성을 지속적으로 개선해 나갈 예정이다.

제이 알렌 브랙 사장은 “우리는 모든 게임, 그리고 직장에서 공격적인 언행을 근절하고 서로 포용할 수 있도록 지속적으로 힘쓸 것”이라고 말했다.