‘오버워치’ 제작진, AI로 비매너 유저 잡아낸다

‘오버워치’ 제작진이 독특한 일을 시작했다. AI에게 ‘불쾌한 말’을 가르치기 시작한 것이다. 그 이유는 ‘오버워치’를 즐기며 다른 유저에게 폭언을 퍼붓는 유저를 차단하는 AI을 만들기 위해서다. 즉, 비매너 플레이 근절을 위한 새로운 시도인 셈이다. ‘머신러닝’은 다른 유저에게 불쾌한 말을 하는 유저를 신고 전에 잡아내기 위해 준비한 것이다

▲ '오버워치' 제작진은 비매너 플레이를 줄이기 위해 노력 중이다 (사진출처: 개발자 업데이트 영상 갈무리)

[관련기사]
트롤러 차단? 오버워치에 '팀으로 만나지 않기' 기능 생긴다

‘오버워치’ 제작진이 독특한 일을 시작했다. AI에게 ‘불쾌한 말’을 가르치기 시작한 것이다. 그 이유는 ‘오버워치’를 즐기며 다른 유저에게 폭언을 퍼붓는 유저를 차단하는 AI을 만들기 위해서다. 즉, 비매너 플레이 근절을 위한 새로운 시도인 셈이다.

블리자드 제프 카플란 디렉터는 4월 3일(현지 시간), 해외 게임 전문지 Kotaku와 진행한 인터뷰를 통해 AI에게 ‘머신러닝’을 기반으로 게임 속 불쾌한 말을 가르치고 있다고 밝혔다. ‘머신러닝’은 다른 유저에게 불쾌한 말을 하는 유저를 신고 전에 잡아내기 위해 준비한 것이다. 제프 카플란 디렉터는 “목표는 신고할 필요가 없다는 생각이 들도록 하는 것이다”라고 설명했다.

즉, AI에게 문제가 있는 단어나 표현을 계속 가르치고, 이를 기반으로 부적절한 채팅을 한 유저를 찾아내는 것이다. 제프 카플란 디렉터는 영어는 물론 한국어와 같은 다른 언어도 가르치고 있다고 설명했다.

다만 AI도 실수할 수 있다. 특히 문맥을 이해하지 못해 잘못된 판단을 내릴 우려도 있다. 따라서 처음에는 잘못된 말을 반복적으로 하는 유저를 찾아내는 것을 목표로 한다. 여기에 친구끼리 주고 받는 ‘귓속말’은 모니터링에서 제외시키고, 블리자드 규정상 명백히 처벌할 수 있는 단어나 표현만 찾아내도록 조정했다.

‘머신러닝’으로 비매너 유저를 찾아낼 방법을 연구하는 것은 블리자드가 처음은 아니다. 라이엇 게임즈는 지난 2015년부터 ‘리그 오브 레전드’에 ‘머신러닝’을 도입하기 시작했다. 유저의 플레이 패턴을 분석하고, 비매너 행위를 한 것으로 간주되면 즉시 그 유저를 제재하는 시스템이다. ‘오버워치’에도 이와 비슷한 시스템이 도입되는 것이다.

여기에 블리자드는 ‘오버워치’ 내 비매너 행위 근절을 위한 노력을 이어오고 있다. 지난 3월 24일에는 원하지 않는 유저를 한 번에 2명까지 한 팀으로 만나지 않도록 제한하는 ‘팀으로 만나지 않기’ 기능을 공개 테스트 서버에 추가한 바 있다. 이번에 제프 카플란 디렉터가 이야기한 불쾌한 채팅을 걸러내는 ‘머신러닝’도 매너 플레이를 권장하기 위한 것이라 볼 수 있다. 블리자드가 이러한 노력을 바탕으로 원하는 결과를 손에 넣을 수 있을지 지켜볼 부분이다.