디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

AI로 악플잡는 네이버·카카오, 남은 과제는?

IT동아갤로그로 이동합니다. 2023.04.07 19:50:21
조회 4331 추천 5 댓글 55
[IT동아 정연호 기자] 카카오(다음)와 네이버가 인공지능(이하 AI) 기술을 활용해, 뉴스의 악성 댓글을 자동으로 찾아 제재하는 시스템을 만든다. 악성 댓글의 탐지와 제재 능력이 아직 완전하지는 않지만, 업계는 AI 기술이 고도화되면서 이 시스템의 성능이 꾸준하게 발전할 것으로 전망한다.

국내 대표 포털 사이트 운영사인 카카오와 네이버는 ‘악성 댓글 방지’를 위한 정책을 만들고 있다. 많은 사람이 포털 사이트 뉴스의 댓글 때문에 피해를 본다는 비판이 거세졌기 때문이다.

그 일환으로 카카오와 네이버는 포털 사이트의 악성 댓글을 발견하고, 보이지 않게 가리는 AI봇(각각 세이프봇, 클린봇)을 개발했다.


카카오의 세이프봇, 출처=카카오



카카오 ‘세이프봇’은 다음과 카카오탭의 뉴스 댓글을 분석한다. 욕설/음란/불법 내용의 댓글을 발견하면 가리고, 신고한다. 신고된 댓글이 운영정책을 위반했다면, 카카오가 이를 삭제한다.


욕설과 비속어를 포함한 댓글 수 추이, 출처=카카오



세이프봇은 실제로 악성 댓글을 잡는 데 효과가 있다. 카카오는 “세이프봇 적용 전인 2020년과 적용 후인 2021~2022년의 월평균 수치를 비교하면, 욕설이나 비속어를 포함한 댓글이 3분의 1로 줄었다. 이용자가 신고한 악성 댓글도 12분의 1로 감소했다”고 밝혔다.

세이프봇의 정확도를 높이기 위해서, 카카오는 혐오 표현의 정의, 원칙, 판단 기준을 담은 ‘코딩북’을 만들고 있다. 전문성을 갖춘 외부 연구진이 이 과정에 참여한다. 코딩북을 학습한 세이프봇은 여러 서비스에 순차적으로 적용될 예정이다.


네이버의 클린봇, 출처=네이버



네이버 클린봇도 웹툰, 뉴스의 악성 댓글을 찾고, 가린다. 특징은 댓글의 맥락을 읽는다는 것이다. 비속어를 포함하지 않는 악성 댓글(혐오 표현, 성적 표현)은 클린봇이 맥락을 읽어서 잡아낸다.


네이버 클린봇이 잡은 문장(1, 3), 잡지 않은 문장 (2, 4), 출처=네이버



네이버가 공개한 클린봇의 원리 자료를 살펴보면, 클린봇은 ‘(1)너 같은 쓰레기 같은 놈은 쓰레기통에나 들어갔으면 좋겠다’와 ‘(2)사람들이 쓰레기를 쓰레기통에다가 좀 버렸으면 좋겠다’의 차이를 이해한다. (1) 문장이 사람을 쓰레기에 빗대어 모욕한다는 점, (2) 문장이 쓰레기의 사전적인 의미를 사용한다는 점을 안다는 뜻이다.


클린봇을 도입한 이후로 악플 생성 비율과 악플 노출비율 추이, 출처=네이버



클린봇도 역시 네이버의 악성 댓글 감소에 기여했다. 지난 3월, 네이버는 “AI 클린봇을 도입한 뒤 악성 댓글 생성 비율이 2020년 26.5%에서 2023년 초 16.7%로 줄었다. 다른 이용자가 악성 댓글을 보는 비율은 2019년 21.9%에서 2023년 초 8.9%까지 떨어졌다”고 밝혔다.

다만, AI 업계는 악성 댓글을 제재하는 AI봇의 완성도가 아직 낮다고 말한다. AI봇은 비속어를 포함한 악성 댓글을 잘 찾아낸다. 하지만, 문맥을 이해하지 못해서 혐오표현을 제재하지 못하는 경우가 많다.

AI봇이 비속어를 포함하지 않는 혐오 표현을 실제로 잘 제재하는지 확인하기 위해서, 네이버 뉴스 페이지에서 혐오 표현의 주요 공격대상이 되는 ‘여성’과 관련된 기사를 확인해봤다.

클린봇은 “권리는 주고 의무는 나몰랑”, “국민 절반인 여자는 머리가 모자라고 신체가 나약한 팔X이들이라 이런 조치가 필요하다는 거냐”같은 혐오 표현을 제재하지 않았다. 반면, “사회에 도움이 1도 안 되는 기생충 새X들 왜 살까 도대체”, “적극적으로 대X리 깨고 싶네”같은 비속어가 포함된 댓글을 제재했다.

네이버 관계자는 “혐오나 비하, 차별적인 표현에 대한 기준은 개인마다 다르다. 네이버가 이 기준을 임의로 정하는 것은 어렵다”면서 “특정 단어는 문맥에 따라 차별 표현이 될 수 있는데, 이러한 단어나 문장을 모두 잡아내는 것은 쉽지 않다. 이를 해결하기 위해서, 네이버는 한국인터넷자율정책기구(KISO)에서 발표한 혐오 표현 가이드라인을 따르고 있다”고 말했다.

다음 뉴스 페이지에서 확인한 여성과 관련된 기사의 댓글도 마찬가지였다. 세이프봇은 “여자는 일을 진짜 못한다. 젊은 여자는 더 심각하다. 업무 배우는 건 관심 없다”, “여성임원이 많아야 하나요?”와 같은 혐오 댓글을 제재하지 않았다. 반면, “넘어가는 X이 문제지”, “손가락을 잘X버려라”처럼 노골적인 욕설이 있는 댓글들을 제재했다.

전문가들은 AI봇이 여러 종류의 악성 댓글을 잡아내려면 다양한 데이터를 학습해야 한다고 강조한다. 현재 AI봇은 특정 욕설이나 멸칭을 주로 학습한다. 그래서, 이러한 표현이 담긴 문장만 제재하는 것이다. 인터넷에 만연한 여러 혐오 표현을 학습하면, AI봇은 다양한 악성 댓글을 잡아낼 수 있다.

카카오와 네이버는 AI봇의 성능을 고도화하기 위해서 다양한 노력을 할 것이라고 입장을 전했다. 카카오 관계자는 “사람들이 안전하게 서비스를 이용할 수 있도록, 이용자의 다양한 의견을 듣고 검토해 세이프봇 기술을 고도화할 계획이다”라고 말했다. 네이버 관계자는 “AI봇의 성능을 개선하기 위해서 혐오와 차별 표현 데이터를 많이 확보하고, AI 모델을 발전시킬 것이다”라고 했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 구글·네이버 위협하는 딥엘(DeepL) 번역기, 한국어 버전 품질은?▶ 해외여행에서 외국어 소통, 번역앱으로 이렇게![이럴땐 이렇게!]▶ 인공지능, 검색광고 대행에 콘텐츠도 만들어주는 시대 온다



추천 비추천

5

고정닉 1

43

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은? 운영자 24/06/17 - -
2686 [뉴스줌인] NAS 제조사 시놀로지에서 출시한 HDD, 뭐가 다를까? [48] IT동아갤로그로 이동합니다. 23.06.03 7786 1
2685 '인공지능 각축전'으로 거듭난 컴퓨텍스 2023, 올해 주목받은 기업들은? IT동아갤로그로 이동합니다. 23.06.02 151 0
2684 [리뷰] 국산 반도체의 진면모를 파헤치다, 퓨리오사AI 워보이 NPU IT동아갤로그로 이동합니다. 23.06.02 217 0
2683 [농업이 IT(잇)다] 아케미 “우리 쌀 디저트로 건강과 맛을 함께” IT동아갤로그로 이동합니다. 23.06.02 155 0
2682 모토롤라 '레이저 40' 공개, 갤럭시Z 플립과 맞대결 [19] IT동아갤로그로 이동합니다. 23.06.02 2579 3
2681 NAS만이 아니다? 시놀로지, 컴퓨텍스에서 다양한 솔루션 선보여 IT동아갤로그로 이동합니다. 23.06.01 211 1
2680 인텔, 차세대 CPU에 인공지능 전용 처리 장치, 'VPU' 심는다 [10] IT동아갤로그로 이동합니다. 23.06.01 1649 1
2679 음향기기의 활발한 콜라보레이션 ‘소비자 구매욕 자극’ IT동아갤로그로 이동합니다. 23.06.01 1029 0
2678 '인공지능 핵심 기업으로 우뚝···' 컴퓨텍스 2023에서 빛난 엔비디아 [1] IT동아갤로그로 이동합니다. 23.06.01 958 2
2677 LG U+·KT ‘PASS’ 주의, 약관 전체동의 시 부가 서비스에 가입 [17] IT동아갤로그로 이동합니다. 23.05.31 2612 20
2676 인공지능, 전염병·핵 전쟁 수준의 위협 되기 전 관리해야 [10] IT동아갤로그로 이동합니다. 23.05.31 1312 2
2675 신산업 기술 개발하는 딥테크… 정부가 나서 육성한다 IT동아갤로그로 이동합니다. 23.05.30 174 0
2674 파손·침수된 스마트폰 데이터 복원하려면 이렇게![이럴땐 이렇게!] [1] IT동아갤로그로 이동합니다. 23.05.30 1670 0
2673 경쟁 심화·규모 감소에 스마트폰 기업 철수 연이어 [7] IT동아갤로그로 이동합니다. 23.05.30 3741 15
2672 [주간투자동향] IPX, BRV캐피탈로부터 1,200억 원 규모의 투자 유치 IT동아갤로그로 이동합니다. 23.05.30 133 0
2671 니콘 Z8 수석 개발자, "니콘 Z8, 플래그십 Z9보다 더 도전적인 카메라" [2] IT동아갤로그로 이동합니다. 23.05.30 662 2
2670 사고에 취약한 1인 가구, IoT로 극복 가능? [1] IT동아갤로그로 이동합니다. 23.05.26 1180 2
2669 [리뷰] 소형 TV를 위한 인테리어 스탠드, 카멜마운트 SMB32 이동형 스탠드 IT동아갤로그로 이동합니다. 23.05.26 244 0
2668 [농업이 IT(잇)다] 와일드웨이브 “우리나라만의 사워 맥주 보급” [6] IT동아갤로그로 이동합니다. 23.05.26 1060 1
2667 음악 감상 경험 높이는 음질·ANC 개인 최적화 기술 IT동아갤로그로 이동합니다. 23.05.26 168 0
2666 가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’ [11] IT동아갤로그로 이동합니다. 23.05.25 1994 1
2665 ‘코로나 특수’ 맞았던 글로벌 게임시장, 왜 중국만 역성장?[K비즈니스 가이드] [21] IT동아갤로그로 이동합니다. 23.05.25 1970 6
2664 건설 현장 논란 ‘근로자 경력 관리’로 보완한다 [10] IT동아갤로그로 이동합니다. 23.05.25 1101 3
2663 배달비 인상에 주목받는 ‘배달비 무료 배달앱’ [25] IT동아갤로그로 이동합니다. 23.05.25 1841 1
2662 샘 워너 IBM 부사장 “효율성, 보안성까지 잡은 IBM 스토리지, 한국 시장에서 호응” IT동아갤로그로 이동합니다. 23.05.24 155 1
2661 [IT 신상공개] 가장 작고 가벼운 EOS, 캐논 EOS R100 IT동아갤로그로 이동합니다. 23.05.24 1318 0
2660 [농업+IT=스마트팜] 6. 나만의 스마트팜 본격 구축하기 (1) IT동아갤로그로 이동합니다. 23.05.24 154 0
2659 콘텐츠 소비자, 몰입감 위해 지갑 연다 [3] IT동아갤로그로 이동합니다. 23.05.24 3039 0
2658 종합소득세 신고, 국세청 모두채움으로 간편하게 [7] IT동아갤로그로 이동합니다. 23.05.24 4829 6
2657 노스노비 “리울프 플랫폼과 친환경 종이 화병으로 화훼업계 ‘배민’ 노린다” [스타트업-ing] IT동아갤로그로 이동합니다. 23.05.23 131 0
2656 구글, 인공지능으로 장애인 접근성 높인다 IT동아갤로그로 이동합니다. 23.05.23 186 0
2655 중국, 美 반도체 기업 '마이크론' 제재··· '기로에 선 한·미 반도체 기업들' [2] IT동아갤로그로 이동합니다. 23.05.22 332 0
2654 서울과기대, 예비창업자 돕는 '2023년 메이커스페이스 제조창업교육' 실시 IT동아갤로그로 이동합니다. 23.05.22 163 0
2653 다른 노트북 충전 어댑터를 사용하고 싶을 땐 이렇게![이럴땐 이렇게!] [63] IT동아갤로그로 이동합니다. 23.05.22 4146 3
2652 [IT신상공개] 비행 편의와 내후성 좋아진 산업용 드론 DJI M350 RTK [1] IT동아갤로그로 이동합니다. 23.05.22 1028 1
2651 [주간투자동향] 콜게이트, 100억 원 규모 투자 유치 IT동아갤로그로 이동합니다. 23.05.22 219 0
2650 가상자산 첫 거래 기념하는 ‘비트코인 피자데이’ [14] IT동아갤로그로 이동합니다. 23.05.22 2774 0
2649 아웃스쿨 “날 것 그대로의 영어 수업, ‘직구’하듯 골라 배운다” [6] IT동아갤로그로 이동합니다. 23.05.19 5818 1
2648 킨스미디어, “물류센터 디지털화, 시설관리부터 시작해야” [스타트업-ing] IT동아갤로그로 이동합니다. 23.05.19 170 0
2647 엔비디아 RTX 4060·4060 Ti 공개··· '2년 기다렸는데 실망스러워' [29] IT동아갤로그로 이동합니다. 23.05.19 3225 3
2646 보안 업계 “챗GPT 탈 쓴 불량 앱 주의해야” IT동아갤로그로 이동합니다. 23.05.19 1326 4
2645 [농업이 IT(잇)다] 에이트테크 “AI·로봇 기술로 폐기물 선별 효율 개선한다” IT동아갤로그로 이동합니다. 23.05.19 142 0
2644 [IT강의실] 노이즈 캔슬링이 모든 소리를 차단하지 못하는 이유 [8] IT동아갤로그로 이동합니다. 23.05.18 2772 12
2643 [리뷰] ‘스마트보드’로 진화한 전자칠판, 현대아이티 스마트보드 알파 3.0 IT동아갤로그로 이동합니다. 23.05.18 157 0
2642 日 스마트폰 출하량 감소…삼성 내려가고 구글 올라오고 [57] IT동아갤로그로 이동합니다. 23.05.18 5191 18
2641 구글 ‘About this image’로 인공지능 사진 악용 줄인다 [2] IT동아갤로그로 이동합니다. 23.05.17 1846 5
2640 [KOBA 2023] 미디어 산업을 위한 스토리지 솔루션 '방대한 데이터에 초점' IT동아갤로그로 이동합니다. 23.05.17 138 0
2639 게이밍 능력에 얇은 두께까지, ‘HP 오멘 16 슬림’ 노트북 발표 [10] IT동아갤로그로 이동합니다. 23.05.16 2305 2
2638 웹3.0 시대의 필수 조직, 'DAO'가 움직인다 IT동아갤로그로 이동합니다. 23.05.16 203 0
2637 황혼기 디카 시장, 전통 미디어 연이어 폐간 [1] IT동아갤로그로 이동합니다. 23.05.16 256 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2