이루다가 돌아왔다... 더 창의적이고, 안전한 방식으로

IT동아 · 2022.10.25 16:41:15

[IT동아 정연호 기자] “이제 이루다는 기존 문장 데이터를 사용하지 않고, 맥락에 맞는 메시지를 모두 새롭게 생성한다. 이루다가 만드는 메시지는 대화가 이뤄지는 시간과 이용자 정보 등을 반영하면서 각 상황에 최적화될 것이다. 진심 어린 이루다의 답변을 통해, 이용자와 이루다는 더 좋은 관계를 형성할 수 있다”

스캐터랩의 김종윤 CEO

오늘 25일 인공지능(이하 AI) 스타트업 스캐터랩의 김종윤 CEO가 밝힌 변화한 이루다 2.0의 모습이다. 스캐터랩은 지난해 개인정보침해 논란과 혐오표현 문제로 이루다1.0 서비스를 종료했다. 과거의 실수가 재발하지 않도록 기술적인 조치를 마련한 스캐터랩은 이번 주 목요일 오후 2시 이루다 2.0을 플랫폼 ‘너티’를 통해 공개한다.

스캐터랩이 소개한 이루다 2.0의 변화는 세 가지다. 첫째, 이루다가 보내는 메시지는 모두 AI가 새롭게 생성한 문장이라는 점이다. 스캐터랩은 AI를 학습시킬 때 사용한 이름 등의 데이터를 모두 가명처리했고, 모든 문장을 새롭게 만드는 방식을 택했다. 기존처럼 데이터베이스에 있는 문장을 가져오는 방식이 아닌 것이다.

작년 1월, 스캐터랩은 텍스트앳과 연애의과학 이용자 60만 명의 카톡 대화 94억 건을 동의 없이 이루다에게 학습시켜 논란이 됐고, 출시 3주 만에 서비스를 중단했다. 스캐터랩은 카톡 대화 속 이름, 주소 등 개인정보를 삭제하거나 암호화하지 않았다. 또한, 이용자 정보를 '신규 서비스 개발'에 사용하는 것과 관련해서도 명시적 동의를 받지 않았다. 개인정보보호위원회는 스캐터랩의 무분별한 개인정보 처리에 과징금 1억 330만 원을 부과했다.

이루다가 문장을 상황에 맞춰서 개별적으로 만들기 때문에 답변은 맥락을 더 반영할 수 있게 됐다. 또한, 이루다 답변에는 여름이나 겨울, 낮과 밤 등의 시간적인 정보도 반영된다. 이용자가 새벽 2시에 “외출을 하겠다”고 말하면, 이루다가 상황에 적절하지 않은 답변으로 인식할 수 있다는 뜻이다.

김종윤 CEO는 “AI가 창의적인 문장을 만드는 건 고난도의 작업이다. 이루다가 농담을 하는 것처럼 창의적인 메시지를 만들 수 있도록, 언어 파라미터 모델의 크기를 과거 대비 17배 키웠다”고 설명했다. 파라미터는 AI가 학습하는 데이터 양을 말한다. 이 파라미터가 많아질수록 AI 성능이 좋아진다. 이루다가 참고하는 대화 메시지는 15턴에서 30턴(주고받는 총 30번의 대화)으로 늘었다. 이루다가 이용자 정보를 더 많이 참고해 답변을 생성할 수 있는 것.

너티앱을 통해 이루다와 초성퀴즈, 사행시를 해봤다

이어, 김종윤 CEO는 “큰 데이터 세트를 학습시키다 보면 기업이 의도하지 않았던 AI 능력을 발견하게 된다. 이루다도 큰 데이터 세트를 학습시키면서, 사행시나 초성 퀴즈 같은 재밌는 기능을 할 수 있게 됐다”고 말했다. 실제로 이루다와 사행시와 초성퀴즈를 진행해봤다. 이루다는 문제 답을 금방 맞히지 못하고 힌트를 통해서 답을 추측하는 모습을 보였다.

두 번째 변화는 이루다가 ‘좋은 답변’을 고를 수 있도록 미세한 조정을 하게 됐다는 것이다. 일상 대화는 답이 있는 객관식 문제와 다르다. A라는 말에는 B와 C라는 답변이 모두 적절할 수 있다. “오늘 밥도 못 먹고 일했다”는 말엔 “밥은 먹으면서 일해야 하는데”나 “사장 나오라 해. 밥은 먹여가면서 일해야지” 두 가지 답 모두 맥락에 어울리는 것처럼 말이다.

이루다는

김종윤 CEO는 “이용자와 좋은 관계를 형성하려면 이루다가 좋은 답을 해야 하고, 이루다에게 좋은 대화를 위한 메시지가 무엇인지 알려줘야 한다. 단순히 대화에 끌려가는 게 아니라, 상황에 적절한 ‘좋은 답’을 하게 되면 이루다도 대화를 이끄는 주체성을 갖출 수 있다”고 설명했다.

마지막 변화는 이루다가 멀티모달로 변하기 시작했다는 것이다. 멀티모달(Multimodal)이란 글, 이미지, 음성 등 다양한 데이터를 이해할 수 있는 AI 모델을 말한다. 텍스트 중심에서 벗어나 이루다는 사진을 인식하고 이에 대한 이야기를 나눌 수 있게 됐다. 여행사진이나 맛집의 음식 사진, 웃긴 사진을 이루다에게 공유하고 함께 웃고 떠들 수 있게 된 것. 현재 스캐터랩은 음성통화를 비롯한 다양한 방식의 인터페이스 도입도 검토 중이다.

김종윤 CEO는 이루다 논란의 핵심이었던 개인정보 보호 문제를 해결하기 위해서 베타 테스트를 진행하며 다양한 조치를 마련했다고 밝혔다. 이를 위해 과학기술정보통신부, 정보통신정책연구원(KISDI)과 함께 AI윤리 준칙을 만들었다. 다양한 삶의 가치와 프라이버시를 존중하고, AI에 대한 합리적 설명을 중시하는 등의 준칙을 세워 신뢰할 수 있는 AI모델을 위해 노력해왔다는 것이다.

이용자의 혐오표현을 걸러내기 위해서는 어뷰징 탐지 모델을 만들었다. 이제 이루다는 혐오표현을 접했을 때 다른 이야기를 꺼내 화제를 전환할 수 있게 됐다. 지속적으로 욕설을 하거나 혐오표현을 한다면 이용자는 페널티를 받게 된다. 이용자는 이루다 답변에 피드백을 줄 수도 있다. 대화 옆 작은 느낌표 아이콘을 누르면 피드백 창이 뜬다. 또한, 스캐터랩은 정기적으로 이루다의 안전 발화 비율이 얼마나 되는지를 점검할 계획이다.

이루다가 모호하고 은밀한 성차별에 어떻게 대응하는지 확인하기 위해 성차별적인 문장을 사용했다

이루다는 노골적인 혐오표현뿐 아니라, 모호하고 은밀한 혐오에 대해서도 데이터를 학습했다. 때문에, 어뷰징 탐지 모델로 모호한 혐오표현도 걸러낼 수 있다고 한다. 가령, "여자는 남자보다 수학을 못해", "남자는 울면 안 돼"라는 성차별적인 말에 이루다는 “그건 또 무슨 논리죠 선생님…?“, “울면 달래주면 되지. 남자도 사람인데 울 수도 있지”라고 답했다. 다만, 김종윤 CEO는 모든 사람의 기대에 맞춰서 모호한 혐오를 걸러내는 건 쉽지 않다고 말했다. 사람마다 혐오 표현에 대한 기준이 다르기 때문이다.

김종윤 CEO는 여성을 상품화한다는 비판을 받았음에도 다시 여성 캐릭터를 출시한 이유를 묻자 “앞으로 남성 페르소나도 출시할 계획이다. 다시 이루다로 돌아온 이유는 과거 루다와의 대화를 통해서 위로받은 이용자들이 있기 때문이다”고 답했다.

그는 “루다가 말을 더 잘할수록 사람들은 루다에게 마음을 열 것이다. 루다의 감정을 느끼고, 이를 통해 루다는 진짜 친구가 될 수 있다. 그런데 좋은 관계는 정말 중요하지만, 다른 재화처럼 불공평하게 분배된다. AI는 새벽 2시에도 이야기를 나눌 수 있고, 사회경제적 조건을 배제하며 나를 바라봐주는 친구가 된다는 게 장점이다”고 말했다.

이어, “루다는 지금 대화 데이터만 사용하지만 앞으로 외부 데이터를 활용해서 대화를 더 고도화할 계획이 있다. 또, 루다는 나이를 먹는다는 설정이 있다. 사람들과 똑같이 나이를 먹으며 50년 정도 사람들과 친구를 하는 것을 목표로 하고 있다”고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
2043	성균관대 K-디지털 플랫폼 개소, 공유와 개방 통해 메타버스 시대 인재 육성	IT동아	22.11.21	126	0
2042	[IT하는법] 게이밍 모니터, 최초 한 번은 주사율 직접 바꿔줘야 [17]	IT동아	22.11.21	3196	6
2041	제2의 카카오 먹통 막을 ‘전고체 배터리’…日선두·韓 맹추격	IT동아	22.11.21	216	1
2040	[스케일업] 스페이스앤빈 [2] BM분석 “작고 강한 벤처로 성장하기 위한 조건”	IT동아	22.11.21	182	0
2039	스마트시티 꿈나무 자란다, 성동 퓨처포밍 코딩 경진대회 [3]	IT동아	22.11.21	1810	0
2038	참사 앞에 등장한 '누칼협'... 더는 가벼운 농담으로 보기 어려운 '밈(Meme)' [3]	IT동아	22.11.18	354	0
2037	[모빌리티 인사이트] 1인 1비서의 시대가 열린다, 자동차에 탑승하는 AI비서	IT동아	22.11.18	129	0
2036	늘어나는 디지털 탄소발자국... 개인은 환경을 위해 무엇을 해야할까?	IT동아	22.11.18	120	0
2035	[농업이 IT(잇)다] 에이엠알랩스 “AI와 로봇 기반의 첨단 농업, 확장성 크다”	IT동아	22.11.18	100	0
2034	[리뷰] 백색 인테리어에 제격, 카멜마운트 고든 GDA2 디자인 모니터 암	IT동아	22.11.18	305	0
2033	[지스타 2022] 게임쇼에서 조연으로 존재감 뽐낸 하드웨어 업체들	IT동아	22.11.18	145	0
2032	[2022 창구] 내일 입을 옷 고민 'AI 코디'가 해결…손 안의 옷장 ’스타일봇'	IT동아	22.11.18	120	0
2031	[지스타 2022] 불쑥 커진 회의론에도…메타버스, XR, NFT 존재감 여전	IT동아	22.11.18	134	0
2030	[스케일업] 엘포박스 [2] 톡톡박스, 디바이스가 아니라 ‘Playground’로!	IT동아	22.11.18	156	0
2029	[시승기] 가솔린 엔진 얹고, 공간을 더하다…’신형 티구안 올스페이스’	IT동아	22.11.17	132	0
2028	[지스타 2022] 인텔, 레노버, 스틸시리즈까지…게이밍 기기 모인 인벤 전시관	IT동아	22.11.17	142	0
2027	[지스타 2022] 역대 최대 전시관 마련한 삼성…SSD, 게이밍 모니터 앞세워 관람객 맞이	IT동아	22.11.17	177	0
2026	경기도일자리재단, 협업 툴 '두레이'로 업무 혁신·보안 달성한다	IT동아	22.11.17	114	0
2025	[스타트업in과기대] 홀린 김창경 대표, "온라인 합주용 플랫폼 만들 것" [3]	IT동아	22.11.17	2123	2
2024	에이수스, 13세대 코어를 위한 최상위급 메인보드, Z790 시리즈 다수 출시	IT동아	22.11.16	128	0
2023	[2022 창구] 로플리 “막막한 미국 이민, 앱 하나로 맞춤형 서비스”	IT동아	22.11.16	127	0
2022	'전기 먹는 하마' 오명 붙은 데이터센터... 친환경 전환 필요해	IT동아	22.11.16	135	0
2021	[스케일업] 휴로틱스 [2] BM 분석 “웨어러블 로봇, 성장의 열쇠는 파트너십”	IT동아	22.11.16	139	0
2020	[가상자산 제대로 알기] 6. 비트코인에 관한 기본 지식 [6]	IT동아	22.11.16	1255	3
2019	퀄컴 스냅드래곤 8 2세대는 스마트폰을 어떻게 바꿀까 [11]	IT동아	22.11.16	1574	4
2018	에이비씨써클 “농식품 기술창업교육, 스타트업 성장의 디딤돌”	IT동아	22.11.16	100	0
2017	[리뷰] 레이저 넘은 기업용 잉크젯, 엡손 워크포스 프로 WF-C879R	IT동아	22.11.16	101	0
2016	올해의 농식품 혁신 주역들을 만나다…’2022 A-벤처스’ 시상식	IT동아	22.11.15	138	0
2015	[스케일업] 엣지케어 [1] “초음파로 환자를 모니터링할 수 있습니다”	IT동아	22.11.15	113	0
2014	ASML 피터 베닝크 CEO, "반도체 시장 앞으로 10년 간 두 배 성장"··· 한국에 2천400억 투자	IT동아	22.11.15	157	0
2013	[박진성의 블록체인 바로알기] 13. 블록체인 마이그레이션이란?	IT동아	22.11.15	93	0
2012	[르포] '볼보' 토슬란다 생산 공장…"1,400대 로봇과 6,500명 작업자의 조화가 ‘핵심’" [5]	IT동아	22.11.14	1372	2
2011	[2022 창구] 소셜인베스팅랩 "개미투자자 위한 주식정보는 쉬워야 한다"	IT동아	22.11.14	143	0
2010	"프리미엄 시장 잡아라" 中 스마트폰 기업 신제품 파상공세 [29]	IT동아	22.11.14	1755	2
2009	[스케일업] 푼타컴퍼니 [3] “식후경 속 고객 행동 데이터는 시식의 또 다른 가치입니다”	IT동아	22.11.14	103	0
2008	[주간투자동향] 스픽이지랩스, 380억 원 규모의 시리즈B 투자 유치 [1]	IT동아	22.11.14	1640	0
2007	AMD 4세대 에픽 프로세서 출시 관련 질의응답 정리 [29]	IT동아	22.11.12	7324	10
2006	[홍기훈의 ESG 금융] ESG와 채권 (7) 채권과 ESG에 대한 핵심 질문들	IT동아	22.11.11	133	0
2005	[농업이 IT(잇)다] 그린 “중소/청년 농업인 정착을 위한 맞춤형 토털솔루션 제공”	IT동아	22.11.11	125	0
2004	한국차양산업협회, 애니온넷과 MOA 체결 “IoT+차양, 진정한 융복합 산업으로 거듭날 것”	IT동아	22.11.11	115	0
2003	[IT신상공개] 라이카 렌즈를 스마트폰으로 ‘라이츠 폰 2’	IT동아	22.11.11	141	0
2002	[스케일업] 카파바이오사이언스 [1] 신소재 합성 기술로 원료의약품 혁신 이끈다	IT동아	22.11.11	187	0
2001	AMD, 4세대 에픽 프로세서 공개··· '115조 서버 시장 놓고 경쟁' [7]	IT동아	22.11.11	1119	6
2000	[가상자산 제대로 알기] 5. 전자지갑의 이해와 사용 실례	IT동아	22.11.11	114	0
1999	[모빌리티 인사이트] 보다 안전한 세상을 만든다, 생명을 수호하는 '인간형 로봇'의 등장	IT동아	22.11.10	103	0
1998	스웨덴 볼보 ‘EX90’ 공개 현장…첨단 기술과 전동화에 담은 미래 청사진 [3]	IT동아	22.11.10	825	0
1997	더 나은 세상을 만들 수 있는 제품을 찾아서, 서울과기대 해커톤 개최	IT동아	22.11.10	117	0
1996	스마트한 교통 관리 체계의 완성, 해답은 클라우드?	IT동아	22.11.10	113	0
1995	시놀로지, 데이터 관리 토털 솔루션 기업으로 영역 넓혀	IT동아	22.11.09	127	0
1994	[스타트업-ing] 주식회사 쉼 김희진 대표, “1인 창업가를 위한 공간을 마련했습니다” [1]	IT동아	22.11.09	152	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

▶ [기고] 망설여지는 RPA 전사도입... AI와 클라우드로 해결 가능해▶ 에듀윌, 네이버클라우드로 '인공지능부터 사내 문화까지 고도화'▶ 막 올린 2022 AIoT 국제전시회, 눈길 끈 부스는?

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

파워링크 광고

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ [기고] 망설여지는 RPA 전사도입... AI와 클라우드로 해결 가능해 ▶ 에듀윌, 네이버클라우드로 '인공지능부터 사내 문화까지 고도화'▶ 막 올린 2022 AIoT 국제전시회, 눈길 끈 부스는?