가짜 목소리·영상 ‘딥페이크’ 잡을 인공지능 기술 속속 등장

IT동아

2022.06.08 14:28:24

조회 1065 추천 3 댓글 3

[IT동아 차주경 기자] 사람의 목소리나 얼굴을 교묘하게 변조, 편집한 딥페이크(DeepFake)가 가짜 뉴스와 음란 콘텐츠를 만드는 데 악용되면서 사회 문제로 떠올랐다. 인공지능을 더해 만든 딥페이크는 진짜인지 가짜인지 구분하기 어려울 정도로 정교하다. 이에 인공지능 기술 기업과 학계는 딥페이크를 적발할 기술을 속속 선보인다.

미국 마이크로소프트는 2020년 ‘MS 비디오 인증기’를 선보였다. 이 기술은 딥페이크로 의심되는 사진이나 동영상을 인공지능 분석해 조작이나 가공 여부를 판별 후 확률로 표시한다. 화면 속 피사체와 배경의 그림자, 색깔의 미세한 변화는 물론 피사체간 경계면의 화소의 변화까지 검사해 조작이나 가공됐는지 알아내는 원리다.

딥 페이크를 구분하는 MS 비디오 인증기. 출처 = 마이크로소프트

아무리 정교한 딥페이크 기술이라 해도, 초당 수십 장씩 이어지는 동영상의 화면 속 피사체, 배경을 하나하나 자연스럽게 조작 가공하기는 어렵다. 이 과정에서 그림자나 색깔이 한순간 어색하게 바뀌거나 화소가 부자연스럽게 모이는 등 문제가 생긴다. MS 비디오 인증기는 이런 화면 속 어색한 부분을 감지해 딥페이크 여부를 판별한다.

최근 일본과 스페인, 폴란드의 연구진은 인물 동영상의 딥페이크 여부를 판별하는 ‘인공지능 거짓말 발견’ 기술의 공동 연구 결과를 발표했다. 이 기술은 동영상의 화면뿐 아니라 사람의 목소리의 딥페이크 조작 여부도 알아낸다.

이 기술은 먼저 인물 동영상에 원본임을 보증하는 정보를 숨겨놓는다. 동영상을 조작 가공하면 이 정보가 사라지므로, 정보 검사 만으로 딥페이크 적용 여부를 손쉽게 판별 가능하다. 이어 이 기술은 동영상 속 사람의 입술 모양과 움직임을 특정 성분으로 추출하고, 이 성분과 목소리를 대조 검증한다. 입술은 자음을 말하는 모양인데 실제 목소리는 모음이라면, 입술이 완전히 닫혀 있는데 목소리가 나온다면 딥페이크로 조작 가공됐을 가능성이 크다.

인공지능 거짓말 발견 기술을 쓰면 사람의 목소리를 조작 가공해 진짜 인물 동영상에 덧씌운, 혹은 반대로 진짜 사람의 목소리를 조작 가공한 인물 동영상에 덧씌운 딥페이크를 적발 가능하다. 연구진은 정치인, 연예인 등 사회 영향력을 가진 사람들의 딥페이크가 악용되는 것을 막으려 인공지능 거짓말 발견 기술을 연구 개발했다고 밝혔다.

세계 인공지능 관련 기술 기업들도 속속 딥페이크를 판별할 소프트웨어와 하드웨어 기술을 선보이며 힘을 싣는다.

어도비 CAI 발표 현장. 출처 = 어도비

콘텐츠 소프트웨어 제조사 어도비, 마이크로소프트는 동영상 편집 이력을 암호화로 보관하는 소프트웨어를 함께 개발한다고 밝혔다. 편집 이력을 보존하는것 만으로도 가공과 조작 여부를 한결 손쉽게 확인 가능하다. 앞서 어도비는 세계 콘텐츠 기업과 함께 콘텐츠 위조와 변조, 가짜 뉴스 제작과 전파를 막을 기구 ‘CAI(Content Authenticity Initiative, 콘텐츠 자격 증명)’를 결성해 운영 중이다.

컴퓨터 기술 설계사 엔비디아도 최근 언어 처리 능력을 강화한 인공지능 가속 칩을 선보였다. 이 가속 칩을 쓰면 딥페이크 목소리를 실시간으로 구분 가능할 만큼 인공지능 음성 분석 효율과 정확도 모두 좋아지는 것으로 알려졌다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI, 반도체 등 전문인재 부족 심화..."외국인 유학생 국내 정착 도와야"▶ 위기 맞은 구독 서비스…'게임 구독'에도 회의론 슬금 ▶ 지방선거 D-1…주요 후보별 IT 공약 살펴보니

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
1374	사라진 '실시간 검색어'가 그립다면? 대체 서비스들 살펴보기	IT동아	22.06.24	132	0
1373	AP 경쟁 가속, 스냅드래곤 8+ 1세대 맞설 ‘디멘시티 9000+’ 등장	IT동아	22.06.24	121	0
1372	[스타트업人] “데이터 속 가치를 찾고 있습니다”, 당근마켓 데이터가치화팀 이야기	IT동아	22.06.24	92	0
1371	[혁신스타트업 in 홍릉] 여행 업계 디지털 전환으로 쇼핑의 즐거움 더한다, 더서비스플랫폼	IT동아	22.06.24	79	0
1370	"NFT 거래, 소유권과 저작권은 달라 주의 필요해"	IT동아	22.06.23	125	0
1369	뮤렉스파트너스 "투자는 자신의 스트라이크존 안에서 해야한다"	IT동아	22.06.23	76	0
1368	하이브리드·전기 승용차 판매량, 경유·LPG 처음으로 추월 [4]	IT동아	22.06.23	1546	0
1367	IT 유통 ‘큰 손’이 내놓은 ‘루밍’ 모니터, 시장 안착 여부에 ‘주목’ [6]	IT동아	22.06.23	2477	0
1366	'재밌는 화상 회의가 온다', 화상회의 솔루션 '으흠' 국내 공식 출시 [11]	IT동아	22.06.23	1778	1
1365	[IT강의실] 전자 기기의 ‘펌웨어 업데이트’ 꼭 해야 하나요?	IT동아	22.06.23	126	0
1364	[모빌리티 인사이트] 내가 가고 싶은 곳으로 안전하게 데려다 주는 ‘마법 신발’	IT동아	22.06.23	579	0
1363	보리로푸드 “우리 농산물로 만든 건강한 보리면으로 세계시장 공략을 꿈꿉니다”	IT동아	22.06.23	96	1
1362	[리뷰] 이렇게 작고 가벼운 게이밍 노트북이? 2022년형 에이수스 ROG Flow X13 [6]	IT동아	22.06.22	1045	3
1361	질병 조기진단과 치료의 열쇠…‘메디컬트윈’ 기술	IT동아	22.06.22	91	0
1360	MS, 얼굴 표정에서 감정 읽어주던 AI 서비스 종료…이유는?	IT동아	22.06.22	170	0
1359	[리뷰] 자동 먼지 비움에 물청소까지, 아이리버 에이클 INS-100 로봇 청소기	IT동아	22.06.22	80	0
1358	[앱으리띵] 잡지, 오디오북이 무료로? 도서관매거진, 오디언도서관	IT동아	22.06.22	1357	1
1357	[홍기훈의 ESG 금융] RE100을 알아보자 (1) 왜 우리는 RE100을 진지하게 바라보는가?	IT동아	22.06.22	92	0
1356	누리호 2차 발사 성공…배경은 12년 인고의 세월	IT동아	22.06.21	155	2
1355	가천대 게임·영상학과 윤준희 교수 “입학과 동시에 취업? 빈말 아니다”	IT동아	22.06.21	311	0
1354	10대부터 70대까지, 나이/직업 다양한 일상의 발명가들	IT동아	22.06.21	1554	1
1353	[IT운영관리] 10. "IT시스템 도입보단 운영관리가 더 중요하다"	IT동아	22.06.21	74	0
1352	[IT신상공개] 드라이하며 잔머리 잡는다, 다이슨 에어랩 멀티 스타일러	IT동아	22.06.21	126	0
1351	[리뷰] 자동 축 잠금에 1.8인치 OLED가 핵심, DJI 로닌 RS 3 프로	IT동아	22.06.21	81	0
1350	[IT하는법] 아이폰 메모 앱, 윈도에서 이용하는 방법은? [1]	IT동아	22.06.21	430	0
1349	광주정보문화산업진흥원 탁용석 원장, “사람이 중심인 허브를 꿈꿉니다”	IT동아	22.06.21	99	1
1348	센서, 드론에 자동차까지…소니, 모빌리티 사업 전개에 속도 [1]	IT동아	22.06.21	1441	4
1347	스마트팜 기술 1세대에 머물러 있는데...R&D 예산은 오히려 줄어	IT동아	22.06.20	102	0
1346	[IT애정남] 지원 끝난 IE 11, 실행되는데 그냥 써도 되나요? [5]	IT동아	22.06.20	2171	4
1345	부품 공급난·러 침공 직격, 유럽 스마트폰 출하량 10년만에 최저	IT동아	22.06.20	1512	1
1344	동국대 캠퍼스사업단 전병훈 단장, “지역을 넘어 지방, 세계로 확대할 수 있는 허브를 생각합니다”	IT동아	22.06.20	99	0
1343	[주간투자동향] 한화, UAM 기술 기업 오버에어에 1,500억 원 규모 투자	IT동아	22.06.20	88	0
1342	서울랜드 “홈페이지 서버 가비아 클라우드로 전환, 온라인 서비스 강화에 큰 힘”	IT동아	22.06.17	138	0
1341	[농업이 IT(잇)다] 농산물 주문 통합처리 플랫폼 개발 기업 ‘에이임팩트’	IT동아	22.06.17	86	0
1340	아는 만큼 보이는 협업 툴··· 업무 효율은 물론 조직 문화 개선에도 '특효' [1]	IT동아	22.06.17	138	0
1339	[스타트업人] 손 닿는 곳 모두 푸르게, 퍼밋 스마트팜 유지 보수 관리자 이야기	IT동아	22.06.17	82	0
1338	휘발윳값 2100원대 돌파…경제성에 방점 찍은 '초소형전기차' 주목 [8]	IT동아	22.06.17	1988	1
1337	인텔, 첫 데스크톱 그래픽 카드 공개··· 'GPU 시장 달굴까' [19]	IT동아	22.06.17	3777	7
1336	[리뷰] 에코백스 vs 로보락, 최고사양 로봇청소기, 얼마나 좋길래?	IT동아	22.06.16	105	0
1335	"다정함은 사람을 건강하게 한다"... AI챗봇은 코로나 블루를 치유할 수 있을까?	IT동아	22.06.16	134	0
1334	[리뷰] '호라이즌' 시리즈 팬을 위한 게임 저장고, 씨게이트 게임 드라이브 호라이즌 에디션	IT동아	22.06.16	90	0
1333	[IT신상공개] VR게임은 움직이면서 즐겨야 한다, 피코의 네오3 링크	IT동아	22.06.16	111	0
1332	[모빌리티 인사이트] 자동차 회사가 인공위성을 쏘고 있다?	IT동아	22.06.16	88	0
1331	렌털 서비스에 정부 지원까지 시작··· 확산하는 '디지털 사이니지'	IT동아	22.06.16	119	1
1330	스마트 상점 기술, 소상공인 구인·운영난 해결사로 발돋움	IT동아	22.06.16	392	1
1329	"디지털플랫폼이 야기하는 갈등 합리적 규제로 풀어야...이 시대에 말이나 마차 탈 수는 없어"	IT동아	22.06.16	103	0
1328	레드햇 “RHEL9로 어디서나 일관된 하이브리드 클라우드 관리 가능” [1]	IT동아	22.06.15	111	0
1327	"현장근로자 업무에도 디지털전환 필요"... 팀뷰어 산업용 AR로 국내 시장 진출	IT동아	22.06.15	130	0
1326	"넷플릭스 하루에 600원"…구독 서비스 '역린' 건드렸다 [43]	IT동아	22.06.15	5351	12
1325	친환경 비즈니스, 정부에서 스타트업까지 ‘공감’ 넘어 ‘공생’의 단계로	IT동아	22.06.15	89	0