가짜 목소리·영상 ‘딥페이크’ 잡을 인공지능 기술 속속 등장

IT동아

2022.06.08 14:28:24

조회 1070 추천 3 댓글 3

[IT동아 차주경 기자] 사람의 목소리나 얼굴을 교묘하게 변조, 편집한 딥페이크(DeepFake)가 가짜 뉴스와 음란 콘텐츠를 만드는 데 악용되면서 사회 문제로 떠올랐다. 인공지능을 더해 만든 딥페이크는 진짜인지 가짜인지 구분하기 어려울 정도로 정교하다. 이에 인공지능 기술 기업과 학계는 딥페이크를 적발할 기술을 속속 선보인다.

미국 마이크로소프트는 2020년 ‘MS 비디오 인증기’를 선보였다. 이 기술은 딥페이크로 의심되는 사진이나 동영상을 인공지능 분석해 조작이나 가공 여부를 판별 후 확률로 표시한다. 화면 속 피사체와 배경의 그림자, 색깔의 미세한 변화는 물론 피사체간 경계면의 화소의 변화까지 검사해 조작이나 가공됐는지 알아내는 원리다.

딥 페이크를 구분하는 MS 비디오 인증기. 출처 = 마이크로소프트

아무리 정교한 딥페이크 기술이라 해도, 초당 수십 장씩 이어지는 동영상의 화면 속 피사체, 배경을 하나하나 자연스럽게 조작 가공하기는 어렵다. 이 과정에서 그림자나 색깔이 한순간 어색하게 바뀌거나 화소가 부자연스럽게 모이는 등 문제가 생긴다. MS 비디오 인증기는 이런 화면 속 어색한 부분을 감지해 딥페이크 여부를 판별한다.

최근 일본과 스페인, 폴란드의 연구진은 인물 동영상의 딥페이크 여부를 판별하는 ‘인공지능 거짓말 발견’ 기술의 공동 연구 결과를 발표했다. 이 기술은 동영상의 화면뿐 아니라 사람의 목소리의 딥페이크 조작 여부도 알아낸다.

이 기술은 먼저 인물 동영상에 원본임을 보증하는 정보를 숨겨놓는다. 동영상을 조작 가공하면 이 정보가 사라지므로, 정보 검사 만으로 딥페이크 적용 여부를 손쉽게 판별 가능하다. 이어 이 기술은 동영상 속 사람의 입술 모양과 움직임을 특정 성분으로 추출하고, 이 성분과 목소리를 대조 검증한다. 입술은 자음을 말하는 모양인데 실제 목소리는 모음이라면, 입술이 완전히 닫혀 있는데 목소리가 나온다면 딥페이크로 조작 가공됐을 가능성이 크다.

인공지능 거짓말 발견 기술을 쓰면 사람의 목소리를 조작 가공해 진짜 인물 동영상에 덧씌운, 혹은 반대로 진짜 사람의 목소리를 조작 가공한 인물 동영상에 덧씌운 딥페이크를 적발 가능하다. 연구진은 정치인, 연예인 등 사회 영향력을 가진 사람들의 딥페이크가 악용되는 것을 막으려 인공지능 거짓말 발견 기술을 연구 개발했다고 밝혔다.

세계 인공지능 관련 기술 기업들도 속속 딥페이크를 판별할 소프트웨어와 하드웨어 기술을 선보이며 힘을 싣는다.

어도비 CAI 발표 현장. 출처 = 어도비

콘텐츠 소프트웨어 제조사 어도비, 마이크로소프트는 동영상 편집 이력을 암호화로 보관하는 소프트웨어를 함께 개발한다고 밝혔다. 편집 이력을 보존하는것 만으로도 가공과 조작 여부를 한결 손쉽게 확인 가능하다. 앞서 어도비는 세계 콘텐츠 기업과 함께 콘텐츠 위조와 변조, 가짜 뉴스 제작과 전파를 막을 기구 ‘CAI(Content Authenticity Initiative, 콘텐츠 자격 증명)’를 결성해 운영 중이다.

컴퓨터 기술 설계사 엔비디아도 최근 언어 처리 능력을 강화한 인공지능 가속 칩을 선보였다. 이 가속 칩을 쓰면 딥페이크 목소리를 실시간으로 구분 가능할 만큼 인공지능 음성 분석 효율과 정확도 모두 좋아지는 것으로 알려졌다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ AI, 반도체 등 전문인재 부족 심화..."외국인 유학생 국내 정착 도와야"▶ 위기 맞은 구독 서비스…'게임 구독'에도 회의론 슬금 ▶ 지방선거 D-1…주요 후보별 IT 공약 살펴보니

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
1440	[모빌리티 인사이트] 기분 따라 옷을 바꿔 입는 자동차, 자가 치유까지 한다? [2]	IT동아	22.07.07	501	0
1439	[홍기훈의 ESG 금융] RE100을 알아보자(2) RE100을 달성하는 방법은?	IT동아	22.07.07	92	0
1438	진실 왜곡 ‘딥페이크’…보험업계 파고든다 [5]	IT동아	22.07.06	1045	0
1437	애니온넷 “파트너사의 IoT 사업 성공을 돕는 조연, 우리의 본질”	IT동아	22.07.06	77	0
1436	[앱으리띵] 허위조작정보에 속지 않으려면? ‘팩트체크넷’ 이용하기	IT동아	22.07.06	77	0
1435	[IT애정남] 카카오톡 업데이트가 안된다는데, 어떻게 해야 할까요?	IT동아	22.07.06	89	0
1434	갈등 빚는 구글·카카오··· 왜 '인앱 결제'는 분쟁의 씨앗이 됐나 [10]	IT동아	22.07.06	718	0
1433	[IT강의실] 여름 휴가철 스마트폰 쓸 때 주의할 점 [3]	IT동아	22.07.06	791	0
1432	지상파 UHD 방송 5년째, 그런데 보는 사람이 없다?	IT동아	22.07.05	302	0
1431	"외로움은 사회가 풀어야 할 문제"... 사람들의 만남은 어떻게 더 많이 만들어질까? [35]	IT동아	22.07.05	3566	1
1430	애플과 구글의 명분 없는 '수수료 26%'	IT동아	22.07.05	163	0
1429	[스케일업] “스스로 다시 한번 점검할 수 있던 기회였습니다”	IT동아	22.07.05	77	0
1428	中 배터리 파상 공세에 국내 3사 글로벌 시장 점유율 꺾여	IT동아	22.07.05	144	0
1427	스마트 오피스의 완성은 책상, '모니터 암·모션 데스크'가 떠오른다	IT동아	22.07.05	112	0
1426	호주·미국 단합에 중국 희토류 패권 흠집··· '사이버 공격에 여론 조작도 시작' [17]	IT동아	22.07.05	955	11
1425	[혁신스타트업 in 홍릉] 뉴로서킷 “탈모 관리 습관의 모든 것, 바야바즈”	IT동아	22.07.05	109	0
1424	[모두를 위한 인공지능] 2부 - 인공지능을 활용해 비즈니스 가치를 높여라	IT동아	22.07.04	116	0
1423	상위 1000대 제조사 150곳 "자사 공급망 경쟁력 점수는 58점"	IT동아	22.07.04	86	0
1422	계정 하나로 여러 이메일 주소를? '별칭' 활용하기	IT동아	22.07.04	744	0
1421	[뉴스줌인] aptX 어댑티브 지원 블루투스 동글, 무엇에 쓰는 물건?	IT동아	22.07.04	162	0
1420	탈레스 "늘어나는 보안 솔루션, 휴먼에러 피하려면 하나의 플랫폼으로 관리해야"	IT동아	22.07.04	88	0
1419	1형 센서, 2억 화소...하반기 ‘괴물’ 카메라 스마트폰 온다 [6]	IT동아	22.07.04	2636	0
1418	직방 박영걸 CTO, "직방의 홈 IoT 사업은 더 살기 좋은 집 위한 기술"	IT동아	22.07.04	82	0
1417	[주간투자동향] 팀프레시, 1,600억 원 규모의 시리즈D 투자 유치	IT동아	22.07.04	1206	0
1416	카비 “비즈니스 노트북, 엔드포인트까지 철저한 보안 시스템 필요”	IT동아	22.07.04	83	0
1415	"세련되고 품질 좋은 안경 온라인으로 산다"...아이즈그램 북미에서 안경 구독서비스 도전	IT동아	22.07.01	159	0
1414	[리뷰] 캠핑족을 위한 고성능 빔프로젝터, 벤큐 GS50 [20]	IT동아	22.07.01	4147	2
1413	‘마이브’ 차주에게 물었다…초소형 전기차 타보니 어때요? [1]	IT동아	22.07.01	177	0
1412	[김 소장의 ‘핏(FIT)’] 우리나라에 인터넷 익스플로러 추모비가 있다? [6]	IT동아	22.07.01	703	0
1411	[농업이 IT(잇)다] 더루트컴퍼니 “감자와 함께 강릉의 대표 로컬 브랜드 될 것”	IT동아	22.07.01	84	0
1410	[리뷰] ‘터프’하게 쓰는 스마트워치, 어메이즈핏 티렉스2	IT동아	22.06.30	135	0
1409	삼성전자, TSMC 추격 고삐 당겼다…‘GAA 기반 3나노’ 양산 공식 발표	IT동아	22.06.30	224	0
1408	아직도 있었어? PC통신 추억담은 ‘유니텔’, 오늘부로 서비스 완전 종료	IT동아	22.06.30	146	0
1407	'테슬라가 안보 전쟁의 첨병?' 자율주행차는 왜 세작 취급을 받나	IT동아	22.06.30	102	0
1406	불붙은 창문형 에어컨 시장··· 주목받는 이유와 올해 신제품은? [17]	IT동아	22.06.30	2930	5
1405	LG전자, SM 손 잡고 피트니스 시장 공략…"2025년까지 매출 5000억 목표" [10]	IT동아	22.06.30	2103	0
1404	스마트 상점 주문·결제·배달 앱 ‘주문통합 솔루션’으로 진화	IT동아	22.06.30	103	0
1403	[모빌리티 인사이트] 나 혼자 ‘탄다’, 초소형 전기차의 시대는 열릴까? [5]	IT동아	22.06.30	1253	1
1402	“스타트업 성공을 원한다면, 10년 후 오를 에베레스트 정상에 집중하라”	IT동아	22.06.29	122	0
1401	‘ESG’, ‘친환경’에 고민 큰 중소기업들, 돌파구는 있다	IT동아	22.06.29	80	0
1400	[리뷰] '온 몸을 움직이며 VR을 즐겨라'...피코의 VR헤드셋 네오3 링크 [3]	IT동아	22.06.29	1192	0
1399	원격 근무가 일상이 된 사회, 데이터 관리와 공유에 'NAS'가 떠오른 이유는? [2]	IT동아	22.06.29	682	3
1398	[리뷰] VR 세계로의 초대장, 인스타360 원 RS 1인치 360 에디션	IT동아	22.06.29	98	0
1397	5배 빠르다는 와이파이7, 2024년 상용화 앞두고 관련 솔루션 속속 등장 [2]	IT동아	22.06.28	866	1
1396	토스뱅크 가입자 360만명 돌파…내달 금융상품 추천 서비스 출시	IT동아	22.06.28	166	0
1395	체이널리시스 "가상자산 산업의 성장 투명성과 신뢰에 달려있다"	IT동아	22.06.28	107	0
1394	[김 소장의 ‘핏(FIT)’] 고인의 디지털 정보, 유족에게 전달해야 할까?	IT동아	22.06.28	125	0
1393	NHN 클라우드, 공공 클라우드 앞세워 2026년 '매출 8천 억' 노린다	IT동아	22.06.28	101	0
1392	[IT애정남] '시크릿 모드'로 인터넷 해도 비밀은 없다? [18]	IT동아	22.06.28	7032	11
1391	[성공의 키, 인스타그램 마케팅] 4부 - 충성 고객을 만들어내는 소통 전략	IT동아	22.06.28	97	0