창과 방패의 대결, 인공지능 가짜 사진 vs 가짜 사진 판별 인공지능

IT동아

2022.04.05 11:47:58

조회 1420 추천 4 댓글 11

[IT동아 차주경 기자] 인공지능은 산업계 전반에 큰 영향을 미쳤다. 인공지능은 작업 환경과 방식을 고도화해서 효율을 높이고, 오류가 나면 이를 분석해서 되풀이하지 않도록 스스로 배운다. 사진 업계에 미친 영향도 크다. 인공지능 덕분에 사람들은 이제 사진을 더 빠르게, 편리하게 찍고 수정하며 보관한다.

하지만, 인공지능이 점차 강력해지며 부작용도 나온다. 사진 업계에서 인공지능이 만든 인물 사진을 악용한 사례가 나왔다. 이 사진은 만들어진 가짜지만, 진짜 인물 사진과 구분하기 힘들 정도다. 이 탓에 범죄에 쓰일 거라는 우려가 나온다. 인공지능 개발사와 사진 업계는 힘을 합쳐 부작용을 줄일 방안을 찾는다.

나날이 발전한 인공지능은 이제 사진을 창조하는 단계에 이르렀다. 피사체의 윤곽만 있으면 이미 배운 다른 피사체의 윤곽, 색깔과 견주어 가며 실제 피사체를 표현한다. 사진 안에 특정 피사체만 지우거나, 교묘하게 붙여 넣기도 한다. 나아가 인공지능은 인물 사진을 배워서 실제로는 세상에 없지만, 진짜 있을 법한 인물 사진을 만든다.

이 사람은 없는 사람입니다 웹 사이트. 위 사람은 사람처럼 보이지만, 아니다. 출처 = This Person Does Not Exist

인공지능이 만든 인물 사진이 얼마나 실제 사진과 비슷한 지를 보려면, 웹 사이트 ‘이 사람은 없는 사람입니다(This Person Does Not Exist)’를 가 보자. 이 웹 사이트에 있는 인물 사진은 모두 인공지능이 만든 것이며, 모두 세상에 없는 사람이다.

이렇게 고도의 인공지능으로 만든 인물 사진은 여러 곳에서 악용된다. 최근 스탠포드 대학교 연구원들은 취업 SNS에서 가짜 인물 사진으로 만든 계정을 수백 개 이상 발견했다고 밝혔다.

취업 SNS는 특정 기업에 대한 여론 조작, 불공정 영업을 막으려 전송 가능한 메시지의 개수를 제한한다. 이 때 가짜 인물 사진을 만들어 직원인 것처럼 꾸미면, 가짜 계정을 여러 개 만들어 메시지를 많이 보낼 수 있다. 가짜 계정은 사람들에게 왜곡된 정보를 주거나, 광고 수단으로 쓰일 가능성이 크다. 나아가 가짜 인물 사진은 로맨스 스캠(SNS에서 연인이 될 것처럼 속여 호감을 산 후 사기를 벌이는 행각)에 악용될 우려도 크다.

인공지능으로 만든 가짜 인물 사진의 부작용들이 속속 드러나자, 업계는 이를 막을 또 다른 인공지능을 연구 개발했다. 수많은 인물 사진을 인공지능이 배우도록 한 뒤, 다른 인물 사진의 이목구비와 명암, 빛의 방향과 각도, 액세서리 유무와 그림자 등 여러 요소를 분석해 진짜인지 가짜인지 알아내는 원리다. 인공지능 소프트웨어 기업 V7 랩스(V7 Labs)가 공개한 구글 크롬 확장 프로그램 ‘가짜 프로필 사진 인공지능 판별기(Fake Profile AI Detector)’이 그 사례다.

V7 랩스가 공개한 가짜 사진 판별 인공지능 플러그인. 출처 = V7 랩스

V7 랩스는 이 프로그램이 99.28% 확률로 가짜 인물 사진을 판별한다고 강조했다. 이어 이 프로그램이 여러 SNS에 퍼진 가짜 인물과 가짜 계정을 구분하고, 잘못된 정보와 가짜 뉴스를 퍼뜨리는 것을 막기를 기대한다고 밝혔다.

인공지능 두 개가 결과물과 장단점을 서로 비교하며 발전하는 GAN(Generative Adversarial Network, 적대적 신경망 네트워크) 기술이 등장한 이후, 인공지능은 지금 이 순간에도 발전한다. 가짜 인물 사진을 만드는 기술도 더욱 교묘해질 것이다.

지금은 인공지능이 가짜 사진만 만들지만, 멀지 않은 미래에는 가짜 목소리를 포함한 가짜 동영상까지 만들 정도로 강력해질 것으로 예상한다. 인공지능 업계도 GAN과 데이터를 적극 활용해 이 폐해를 막는다. 무엇이든 묘사하는 인공지능과 무엇이든 감지하는 인공지능, 창과 방패의 대결 양상은 더욱 격렬해질 전망이다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 페북, 인스타 등 ‘SNS 로그인’ 경보…해킹 앱 발견 ▶ 인공지능이 바꾼 사진 문화, 거세지는 찬반 양론 ▶ "AI도 진정한 친구가 될 수 있다", 돌아온 이루다2.0

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
3840	벤처 투자 80%가 수도권 편중··· '투자 해결사'로 나선 부산창경	IT동아	12:29	3	0
3839	국내 통신3사 모두 "이제 우리는 AI 기업" [1]	IT동아	05.23	84	0
3838	[IT애정남] 갤럭시 '생성형 편집', 어떻게 해야 잘 될까요?	IT동아	05.23	41	0
3837	즉석 카메라로 이런 ‘손맛’이? ‘인스탁스 미니 99’ 출시	IT동아	05.23	35	0
3836	스타트업 해외 진출 시 알아야 할 정보 공유 ‘라이징 스타트업 콘서트4’	IT동아	05.23	40	0
3835	[IT애정남] 해외 구매폰에 국내 유심 쓰는데 음성 통화 안되면? [1]	IT동아	05.23	785	2
3834	퀄컴, 코파일럿+ PC 등장에 'AI 허브 및 개발 도구'로 지원 사격	IT동아	05.23	69	0
3833	네카오, 글로벌 공략 갈 길 바쁜데…일단 멈춤	IT동아	05.23	44	0
3832	2025년 상반기 탄생할 주식 대체거래소(ATS), 이렇게 달라진다	IT동아	05.23	64	0
3831	AMD, 에픽·MI300X 투트랙으로 AI 산업 주도권 확보 나서	IT동아	05.22	63	0
3830	'직장인 3명 중 1명, 데이터 도출 어려워'··· AI 기반 자동화가 해답될까?	IT동아	05.22	81	0
3829	산행 보조부터 산불 진화까지...'입는 로봇' 활용처 확대 [1]	IT동아	05.22	4861	1
3828	대거 출시 예고한 Arm CPU 기반 윈도우 PC, 뭐가 다를까?	IT동아	05.22	131	0
3827	비트코인 피자데이, 업비트·빗썸 “피자 2024판 쏜다” [17]	IT동아	05.22	6987	4
3826	[생성 AI 길라잡이] 음성과 이미지만 있으면 영상을 만든다 ‘런웨이ML’	IT동아	05.21	1744	0
3825	가속 페달 밟은 검색광고 시장 경쟁, 보라웨어 ‘AI 검색광고 관리 솔루션에 주목해야 되는 이유	IT동아	05.21	81	0
3824	부르면 달려오는 '이동형 전기차 충전기' 시장 기지개 [14]	IT동아	05.21	1889	0
3823	MS, '코파일럿 플러스 PC' 발표…AI 시대의 새로운 PC 제시	IT동아	05.21	148	0
3822	업비트·빗썸, 1분기 실적 개선···투자자 보호·서비스 개선에 주력한다	IT동아	05.21	76	0
3821	GPT4o와 GPT4 비교해 보니··· '사람 대 AI의 근본적인 접근 방식 바꿔' [6]	IT동아	05.21	1278	3
3820	삼성전자, '비스포크 AI 콤보' 에센셜 화이트 색상 출시…색상 라인업 강화	IT동아	05.20	137	0
3819	채팅창 넘어 일상으로…'만능 AI 비서' 시대 온다	IT동아	05.20	510	0
3818	오늘부터 시끄러운 불법 튜닝 오토바이 집중 단속 [6]	IT동아	05.20	581	6
3817	AWS 서밋 행사장에서 펼쳐진 훈훈한 ‘프리킥’	IT동아	05.20	126	0
3816	[주간투자동향] 라피치, 60억 원 규모 투자 유치	IT동아	05.20	89	0
3815	키보드의 윈도 키, 최대한 활용하려면 이렇게![이럴땐 이렇게!] [5]	IT동아	05.20	1338	16
3814	인포플라 “대답만 하던 기존 AI의 한계, VLM 기반 자동화로 극복” [4]	IT동아	05.18	6917	3
3813	6월 인공지능ㆍ반도체 시장 엔비디아 손에 달렸다	IT동아	05.17	188	0
3812	[시승기] 시대를 초월한 디자인 DNA…’포르쉐 911 카레라 쿠페’	IT동아	05.17	181	0
3811	[IT신상공개] 입맛대로 고르는 저음, 소니 얼트 파워 사운드	IT동아	05.17	193	0
3810	"코바코의 대국민 AI 광고 제작 서비스, 네이버가 함께합니다"	IT동아	05.17	177	0
3809	[생성 AI 길라잡이] 더 사람 같아진 AI, 'GPT-4o'는 어떻게 다를까? [2]	IT동아	05.17	1259	1
3808	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 11	IT동아	05.16	195	0
3807	[뉴스줌인] PC 2대 연결해 하나처럼? 인텔 ‘썬더볼트 쉐어’ 기술 이모저모 [5]	IT동아	05.16	2166	0
3806	스틸시리즈 코리아 “편의성 강화한 ‘아크티스 노바5’로 가파른 성장세 이어갈 것”	IT동아	05.16	209	0
3805	[스타트업 첫걸음] 기고를 시작하며	IT동아	05.16	166	0
3804	[월간자동차] 24년 4월, 신차 등록 감소…기아 ’쏘렌토’ 4개월 연속 판매 1위 [1]	IT동아	05.16	883	0
3803	10년 차 맞은 AWS 서밋 서울··· '국내 최대 IT·클라우드 행사로 자리매김'	IT동아	05.16	228	0
3802	[자동차와 法] 딜레마존 구간에서 운전자 주의의무에 대하여	IT동아	05.14	226	0
3801	대기업부터 스타트업까지, K-우주산업 ‘성큼’	IT동아	05.14	245	0
3800	벤츠, 소비자가 외면한 전기차 디자인 손본다 [47]	IT동아	05.14	8102	2
3799	우주방사선 차폐로 초소형위성 수명 늘린다	IT동아	05.14	234	0
3798	국내 기업 열에 일곱은 "이제 AI 활용 못 하는 직원은 고용 안 해" [37]	IT동아	05.14	7426	9
3797	NHN두레이 기반의 협업 환경, KDI 국제정책대학원의 ‘저력’ 높인다	IT동아	05.14	196	0
3796	[IT강의실] 가상자산 맡기고 추가 수익 실현 ‘스테이킹’	IT동아	05.14	209	0
3795	화제의 K-패스 카드, 발급부터 활용까지 이렇게! [이럴땐 이렇게!] [1]	IT동아	05.14	1977	2
3794	도로 위 시한폭탄 ‘맨홀 단차’ 빠르게 보수할 제품 실증 [4]	IT동아	05.13	759	1
3793	와탭랩스, "옵저버빌리티 기업 정체성 확립··· 美·日·동남아 시장 성과낼 것"	IT동아	05.13	198	0
3792	빗썸 “대학생 서포터즈 썸즈업이 제안한 개선안 적극 검토할 것” [3]	IT동아	05.13	1050	0
3791	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 10 [8]	IT동아	05.11	8064	3