AI로 목소리 도용 쉬워졌다... 현재로선 막을 방법 거의 없어

GPTMAGAZINE

2025.03.11 01:11:39

조회 3334 추천 2 댓글 11

소비자 보고서(Consumer Reports)가 실시한 조사에 따르면, 주요 인공지능 음성 복제 프로그램 대부분은 타인의 동의 없는 목소리 도용을 막을 의미 있는 장벽이 없는 것으로 나타났다.

AI 음성 복제 기술은 최근 몇 년간 놀라운 발전을 이루었으며, 많은 서비스들이 단 몇 초의 샘플 오디오만으로도 한 사람의 말투를 효과적으로 모방할 수 있다. 지난해 민주당 예비선거 당시 가짜 조 바이든의 로보콜이 유권자들에게 투표하지 말라는 스팸 전화를 보냈던 사건이 주목을 받았다. 이 계획을 주도했다고 인정한 정치 컨설턴트는 600만 달러의 벌금을 부과받았으며, 연방통신위원회(FCC)는 이후 AI 생성 로보콜을 금지했다.

공개적으로 이용 가능한 6개 주요 AI 음성 복제 도구에 대한 새로운 조사 결과, 5개 서비스가 쉽게 우회할 수 있는 보호장치를 가지고 있어 동의 없이 타인의 목소리를 복제하는 것이 간단한 것으로 나타났다. 딥페이크 오디오 감지 소프트웨어도 실제 목소리와 합성 목소리의 차이를 구별하는 데 어려움을 겪는 경우가 많다.

ElevenLabs, Speechify, PlayHT, Lovo 등 4개 서비스는 단순히 목소리가 복제되는 사람이 승인을 했다는 확인란에 체크하는 것만 요구한다.

또 다른 서비스인 Resemble AI는 녹음파일을 업로드하는 대신 실시간으로 오디오를 녹음할 것을 요구한다. 그러나 소비자 보고서는 컴퓨터에서 오디오 녹음을 재생하는 것만으로도 이 제한을 쉽게 우회할 수 있었다.

6개 서비스 중 오직 Descript만이 다소 효과적인 보호장치를 갖추고 있었다. 이 서비스는 특정 동의 문구를 녹음하도록 요구하며, 이는 다른 서비스를 통한 복제가 아니면 위조하기 어렵다.

이 6개 서비스 모두 웹사이트를 통해 일반에게 제공된다. Eleven Labs와 Resemble AI만이 각각 5달러와 1달러의 비용을 받고 맞춤형 음성 복제 서비스를 제공하며, 나머지는 무료다.

AI 음성 복제에는 장애가 있는 사람들을 돕고 다른 언어로 말하는 사람들의 오디오 번역을 만드는 등 합법적인 용도가 있다. 그러나 AI 정책의 결과에 초점을 맞춘 싱크탱크인 AI Now Institute의 공동 책임자 사라 마이어스 웨스트는 또한 해악의 가능성이 엄청나다고 말했다.

"이는 분명히 사기, 스캠, 허위 정보, 예를 들어 기관 인사를 사칭하는 데 사용될 수 있습니다," 웨스트가 NBC 뉴스에 말했다.

AI가 오디오 기반 사기에 얼마나 자주 사용되는지에 대한 연구는 거의 없다. 이른바 '조부모 사기'에서는 범죄자가 가족 구성원이 납치되거나, 체포되거나, 부상당했다는 등의 비상사태를 주장하며 전화를 건다. 연방무역위원회(FTC)는 이러한 사기에 AI가 사용될 수 있다고 경고했지만, 이러한 사기는 이 기술보다 앞서 존재했다.

복제된 목소리는 2023년 드레이크와 위켄드의 노래인 것처럼 보이는 바이럴 곡처럼 묘사된 아티스트의 허락 없이 음악을 만드는 데 사용되기도 했으며, 일부 뮤지션들은 다른 사람들이 자신의 목소리로 음악을 발표할 때 자신의 이미지를 통제하는 데 어려움을 겪고 있다.

출처: GPT매거진 (www.gptmagazine.net)

고정닉 0

원본 첨부파일 1

thumb-5100c6b176892509a8c9651bdcae96fe_o5VICxP1_d520bf24f37794cac143a2662821603151f8174a_600x400.png

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	2025년 가장 기억에 남는 인터넷 이슈는?	운영자	25/12/22	-	-
588	OpenAI, GPT-2 이후 첫 오픈소스 모델 출시 예고	GPTMAGAZINE	04.01	246	0
587	마이크로소프트, 상하이 AI 연구소 폐쇄... 중국 사업 축소 신호탄 [8]	GPTMAGAZINE	04.01	2609	57
586	일론 머스크의 'Grok', 상표권 분쟁에 휘말려 [1]	GPTMAGAZINE	04.01	2212	0
585	Lightmatter, AI 칩을 위한 새로운 광학 기술 출시	GPTMAGAZINE	04.01	190	0
584	'AI가 코딩 일자리 대체할 것' 레플릿 CEO의 충격적 발언... "지금 코딩 공부하지 마세요"	GPTMAGAZINE	03.30	721	3
583	유튜브의 이상한 가짜 영화 예고편 세계와 스튜디오들의 AI 영상 수익화 실태	GPTMAGAZINE	03.30	577	0
582	Navina, 골드만삭스 주도 5,500만 달러 시리즈 C 투자 유치	GPTMAGAZINE	03.30	211	0
581	Instacart에 인수된 셀프 체크아웃 스타트업 창업자, 이제 저가형 로봇 개발 나서	GPTMAGAZINE	03.30	202	0
580	Anthropic, AI의 '블랙박스' 열기 위한 획기적 발전 이룩	GPTMAGAZINE	03.30	201	0
579	OpenAI, ChatGPT의 이미지 생성 안전장치 완화 [5]	GPTMAGAZINE	03.29	7932	2
578	일론 머스크, xAI의 X(前 트위터) 인수 발표 [10]	GPTMAGAZINE	03.29	9113	3
577	구글, 검색, 지도, Gemini에 새로운 휴가 계획 기능 출시	GPTMAGAZINE	03.29	201	0
576	AI 검색 엔진 Perplexity, 차세대 쇼핑 경험 창출 희망... 작은 스타트업이 해결책 될 수 있다고 확신	GPTMAGAZINE	03.29	183	0
575	AI가 독자를 가져가는 상황에서, 역사 출판사 대표가 고민하는 미래	GPTMAGAZINE	03.29	187	0
574	유출된 데이터, 중국의 AI 검열 시스템 실체 드러내 [10]	GPTMAGAZINE	03.27	2941	38
573	OpenAI의 바이럴 '스튜디오 지브리' 현상, AI 저작권 우려 부각시켜 [3]	GPTMAGAZINE	03.27	1214	0
572	OpenAI, 경쟁사 Anthropic의 AI 모델-데이터 연결 표준 채택	GPTMAGAZINE	03.27	222	0
571	알리바바, '비용 효율적인 AI 에이전트'를 위한 새 오픈소스 AI 모델 출시	GPTMAGAZINE	03.27	213	0
570	중국, AI 붐 잡으려 수백 개 데이터 센터 건설했지만 대부분 미사용 상태 [13]	GPTMAGAZINE	03.27	5199	4
569	OpenAI, 대화 경험 개선된 AI 음성 비서 업데이트 발표	GPTMAGAZINE	03.25	2030	0
568	Meta, Instagram에서 AI 생성 댓글 테스트 중인 모습 포착 [1]	GPTMAGAZINE	03.23	2310	1
567	Kleiner Perkins, 직원 복지로서 모기지 제공하는 'Multiply Mortgage'에 2,350만 달러 시리즈 A 투자 주도 [1]	GPTMAGAZINE	03.22	7064	1
566	북한, AI 해킹에 초점 맞춘 새로운 부서 발족 [21]	GPTMAGAZINE	03.22	8607	3
564	Google, Search와 Android를 위한 새로운 의료 관련 기능 출시 [1]	GPTMAGAZINE	03.18	5008	1
563	중국의 AI 열풍: DeepSeek, 자동차부터 의료까지 이미 모든 곳에 침투 [7]	GPTMAGAZINE	03.16	888	0
562	AI 에이전트 기반 컴플라이언스 자동화 스타트업 Norm Ai, 4,800만 달러 투자 유치 [1]	GPTMAGAZINE	03.15	7063	0
561	OpenAI, 컴퓨터 제어 AI 기능을 다른 앱에 제공하기로	GPTMAGAZINE	03.15	374	1
560	UiPath, Peak 에이전트 AI 인수로 성장의 길 모색	GPTMAGAZINE	03.15	667	0
559	Google, AI 정책 제안서에서 약화된 저작권 및 수출 규정 촉구 [3]	GPTMAGAZINE	03.15	7147	1
558	OpenAI, DeepSeek을 '국가 통제' 하에 있다고 주장하며 '중국산' 모델 금지 촉구	GPTMAGAZINE	03.15	270	0
557	SoftBank, OpenAI 협력을 위해 구 Sharp 공장 6,760만 달러에 매입	GPTMAGAZINE	03.15	255	0
556	스페인, AI 생성 콘텐츠 미표시에 막대한 벌금 부과 예정 [1]	GPTMAGAZINE	03.12	2413	1
555	'드래프트 체인' 기법으로 AI 비용 90% 절감하면서 성능은 향상	GPTMAGAZINE	03.11	357	0
554	'마누스(Manus)', 중국의 두 번째 '딥시크 모멘트'는 아닌 듯 [8]	GPTMAGAZINE	03.11	1060	0
553	허깅페이스 CSO, "AI가 '서버 위의 예스맨'으로 전락하고 있다" 우려 표명 [1]	GPTMAGAZINE	03.11	1140	5
552	니르바나, AI 기반 트럭 보험 서비스로 8천만 달러 투자 유치	GPTMAGAZINE	03.11	293	0
	AI로 목소리 도용 쉬워졌다... 현재로선 막을 방법 거의 없어 [11]	GPTMAGAZINE	03.11	3334	2
550	세일즈포스, 자율 AI 플랫폼 'Agentforce 2dx' 출시로 디지털 노동 혁신 추구	GPTMAGAZINE	03.06	4504	0
549	마이크로소프트, 세일즈포스에 맞서 영업용 AI 에이전트 공개	GPTMAGAZINE	03.06	397	0
548	전 구글 CEO 에릭 슈미트, 'AGI 개발을 위한 맨해튼 프로젝트' 반대 의견 제시 [4]	GPTMAGAZINE	03.06	2350	1
547	모든 암 환자에게 항암치료가 필요한 것은 아니다 - 아타락시스 AI, 맞춤형 치료 위해 2천만 달러 유치 [7]	GPTMAGAZINE	03.06	2547	2
546	새 데이터 공개, OpenAI와 Perplexity가 출판사에 얼마나 피해를 주는지 드러나 [3]	GPTMAGAZINE	03.06	2569	2
545	엔비디아 GeForce RTX 5070 리뷰: "549달러에 4090 수준 성능"? 사실은 아니다 [2]	GPTMAGAZINE	03.05	3741	0
544	낫싱의 폰 3A와 3A 프로, AI로 모든 콘텐츠 정리 기능 탑재 [4]	GPTMAGAZINE	03.05	1163	1
543	AI 클라우드 제공업체 CoreWeave, IPO 신청 발표	GPTMAGAZINE	03.05	323	0
542	LA타임스, 오피니언 기사에 AI 생성 정치 성향 평가 표시 결정 [25]	GPTMAGAZINE	03.05	5269	0
541	SB 1047 저자, 캘리포니아에 새로운 AI 법안 발의 [1]	GPTMAGAZINE	03.05	2192	0
540	"세서미(Sesame)", 실제 대화처럼 자연스러운 첫 음성 비서 등장	GPTMAGAZINE	03.03	315	0
539	오픈AI, 소라(Sora) 비디오 생성기를 챗GPT에 통합 계획 밝혀	GPTMAGAZINE	03.03	426	0
538	구글 세르게이 브린, 직원들에게 "최소 평일 매일" 사무실 출근 촉구	GPTMAGAZINE	03.03	293	0