🔼 AI 시대의 콘텐츠 출처, 법적 기준 마련

🔼 워터마크 도입, AI 콘텐츠 혼동 막는다

🔼 AI 콘텐츠의 출처 표기, 투명성 강화

OpenAI가 캘리포니아의 AI 생성 콘텐츠에 디지털 워터마크를 부착하는 법안 AB 3211에 대한 지지 의사를 밝혔다.



27일 벤처비트 등 외신에 따르면, OpenAI는 캘리포니아 주 하원의원 버피 윅스에게 보낸 서한에서 '캘리포니아 디지털 콘텐츠 출처 표준(AB 3211)' 법안에 대한 지지 입장을 표명하며, AI 콘텐츠의 출처 표기와 워터마킹과 같은 조치의 중요성을 강조했다. 특히 선거철을 맞아 AI 투명성의 중요성을 강조했다.



'디지털 소스 표준법(Digital Source Standards Act)'은 AI로 생성된 제품에 라벨을 부착해 조작된 음성, 딥페이크 이미지 및 영상 등 유해한 콘텐츠의 생성을 방지하고 출처를 검증하기 위한 법안이다. 캘리포니아 주 하원은 해당 법안을 62대 0의 만장일치로 통과시켰으며, 현재 주 상원 전체 회의에서의 표결을 기다리고 있다.



이 법안이 캘리포니아 주 상원과 하원을 모두 통과하면, 주지사 개빈 뉴섬이 서명하는 즉시 공식적으로 발효될 예정이다. 올해는 미국, 유럽연합(EU), 인도네시아 등 여러 지역에서 선거가 예정돼 있어, 딥페이크를 포함한 생성 AI를 이용한 허위 및 조작된 동영상이 선거의 투명성과 민주적 가치를 훼손할 수 있다는 우려가 커지고 있다.



최근 미국에서는 민주당 대선 후보인 카말라 해리스 부통령의 딥페이크 영상이 등장해 논란이 일었다. 또한, 올해 초에는 조 바이든 대통령과 도널드 트럼프 전 대통령의 딥페이크 영상이 빠르게 확산되기도 했다.



OpenAI는 자체 AI 모델의 안전성을 테스트해야 한다는 내용의 '고급 AI 시스템을 위한 안전 및 보안 혁신법(SB 1047)'에 대해 반대 입장을 밝혔다. 이는 생성 AI 생태계 발전을 저해할 수 있다는 이유에서다. 현재 국내외 빅 테크 기업들은 생성 AI로 만든 콘텐츠에 워터마크를 부착할 수 있는 기술을 개발했지만, 구체적인 워터마크 표준이나 관련 법률이 상세히 마련되지 않아 적극적으로 사용되지 않았다.



OpenAI는 지난 2월 공식 웹사이트를 통해 자사의 이미지 생성 AI 도구 'Dali 3'로 생성한 이미지에 디지털 워터마크를 부착하겠다고 발표했다. 이들은 '콘텐츠 출처 및 진위 연합(Coalition for Content Source and Authenticity, C2PA)' 워터마크를 부착할 것이라고 밝혔다.



C2PA는 콘텐츠 출처와 정보를 검증하기 위한 개방형 기술을 연구하는 협의체다. 2021년에 설립된 이 협의체는 국제 표준화 기구로서 콘텐츠 워터마킹에 관한 표준에 가장 근접한 단체로 평가받고 있다. 마이크로소프트, 어도비, 인텔 등 여러 기업이 이 협의체에서 활동하고 있으며, 네이버도 최근 C2PA 기술 표준 개발에 참여했다.



OpenAI뿐만 아니라 메타도 워터마킹을 적극 추진하고 있다. 메타는 자체 AI 도구 '메타 AI'를 사용해 생성한 이미지뿐만 아니라 타사 도구를 사용해 생성한 콘텐츠에도 'AI로 상상됨(Imagined with AI)'이라는 모양의 워터마크를 부착하겠다고 발표했다. 이는 먼저 자사의 소셜 미디어 플랫폼인 페이스북, 인스타그램, 스레드에 업로드된 생성 이미지에 적용된다. 구글도 최근 AI 챗봇 '바드(Bard)'에 이미지 생성 기능을 추가하면서 딥마인드의 워터마크를 적용하겠다고 발표했다.



이전에도 캘리포니아 주 의원들은 이번 입법 세션 동안 65개의 AI 관련 법안을 도입하려고 시도했으나, 대부분의 법안은 논의 후 폐기됐다. 이 가운데 AB 3211과 SB 1047이 가장 큰 주목을 받고 있다.



OpenAI의 전략 책임자인 제이슨 권은 "사람들은 온라인에서 찾은 콘텐츠의 출처를 이해하고 인간이 생성한 콘텐츠와 AI가 생성한 콘텐츠를 혼동하지 않아야 한다"고 주장했다.

◎GPT매거진 (https://www.gptmagazine.net)

지피티 기자 : gptmagazinebiz@gmail.com

카카오 오픈채팅방 : https://open.kakao.com/o/gLI8Wetf

페이스북 그룹 : https://www.facebook.com/groups/392367786704067