구글이 자사의 사진 관리 서비스인 구글 포토(Google Photos)에 AI 편집 투명성을 높이기 위한 새로운 기능을 도입했다. 'Magic Editor'의 생성형 AI 기능을 사용하여 편집된 이미지에 'SynthID' 디지털 워터마크를 삽입하는 기능이 이번 주부터 적용되며, 이를 통해 AI로 생성되거나 수정된 이미지를 더욱 쉽게 식별할 수 있게 된다.
'SynthID'는 구글의 딥마인드(DeepMind) 팀이 개발한 기술로, AI에 의해 생성되거나 편집된 이미지, 비디오, 오디오 및 텍스트 등에 보이지 않는 디지털 워터마크를 삽입하는 기능을 제공한다. 이 워터마크는 인간의 눈으로는 감지할 수 없지만, AI 탐지 도구를 통해 확인할 수 있도록 설계되었다. 이를 통해 사용자는 AI가 개입된 이미지를 빠르게 인식하고, 이미지의 출처와 신뢰성을 판단할 수 있다.
구글은 이전에도 자사의 텍스트-이미지 모델인 'Imagen'을 통해 완전히 AI로 생성된 이미지에 'SynthID' 워터마크를 적용해 왔다. 하지만 이번 업데이트를 통해 'Magic Editor'를 이용하여 AI가 부분적으로 편집한 이미지에도 워터마크가 적용되면서, AI 개입 여부를 보다 명확하게 알 수 있도록 개선되었다.
구글은 이 기능이 AI 생성 및 편집된 이미지로 인한 오해와 허위 정보 확산을 방지하는 데 기여할 것으로 기대하고 있다. 최근 AI 기술의 발전으로 인해 디지털 콘텐츠의 조작이 점점 정교해지고 있으며, 이에 따라 이미지의 신뢰성과 출처 확인이 중요한 문제로 떠오르고 있다. 'SynthID' 시스템은 AI 편집 여부를 확인하는 과정에서 보다 직관적인 접근 방식을 제공하여, 사용자들이 AI 콘텐츠를 쉽게 인식할 수 있도록 돕는다.
그러나 구글은 'SynthID' 기술에도 한계가 있으며, 일부 미세한 편집은 워터마크가 적용되지 않을 수 있다고 밝혔다. 예를 들어, 사진 속 배경의 작은 부분을 변경하거나 색상을 조정하는 등 경미한 편집은 워터마크 시스템이 감지하지 못할 가능성이 있다. 이러한 경우 사용자는 구글 렌즈(Google Lens)나 'About this image' 기능을 통해 이미지의 메타데이터를 확인하여 AI 편집 여부를 추가적으로 판단할 수 있다.
이번 조치는 AI 편집 이미지로 인해 발생할 수 있는 혼란을 최소화하고, 디지털 콘텐츠의 신뢰성을 강화하려는 구글의 전략 중 하나로 평가된다. AI 기반 이미지 편집 기술이 점점 더 발전하고 있는 상황에서, 이러한 투명성 강화 조치는 AI 콘텐츠의 출처를 확인하는 데 중요한 역할을 하게 될 것으로 보인다. 앞으로 'SynthID'가 AI 기반 미디어 콘텐츠 검증 기술로 어떻게 발전할지 주목된다.
댓글 영역
획득법
① NFT 발행
작성한 게시물을 NFT로 발행하면 일주일 동안 사용할 수 있습니다. (최초 1회)
② NFT 구매
다른 이용자의 NFT를 구매하면 한 달 동안 사용할 수 있습니다. (구매 시마다 갱신)
사용법
디시콘에서지갑연결시 바로 사용 가능합니다.