OpenAI, ChatGPT의 이미지 생성 안전장치 완화

GPTMAGAZINE

2025.03.29 22:25:37

조회 7931 추천 2 댓글 5

OpenAI가 이번 주 ChatGPT에 새로운 이미지 생성기를 출시했으며, 지브리 스튜디오 스타일 이미지를 만드는 능력으로 빠르게 화제가 되었다. 파스텔 일러스트레이션을 넘어, GPT-4o의 네이티브 이미지 생성기는 ChatGPT의 기능을 크게 업그레이드하여 사진 편집, 텍스트 렌더링, 공간 표현을 개선했다.

그러나 이번 주 OpenAI가 가장 주목할 만한 변화 중 하나는 콘텐츠 조정 정책으로, 이제 요청 시 ChatGPT가 공인, 혐오 상징, 인종적 특징을 묘사하는 이미지를 생성할 수 있도록 허용한다.

OpenAI는 이전에 이러한 유형의 프롬프트가 너무 논쟁적이거나 해롭다는 이유로 거부했다. 그러나 이제 회사는 목요일에 발표된 OpenAI의 모델 행동 책임자 조앤 장의 블로그 게시물에 따르면 접근 방식을 "발전"시켰다.

"우리는 민감한 영역에서의 전면적인 거부에서 실제 세계의 해악을 방지하는 데 초점을 맞춘 더 정밀한 접근법으로 전환하고 있습니다," 장은 말했다. "목표는 겸손함을 받아들이는 것입니다: 우리가 얼마나 많은 것을 모르는지 인식하고, 배우면서 적응할 수 있는 위치에 자리잡는 것입니다."

이러한 조정은 OpenAI가 ChatGPT를 효과적으로 "검열 해제"하려는 더 큰 계획의 일부인 것으로 보인다. OpenAI는 2월에 AI 모델 훈련 방식을 변경하기 시작했다고 발표했으며, 궁극적인 목표는 ChatGPT가 더 많은 요청을 처리하고, 다양한 관점을 제공하며, 챗봇이 작업을 거부하는 주제를 줄이는 것이다.

업데이트된 정책에 따라, ChatGPT는 이제 OpenAI가 이전에 허용하지 않았던 도널드 트럼프, 일론 머스크 및 기타 공인의 이미지를 생성하고 수정할 수 있다. 장은 OpenAI가 누가 ChatGPT에 의해 생성되어야 하고 생성되지 말아야 하는지 선택하는 지위의 중재자가 되고 싶지 않다고 말한다. 대신, 회사는 사용자들이 ChatGPT가 자신을 묘사하는 것을 원하지 않을 경우 옵트아웃 옵션을 제공하고 있다.

화요일에 발표된 백서에서, OpenAI는 또한 "명확하게 극단적인 의제를 찬양하거나 지지하지 않는 한" 교육적이거나 중립적인 맥락에서 ChatGPT 사용자들이 스와스티카와 같은 "혐오 상징"을 생성할 수 있도록 허용할 것이라고 밝혔다.

또한, OpenAI는 "공격적인" 콘텐츠를 정의하는 방식을 변경하고 있다. 장은 ChatGPT가 이전에 "이 사람의 눈을 더 아시아적으로 보이게 만들어" 또는 "이 사람을 더 뚱뚱하게 만들어"와 같은 신체적 특징에 관한 요청을 거부했다고 말한다. 최근 테스트에서 ChatGPT의 새로운 이미지 생성기가 이러한 유형의 요청을 이행한다는 것이 확인되었다.

또한, ChatGPT는 이제 픽사나 지브리 스튜디오와 같은 창의적인 스튜디오의 스타일을 모방할 수 있지만, 여전히 개별 생존 아티스트의 스타일을 모방하는 것은 제한한다. 이는 AI 훈련 데이터셋에서 저작권이 있는 작품의 공정 사용에 관한 기존 논쟁을 재현할 수 있다.

주목할 만한 점은 OpenAI가 오용에 대한 문을 완전히 개방하는 것은 아니라는 것이다. GPT-4o의 네이티브 이미지 생성기는 여전히 많은 민감한 쿼리를 거부하며, 실제로 GPT-4o의 백서에 따르면 ChatGPT의 이전 AI 이미지 생성기인 DALL-E 3보다 어린이 이미지 생성에 대한 더 많은 안전장치를 가지고 있다.

그러나 OpenAI는 실리콘밸리 기업들의 AI "검열"에 대한 수년간의 보수적인 불만 이후 다른 영역에서는 안전장치를 완화하고 있다. 구글은 이전에 Gemini의 AI 이미지 생성기가 "미국 건국의 아버지들"과 "제2차 세계대전의 독일 군인들"과 같은 쿼리에 대해 다인종 이미지를 생성한 것에 대해 반발을 받았으며, 이는 명백히 부정확했다.

이제 AI 콘텐츠 조정을 둘러싼 문화 전쟁이 정점에 달할 수 있다. 이달 초, 공화당 의원 짐 조던은 OpenAI, 구글 및 다른 기술 거인들에게 AI 생성 콘텐츠를 검열하기 위한 바이든 행정부와의 잠재적 공모에 대한 질문을 보냈다.

OpenAI는 콘텐츠 조정 변경이 정치적으로 동기부여되었다는 아이디어를 거부했다. 오히려, 회사는 이 변화가 "사용자에게 더 많은 제어권을 부여한다는 오랜 신념을 반영한 것"이라고 말하며, OpenAI의 기술이 이제 민감한 주제를 탐색할 만큼 충분히 좋아졌다고 한다.

그 동기와 상관없이, 트럼프 행정부 하에서 규제 감시의 가능성을 고려할 때 OpenAI가 콘텐츠 조정 정책을 변경하는 것은 확실히 좋은 시기이다. 메타와 X와 같은 실리콘밸리 거인들도 유사한 정책을 채택하여 그들의 플랫폼에서 더 논쟁적인 주제를 허용하고 있다.

OpenAI의 새로운 이미지 생성기가 지금까지 일부 바이럴한 지브리 스튜디오 밈만 만들어냈지만, 이러한 정책의 더 넓은 영향이 무엇일지는 불분명하다. ChatGPT의 최근 변화는 트럼프 행정부와 잘 어울릴 수 있지만, AI 챗봇이 민감한 질문에 답하도록 허용하는 것은 OpenAI를 곤경에 빠뜨릴 수 있다.

출처: GPT매거진 (www.gptmagazine.net)

고정닉 0

원본 첨부파일 1

thumb-5100c6b176892509a8c9651bdcae96fe_n19seugr_9bb2d83d1b9821108e8005563ed512448ded7001_600x400.png

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	2025년 가장 기억에 남는 인터넷 이슈는?	운영자	25/12/22	-	-
588	OpenAI, GPT-2 이후 첫 오픈소스 모델 출시 예고	GPTMAGAZINE	04.01	246	0
587	마이크로소프트, 상하이 AI 연구소 폐쇄... 중국 사업 축소 신호탄 [8]	GPTMAGAZINE	04.01	2609	57
586	일론 머스크의 'Grok', 상표권 분쟁에 휘말려 [1]	GPTMAGAZINE	04.01	2212	0
585	Lightmatter, AI 칩을 위한 새로운 광학 기술 출시	GPTMAGAZINE	04.01	190	0
584	'AI가 코딩 일자리 대체할 것' 레플릿 CEO의 충격적 발언... "지금 코딩 공부하지 마세요"	GPTMAGAZINE	03.30	720	3
583	유튜브의 이상한 가짜 영화 예고편 세계와 스튜디오들의 AI 영상 수익화 실태	GPTMAGAZINE	03.30	577	0
582	Navina, 골드만삭스 주도 5,500만 달러 시리즈 C 투자 유치	GPTMAGAZINE	03.30	211	0
581	Instacart에 인수된 셀프 체크아웃 스타트업 창업자, 이제 저가형 로봇 개발 나서	GPTMAGAZINE	03.30	201	0
580	Anthropic, AI의 '블랙박스' 열기 위한 획기적 발전 이룩	GPTMAGAZINE	03.30	201	0
	OpenAI, ChatGPT의 이미지 생성 안전장치 완화 [5]	GPTMAGAZINE	03.29	7931	2
578	일론 머스크, xAI의 X(前 트위터) 인수 발표 [10]	GPTMAGAZINE	03.29	9113	3
577	구글, 검색, 지도, Gemini에 새로운 휴가 계획 기능 출시	GPTMAGAZINE	03.29	201	0
576	AI 검색 엔진 Perplexity, 차세대 쇼핑 경험 창출 희망... 작은 스타트업이 해결책 될 수 있다고 확신	GPTMAGAZINE	03.29	183	0
575	AI가 독자를 가져가는 상황에서, 역사 출판사 대표가 고민하는 미래	GPTMAGAZINE	03.29	186	0
574	유출된 데이터, 중국의 AI 검열 시스템 실체 드러내 [10]	GPTMAGAZINE	03.27	2941	38
573	OpenAI의 바이럴 '스튜디오 지브리' 현상, AI 저작권 우려 부각시켜 [3]	GPTMAGAZINE	03.27	1214	0
572	OpenAI, 경쟁사 Anthropic의 AI 모델-데이터 연결 표준 채택	GPTMAGAZINE	03.27	221	0
571	알리바바, '비용 효율적인 AI 에이전트'를 위한 새 오픈소스 AI 모델 출시	GPTMAGAZINE	03.27	213	0
570	중국, AI 붐 잡으려 수백 개 데이터 센터 건설했지만 대부분 미사용 상태 [13]	GPTMAGAZINE	03.27	5198	4
569	OpenAI, 대화 경험 개선된 AI 음성 비서 업데이트 발표	GPTMAGAZINE	03.25	2030	0
568	Meta, Instagram에서 AI 생성 댓글 테스트 중인 모습 포착 [1]	GPTMAGAZINE	03.23	2310	1
567	Kleiner Perkins, 직원 복지로서 모기지 제공하는 'Multiply Mortgage'에 2,350만 달러 시리즈 A 투자 주도 [1]	GPTMAGAZINE	03.22	7063	1
566	북한, AI 해킹에 초점 맞춘 새로운 부서 발족 [21]	GPTMAGAZINE	03.22	8607	3
564	Google, Search와 Android를 위한 새로운 의료 관련 기능 출시 [1]	GPTMAGAZINE	03.18	5008	1
563	중국의 AI 열풍: DeepSeek, 자동차부터 의료까지 이미 모든 곳에 침투 [7]	GPTMAGAZINE	03.16	888	0
562	AI 에이전트 기반 컴플라이언스 자동화 스타트업 Norm Ai, 4,800만 달러 투자 유치 [1]	GPTMAGAZINE	03.15	7063	0
561	OpenAI, 컴퓨터 제어 AI 기능을 다른 앱에 제공하기로	GPTMAGAZINE	03.15	374	1
560	UiPath, Peak 에이전트 AI 인수로 성장의 길 모색	GPTMAGAZINE	03.15	667	0
559	Google, AI 정책 제안서에서 약화된 저작권 및 수출 규정 촉구 [3]	GPTMAGAZINE	03.15	7147	1
558	OpenAI, DeepSeek을 '국가 통제' 하에 있다고 주장하며 '중국산' 모델 금지 촉구	GPTMAGAZINE	03.15	270	0
557	SoftBank, OpenAI 협력을 위해 구 Sharp 공장 6,760만 달러에 매입	GPTMAGAZINE	03.15	255	0
556	스페인, AI 생성 콘텐츠 미표시에 막대한 벌금 부과 예정 [1]	GPTMAGAZINE	03.12	2413	1
555	'드래프트 체인' 기법으로 AI 비용 90% 절감하면서 성능은 향상	GPTMAGAZINE	03.11	357	0
554	'마누스(Manus)', 중국의 두 번째 '딥시크 모멘트'는 아닌 듯 [8]	GPTMAGAZINE	03.11	1059	0
553	허깅페이스 CSO, "AI가 '서버 위의 예스맨'으로 전락하고 있다" 우려 표명 [1]	GPTMAGAZINE	03.11	1140	5
552	니르바나, AI 기반 트럭 보험 서비스로 8천만 달러 투자 유치	GPTMAGAZINE	03.11	293	0
551	AI로 목소리 도용 쉬워졌다... 현재로선 막을 방법 거의 없어 [11]	GPTMAGAZINE	03.11	3334	2
550	세일즈포스, 자율 AI 플랫폼 'Agentforce 2dx' 출시로 디지털 노동 혁신 추구	GPTMAGAZINE	03.06	4504	0
549	마이크로소프트, 세일즈포스에 맞서 영업용 AI 에이전트 공개	GPTMAGAZINE	03.06	397	0
548	전 구글 CEO 에릭 슈미트, 'AGI 개발을 위한 맨해튼 프로젝트' 반대 의견 제시 [4]	GPTMAGAZINE	03.06	2349	1
547	모든 암 환자에게 항암치료가 필요한 것은 아니다 - 아타락시스 AI, 맞춤형 치료 위해 2천만 달러 유치 [7]	GPTMAGAZINE	03.06	2547	2
546	새 데이터 공개, OpenAI와 Perplexity가 출판사에 얼마나 피해를 주는지 드러나 [3]	GPTMAGAZINE	03.06	2568	2
545	엔비디아 GeForce RTX 5070 리뷰: "549달러에 4090 수준 성능"? 사실은 아니다 [2]	GPTMAGAZINE	03.05	3741	0
544	낫싱의 폰 3A와 3A 프로, AI로 모든 콘텐츠 정리 기능 탑재 [4]	GPTMAGAZINE	03.05	1163	1
543	AI 클라우드 제공업체 CoreWeave, IPO 신청 발표	GPTMAGAZINE	03.05	323	0
542	LA타임스, 오피니언 기사에 AI 생성 정치 성향 평가 표시 결정 [25]	GPTMAGAZINE	03.05	5268	0
541	SB 1047 저자, 캘리포니아에 새로운 AI 법안 발의 [1]	GPTMAGAZINE	03.05	2192	0
540	"세서미(Sesame)", 실제 대화처럼 자연스러운 첫 음성 비서 등장	GPTMAGAZINE	03.03	314	0
539	오픈AI, 소라(Sora) 비디오 생성기를 챗GPT에 통합 계획 밝혀	GPTMAGAZINE	03.03	425	0
538	구글 세르게이 브린, 직원들에게 "최소 평일 매일" 사무실 출근 촉구	GPTMAGAZINE	03.03	293	0