오픈AI, 핵 위협 등 AI 위험에 대응할 준비 팀 구성 발표

GPTMAGAZINE

2023.10.30 10:52:03

조회 2228 추천 0 댓글 1

🔼 핵 위협부터 자동 복제까지
🔼 AI의 '자동 복제' 위험에 대비
🔼 책임 있는 AI 발전 전략

OpenAI가 AI 기술로 인한 잠재적 "재앙적 위험"에 대응하기 위한 전용 팀을 구성한다고 발표했습니다.

이 새로운 '준비 팀'은 AI로 인해 발생할 수 있는 주요 문제를 "추적, 평가, 예측 및 보호"하는 것을 주요 임무로 하며, 핵 위협을 비롯하여 "화학, 생물학 및 방사성 위협"과 같은 다양한 영역에 대한 대응 방안을 마련할 예정입니다. 또한, 인공지능이 스스로를 복제하는 '자동 복제'와 같은 미래지향적인 도전에도 대응할 계획입니다.

OpenAI는 최근 발표에서 “최첨단 AI 모델은 인류 전체에게 큰 이익을 가져다 줄 수 있지만, 동시에 점점 더 심각한 위험도 초래할 수 있다”고 밝혔습니다.

이 팀은 MIT의 Deployable Machine Learning 센터 교수인 Aleksander Madry 박사가 이끌게 될 예정이며, 그의 지도 아래 "위험 기반 개발 정책"을 수립하고 유지하는 업무를 담당하게 됩니다.

이와 관련해 OpenAI의 CEO인 Sam Altman은 과거에 "AI로 인한 종말 위험을 완화하는 것은 세계적 우선 순위여야 한다"고 강조한 바 있습니다. Altman은 세계 각국의 정부들이 핵 무기만큼 AI를 "진지하게" 여겨야 한다고 덧붙였습니다.

이번 결정은 AI 기술의 빠른 발전에 따른 잠재적 위험에 대한 책임 있는 대응이 필요하다는 점을 재확인하는 것으로, 전문가들은 이를 긍정적으로 평가하며 OpenAI의 미래 방향에 대한 기대감을 표현하고 있습니다.

◎GPT매거진 (https://www.gptmagazine.net)
지피티 기자 : gptmagazinebiz@gmail.com

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	2025년 가장 기억에 남는 인터넷 이슈는?	운영자	25/12/22	-	-
224	애플, 생성형 AI 경쟁 가세 - 새로운 개발 툴 'MLX' 공개	GPTMAGAZINE	23.12.12	1002	0
223	ChatGPT, 게으른 태도 논란에 휩싸여 [54]	GPTMAGAZINE	23.12.11	7955	15
222	일론 머스크의 AI 스타트업, '그록' 챗봇 론칭 [12]	GPTMAGAZINE	23.12.08	6081	13
221	아마존, AI물류창고 로봇 '디짓', 인간의 일자리를 뺏기 시작했다. [3]	GPTMAGAZINE	23.12.08	620	1
220	마이크로소프트, 코파일럿에 GPT-4 Turbo 적용	GPTMAGAZINE	23.12.08	1971	1
219	메타, '이매진 위드 메타' 공개	GPTMAGAZINE	23.12.08	637	1
218	미쳤다! 구글 Gemini AI모델 상호작용 예시 영상 [5]	GPTMAGAZINE	23.12.07	1748	1
217	오픈AI의 대항마! 인공지능 끝판왕 '구글 제미니' 출시 [5]	GPTMAGAZINE	23.12.07	1024	2
216	[AI 뉴스] GPT-5, 딥마인드 작곡 AI, MS 딥페이크, 메타 영상 AI, 오픈 소스 발전 등 [8]	GPTMAGAZINE	23.12.06	4527	3
215	오픈AI 경고, Q* 알고리즘은 대체 어떤 알고리즘일까요?	GPTMAGAZINE	23.12.05	367	2
214	메타, 실시간 음성 번역의 새로운 표준 설정 [2]	GPTMAGAZINE	23.12.05	999	1
213	AI와 챗GPT가 이끄는 세상ㅣ카이스트 김대식 교수ㅣ2024 글로벌 비즈니스 트렌드 [3]	GPTMAGAZINE	23.12.05	1200	2
212	인공지능 모델의 개발 속도와 안전 문제 [11]	GPTMAGAZINE	23.12.04	1091	0
211	OpenAI의 GPT 보이스: 영어 회화를 무료로 제공하는 기능 [7]	GPTMAGAZINE	23.12.04	3197	4
210	샘알트만 해고 후 복귀 인터뷰 [5]	GPTMAGAZINE	23.12.03	2353	2
209	오픈AI 연구원 경고, 샘알트먼 해임 전 AI 폭발적 발전 예고 [1]	GPTMAGAZINE	23.11.27	561	0
208	빌 게이츠 "인간 노동, 주 3일이면 충분" [189]	GPTMAGAZINE	23.11.27	9989	79
207	오픈AI, GPT-4 터보 공개로 AI 업계 혁신	GPTMAGAZINE	23.11.10	414	0
206	마이크로소프트, 윈도우 10에 AI 코파일럿 도입 [6]	GPTMAGAZINE	23.11.09	2436	17
205	구글의 새로운 AI 검색, 한국어 지원 [1]	GPTMAGAZINE	23.11.09	590	1
204	오픈AI, 주간 사용자 1억 명 돌파! [7]	GPTMAGAZINE	23.11.07	614	1
	오픈AI, 핵 위협 등 AI 위험에 대응할 준비 팀 구성 발표 [1]	GPTMAGAZINE	23.10.30	2228	0
202	10년 내 AI, 인간 일자리 80% 대체 가능? [7]	GPTMAGAZINE	23.10.26	1592	2
201	AI 이미지 생성 프로그램 끝판왕 등장 - ChatGPT를 품은.. [5]	GPTMAGAZINE	23.10.18	2908	0
200	오픈AI, GPT-4V 공개 [4]	GPTMAGAZINE	23.10.17	847	0
199	구글, 대화식 검색에 AI 이미지 생성 기능 도입	GPTMAGAZINE	23.10.16	253	0
198	AI 크리에이터 시대, 유튜브가 선도한다. [5]	GPTMAGAZINE	23.10.16	1766	0
197	어도비 포토샵 웹 버전, AI 도구로 강화되어 출시	GPTMAGAZINE	23.10.04	314	0
196	빙챗 AI, '할머니 이야기'에 속아 [35]	GPTMAGAZINE	23.10.04	4816	17
195	美 젊은 남성, 실제 여성 대신 AI 선택 [108]	GPTMAGAZINE	23.10.04	4592	35
194	게티이미지, AI 이미지 생성 도구 출시 [4]	GPTMAGAZINE	23.09.26	2315	2
193	챗GPT가 보고 듣고 대화한다. [7]	GPTMAGAZINE	23.09.26	3891	4
192	구글 AI 코딩 '스튜디오 봇', 전 세계로 확장 [12]	GPTMAGAZINE	23.09.22	2392	4
191	마이크로소프트365, 코파일럿 AI 11월 드디어 출시 [3]	GPTMAGAZINE	23.09.22	502	3
190	깃허브, '코파일럿 챗' 일반 개인 사용자 확장	GPTMAGAZINE	23.09.21	275	0
189	오픈AI, DALL-E 3 버전 발표 [2]	GPTMAGAZINE	23.09.21	590	0
188	구글과 오픈AI 멀티모달 AI 기술로 차세대 경쟁 [1]	GPTMAGAZINE	23.09.20	414	1
187	틱톡 공식 발표, AI 콘텐츠 라벨링 기능 도입 [1]	GPTMAGAZINE	23.09.20	1198	3
186	구글 바드 익스텐션스, 지메일과 드라이브, 문서 등에서도 사용 된다.	GPTMAGAZINE	23.09.20	980	0
185	구글, GPT-4와 경쟁할 '제미니' 언어 모델 출시 임박 [6]	GPTMAGAZINE	23.09.19	1119	3
184	어도비, 크리에이티브 AI '파이어플라이' 상용화 발표 [2]	GPTMAGAZINE	23.09.19	1104	3
183	스테이블 디퓨젼, AI 오디오 플랫폼 '스테이블 오디오' 출시 [9]	GPTMAGAZINE	23.09.15	2929	10
182	메타, GPT-4와 경쟁하기 위한 AI 모델 개발에 전력 투구 [27]	GPTMAGAZINE	23.09.11	2882	3
181	미국 국세청, AI로 연체된 세금 받아낸다.	GPTMAGAZINE	23.09.11	280	0
180	엔씨소프트, AI 기술로 게임 제작 속도 향상 [1]	GPTMAGAZINE	23.09.11	459	1
179	마이크로소프트, 세계 최대 규모의 암 탐지 AI 기술 구축	GPTMAGAZINE	23.09.11	211	1
178	챗GPT, 월평균 접속시간 7분 기록 [44]	GPTMAGAZINE	23.09.08	4009	5
177	텐센트의 '훈위안', GPT-4와의 경쟁 [1]	GPTMAGAZINE	23.09.08	333	0
176	AI가 냄새도 '느낄' 수 있을까?	GPTMAGAZINE	23.09.08	265	1
174	텍스트를 영상으로 만들어주는 AI가 있다?! RUNWAY GEN2 사용법 [4]	GPTMAGAZINE	23.09.07	2542	2