인공지능, 전염병·핵 전쟁 수준의 위협 되기 전 관리해야

IT동아

2023.05.31 16:09:30

조회 1370 추천 2 댓글 10

[IT동아 차주경 기자] 미국의 연구기관 ‘인공지능 안전을 위한 센터(Center for AI Safety, 이하 CAIS)’는 5월 30일(이하 현지시각) ‘인공지능이 인류를 멸망으로 몰아넣을 가능성이 있다’며 경고하는 성명을 냈다.

CAIS는 잘못된 정보와 가짜 뉴스의 제작, 개인정보 탈취 등 인공지능의 악용 사례가 세계 곳곳에서 보고됐다며, 이 문제를 미리 대비하고 해결해야 한다고 강조했다. ▲예고 없이 세계를 휩쓸어 큰 피해를 입힌 코로나19 팬데믹 ▲원자폭탄이 세계 핵 전쟁을 일으킬 것을 우려해 국제 협력을 촉구한 과학자들의 예를 들며 '인공지능이 미칠 위협은 전염병, 핵 전쟁처럼 인류를 멸망시킬 수준에까지 다다를 것'이라고도 경고했다.

CAIS는 인공지능 개발자뿐만 아니라 철학자와 윤리학자, 법학자와 경제학자, 물리학자와 정치학자 등 학계 전반의 연구자들이 성명에 동의했다고 밝혔다. 이어 세계 각국 정부와 인공지능 업계 관계자들이 지혜를 모아 인공지능의 위협을 없앨 방안을 마련해야 한다고 촉구했다.

CAIS가 낸 성명문. 출처 = CAIS

챗GPT의 개발사 오픈AI의 샘 알트만 CEO, 구글의 인공지능 개발 기업 딥마인드의 데미스 허사비스 CEO, 마이크로소프트의 케빈 스콧 CTO 등 인공지능 기업의 임직원과 학계 관계자 수백 명도 CAIS의 성명에 실명으로 동참한 것으로 알려졌다.

인공지능의 성능이 꾸준히 좋아지면서 악용 가능성을 경고하는 목소리도 함께 커졌다. 이를 대비할 대책도 속속 나왔다. 앞서 4월, 조 바이든 미국 대통령은 과학기술자문회의에서 '인공지능이 사회와 경제, 국가 안보에 미칠 영향을 조사하고 대비하라'고 지시했다. 데이터 수집과 인공지능 기술 개발, 인공지능 광고의 범위를 규제할 법안이 필요하다고도 말했다.

5월 초에는 오픈AI가 '앞으로 등장할 범용 인공지능과 이를 능가하는 초지능 시스템을 감시·규제할 국제 기구를 세우자'는 의견을 냈다.

업계는 고도화된 초지능 시스템이 사람을 압도하는 능력을 발휘할 것이라며, 세계 규모의 대기업과 대등한 생산 활동을 할 것으로 기대한다. 동시에 지금까지 인공지능이 낳은 폐해도 더욱 심각해질 것을 우려한다. 오픈AI는 초지능 시스템의 위험이 지금까지 등장한 그 어떤 기술보다 크다고 알렸다. 그렇기에 인류가 원자력 기술을 개발하고 이를 감시·규제할 국제 기구를 만든 것처럼, 인공지능의 위험을 충분히 대비하고 관리할 방법을 마련해야 한다고도 밝혔다.

오픈AI는 인공지능의 위험을 관리할 방법으로 ▲인공지능 기업과 업계가 논의해 기술 개발의 기준을 세우고 속도를 조절하는 것 ▲국제원자력기구(IAEA)처럼 인공지능의 안전 표준을 만들고 준수 여부를 감시할 국제 기관을 세우는 것 ▲초지능을 안전하게 만들 기술의 연구 개발에 박차를 가하는 것을 각각 들었다.

이어 인공지능의 성능이 좋아질수록 위험을 관리하기 어려워질 것이며, 심지어 관리가 불가능해질 가능성도 높다며 일찌감치 대응 방안을 논의해야 한다고도 강조했다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 구글의 인공지능 챗봇 ‘바드’, 한국어 실력은 어떨까?▶ 가짜뉴스 잡으려는 AI 업계…. 관건은 ‘정확도’▶ AI에 진심인 MS, 윈도에도 AI 비서 '코파일럿' 탑재

고정닉 1

원본 첨부파일 1

f1383529465e4a88-thumbnail-1920x1080-70.jpg

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	끝까지 다 본 걸 후회하게 만든 용두사미 드라마는?	운영자	25/07/07	-	-
5517	서울경제진흥원 “韓 초격차 스타트업·日 기업 개방형 혁신 교두보 마련”	IT동아	18:57	16	0
5516	“판매 글·가격 자동으로” 당근마켓 AI 어떤 편의 주나	IT동아	17:46	24	0
5515	에이수스 젠북 팝업존 '젠세이션', 4000명 이상 방문하며 성료 [3]	IT동아	16:25	1276	0
5514	SKT, “7월 15일부터 해지 위약금 환급”…예상 위약금 조회하려면?	IT동아	13:08	1348	0
5513	금융기관에 제공한 개인 정보 확인·관리하려면 이렇게 [이럴땐 이렇게!]	IT동아	11:34	2192	0
5512	[생성 AI 길라잡이] 인공지능이 작성한 표절 논문 찾아내는 무하유 카피킬러 ‘GPT 킬러’	IT동아	07.04	235	0
5511	승용차 70배 탄소 배출 ‘대형 트럭’…친환경 전환 대책은 부실	IT동아	07.04	8085	0
5510	[투자를IT다] 2025년 7월 1주차 IT기업 주요 소식과 시장 전망	IT동아	07.04	199	0
5509	[IT’s 가성비] 아직도 살만한 스테디셀러, LG 32UN650K 4K 모니터	IT동아	07.04	205	0
5508	[리뷰] 디지털 시대 눈 건강을 위한 투자, 벤큐 스크린바 헤일로 2	IT동아	07.04	185	0
5507	[IT신상공개] 성능·음질·편의성 개선, 소니 WH-1000XM6	IT동아	07.04	172	0
5506	SaaS 기반 협업 툴 NHN두레이의 첫 인상, ‘두레이온보딩팀’을 만나다 [3]	IT동아	07.04	7541	0
5505	“야근 걱정 끝” 폴라리스 오피스, AI 기반 NOVA로 활용도 높였다 [3]	IT동아	07.04	2327	1
5504	[농업이IT(잇)다] 백로앙금 “당도 낮춘 팥 디저트로 소비자 입맛 사로잡는다”	IT동아	07.04	158	0
5503	지하철역·공원서 책 대출·반납…스마트 도서관, 더 편하고 가까워진다	IT동아	07.03	194	0
5502	[IT애정남] 구형 노트북에 신형 SSD, 달아도 되나요?	IT동아	07.03	181	0
5501	데이터이쿠 “노코드 AI 플랫폼, 누구나 AI 에이전트 개발 지원”	IT동아	07.03	179	0
5500	[시승기] 안정적인 승차감과 넓은 실내, 전비 효율 두루 갖춘 '아이오닉 9'	IT동아	07.03	174	0
5499	[IT애정남] 유튜브에서 ‘구간 반복’하려면?	IT동아	07.03	176	0
5498	[스타트업-ing] 뉴머스 “뇌혈관막 여는 집중초음파로 뇌질환 치료 돕는다”	IT동아	07.03	158	0
5497	‘AI 자율 네트워크’ 강조하는 노키아, 韓 6G 인프라 투자 기회 엿본다	IT동아	07.03	176	0
5496	“식당·영화·신조어 핵심 정보만 요약” 네이버 AI 브리핑, 사용자 편의성 높일까 [1]	IT동아	07.03	2456	0
5495	GM·LG엔솔 “LFP보다 효율 뛰어난 LMR 배터리로 승부수 띄울 것”	IT동아	07.02	201	0
5494	[주간스타트업동향] 펫나우, '경기도 반려견 비문등록 시범사업' 통해 기술 과시 外	IT동아	07.02	188	0
5493	산불·쓰나미·지진 등 재난 인명 피해, 첨단 음향 기술로 줄인다 [3]	IT동아	07.02	5949	0
5492	플리토와 협력 나선 퓨리오사AI, AI 반도체는 왜 언어 데이터가 필요할까?	IT동아	07.02	184	0
5491	인천창조경제혁신센터, 중국 청두 솽촹센터와 국내 스타트업 중국 진출 돕는다	IT동아	07.02	171	0
5490	세컨드팀, "슈퍼코더, AI가 면접관이 되는 시대 연다”	IT동아	07.02	177	0
5489	인천공항 빠르게 출국하려면? 스마트패스, ‘이제 은행 앱에서 등록 가능’	IT동아	07.02	214	0
5488	게임 그래픽 처리 위한 인공지능 기술 진화는 ‘현재진행형’	IT동아	07.01	223	0
5487	[뉴스줌인] LG전자가 집까지 판다? ‘스마트코티지’ 이모저모 [3]	IT동아	07.01	2670	3
5486	KRDS 준수해야 하는 공공 웹, AI 기반 검증 기술에도 ‘주목’	IT동아	07.01	201	0
5485	[자동차와 法] 휴가철 교통사고, 법과 보험으로 미리 대비하기	IT동아	07.01	188	0
5484	반려견·묘 있다면 알아야 할 동물등록 방법…7월부터 집중 단속	IT동아	07.01	193	0
5483	메이커스페이스 야간 교육 가보니··· '참여율 3배, 직장인 예비창업자도 OK'	IT동아	07.01	186	0
5482	[IT하는 법] 지도 서비스에서 실시간 CCTV 보는 법 [1]	IT동아	07.01	6360	0
5481	새 갤럭시 Z 폴드 공개 예정, 폴더블 디스플레이 소재 산업 훈풍 불까?	IT동아	07.01	257	0
5480	LG유플러스 익시오 안티딥보이스, 온디바이스로 얻는 장점은?	IT동아	06.30	297	0
5479	가족권, 재배치 마일리지…따릉이 새 서비스 이용법	IT동아	06.30	2273	0
5478	[신차공개] 볼보 ‘신형 XC90’ 사전계약·BYD ‘아토 3’ 무상 정기점검 실시	IT동아	06.30	5556	0
5477	[스타트업리뷰] AI로 4050세대 맞춤 라이프스타일 제시...'퀸잇'	IT동아	06.30	208	0
5476	[주간투자동향] 원더웍스컴퍼니, 50억 원 규모 시리즈A 투자 유치 外	IT동아	06.30	250	0
5475	전국 박물관·미술관 문화유산정보 궁금할 땐 이렇게! [이럴땐 이렇게!]	IT동아	06.30	201	0
5474	[농업이IT(잇)다] 서울집시 “타협 없는 풍미와 품질로 100년 이상 이어지는 맥주 브랜드 꿈꾼다”	IT동아	06.27	348	1
5473	[투자를IT다] 2025년 6월 4주차 IT기업 주요 소식과 시장 전망	IT동아	06.27	367	0
5472	퓨리오사AI NPU 도입 앞둔 딥노이드, "운영비용 최적화·서비스 응용에 기대"	IT동아	06.27	325	0
5471	산봉우리 이름부터 일출·일몰·행성 정보 한눈에…AR산지도 앱 활용법	IT동아	06.27	313	0
5470	스플렁크, AI 시대 데이터 관리 강조…“데이터 연합 전략이 대안”	IT동아	06.27	294	0
5469	[생성 AI 길라잡이] 구글 제미나이로 '고품질 음식 사진' 생성하기 [3]	IT동아	06.27	14776	2
5468	[크립토퀵서치] ‘가상자산’을 ‘디지털자산’이라고 하는 이유는? [2]	IT동아	06.27	12183	2
뉴스	'굿보이' 김소현, 일과 사랑 앞에 주저함 없는 ‘직진형’ 캐릭터! 극의 활력	디시트렌드	14:00