인기 인공지능 서비스 연이어 중단, 업계 “자정할 것”

IT동아

2023.04.04 10:52:03

조회 2288 추천 3 댓글 15

[IT동아 차주경 기자] 사람과 대등한, 몇몇 부문에서는 사람보다 우수한 창작 능력을 발휘해 주목 받았던 인공지능들이 연이어 서비스를 중단했다. 운영 도중 사람의 개인정보 유출, 허위 정보 제작과 전파 등 부작용을 나타낸 탓이다. 인공지능 기술 업계는 서비스를 임시 중지하고, 재발 방지 대책을 세우고 기능도 개선한다고 약속했다.

인공지능 서비스. 출처 = 엔바토엘리먼츠

지난 3월 20일(이하 현지시각), 오픈AI는 자체 개발한 대화형 인공지능 ‘챗GPT’의 서비스를 일시 중단했다. 챗GPT를 쓰던 사용자 일부에게 다른 사용자의 대화 이력이 노출되는 버그(이상 작동 현상)가 발견된 까닭이다. 3월 24일 오픈AI는 버그 발견 직후 서비스를 일시 중단, 수정 후 서비스를 다시 시작했다고 밝혔다.

하지만, 이후 오픈AI는 이번 버그 때문에 챗GPT 플러스 가입자 일부(약 1.2%로 추정)의 결제 정보가 노출됐을 가능성이 있다고 인정했다. 노출 가능성이 있는 결제 정보는 가입자의 실명과 이메일 주소, 결제상 주소, 신용카드 고유번호 16개 가운데 마지막 4개 등이다. 단, 오픈AI는 신용카드 고유번호가 모두 노출됐을 가능성은 없으며 정보 유출 피해의 사례도 없었다고 덧붙였다.

오픈 AI의 버그 공지와 사과문. 출처 = 오픈AI

사건 이후 챗GPT에게 거센 후폭풍이 불어닥쳤다. 미국 비영리 연구 모임 ‘인공지능·디지털 정책 센터’는 3월 30일, 미국 연방거래위원회(FTC)에 챗GPT 배포를 중단해야 한다는 청원을 제출했다. 챗GPT가 편향된, 기만에 가까운 정보를 주며 사람의 사생활과 공공 안전을 위협한다는 이유에서다. 이어 이탈리아 정부는 4월 3일, 챗GPT가 개인정보를 무단 수집할 우려가 있다면서 자국에서의 사용 금지령을 내렸다.

사진 생성 인공지능 ‘미드저니(Midjourney)’ 역시 3월 28일 무료 서비스를 중단한다고 밝혔다. 사유는 ‘비정상으로 많은 수요 대응’과 ‘남용 문제 개선’이다.

인공지능으로 만든 사진이 실제 사진만큼 정교해지면서 저작권, 윤리 문제가 계속 불거졌다. 이 가운데, 한 미드저니 사용자가 만든 사진이 큰 반향을 일으켰다. 도널드 트럼프 전 미국 대통령이 강제 체포되는 사진, 재판을 받고 교도소에 수감되는 사진이다. 또 다른 사용자는 버락 오바마 전 미국 대통령과 앙겔라 메르켈 전 독일 총리가 해변에서 함께 물장난을 치는 사진을 미드저니로 만들어 공개했다.

인공지능으로 만든 도널드 트럼프 전 미국 대통령의 사진. 모두 가짜 사진이다. 출처 = 페타픽셀

문제는 이들 사진이 아주 정교하게 만들어진 탓에, 실제 사진으로 착각하고 가짜 뉴스와 함께 전파한 사람들이 많았다는 점이다. 인공지능이 치명적인 윤리, 사회 문제를 일으킨 가짜 뉴스의 제작 수단으로 악용된 것이다. 미드저니는 이들 사진의 제작자를 바로 제재(서비스 사용 금지)했다. 단, 이 사건이 무료 서비스 중단의 원인은 아니라고 해명했다.

이전에도 인공지능은 여러 부작용을 나타냈다. 초기 단계의 대화형 인공지능은 총기 구입, 폭탄 제조 등 위험한 정보를 여과하지 않고 그대로 사용자에게 전달했다. 옛날 데이터만 학습한 대화형 인공지능이 사용자의 질문에 엉뚱한 답을 제시하는 일도 잦았다. 학생들이 과제를 할 때 대화형 인공지능을 쓰지 않도록 막아야 한다는 주장도 꾸준하다.

가짜 뉴스나 음란물 제작, 로맨스 스캠(SNS의 사진, 게시물로 이성의 환심을 사고 돈을 요구하는 사기 행위)에 사진 생성 인공지능이 악용됐다. 사진 생성 인공지능이 데이터를 무단 수집했다며, 사진 데이터 기업이 천문학 규모의 소송을 제기한 일도 있었다.

인공지능 기술 업계는 이번 사건을 실수라고 인정하면서, 이를 되풀이하지 않고 오남용을 막을 대책을 세우는 등 자정한다고 밝혔다.

오픈AI는 “사용자 개인 정보를 보호하고 데이터를 유지하려 최선을 다했지만, 사용자의 기대에 미치지 못했다. 사용자와 챗GPT 커뮤니티에 진심으로 사과하며, 신뢰를 회복하도록 노력하겠다.”고 밝혔다. 데이빗 홀츠(David Holz) 미드저니 대표 역시 “오남용을 막을 정밀한 시스템을 곧 출시 예정이다. 전문가와 커뮤니티에서 나온 의견들을 참고해 사려 깊게 노력하겠다.”고 강조했다.

글 / IT동아 차주경(racingcar@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [농업이 IT(잇)다] 팜커넥트 “농업 데이터, 선진 농업 첫걸음”▶ AI 열풍, 산업용·협동 로봇 분야로 이어질까…플라잎, 로봇 AI 솔루션 상용화 [스타트업-ing]▶ 스팍랩 “100년 넘은 간접광고에도 AI 통한 디지털 혁신이 필요합니다” [스타트업-ing]

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	SNS로 싸우면 절대 안 질 것 같은 고집 있는 스타는?	운영자	24/05/06	-	-
2581	외국인용 지마켓, 11번가도 있어? ‘역직구’ 사업 이모저모[K비즈니스 가이드] [1]	IT동아	23.04.20	1052	0
2580	오라클 “의사결정에 어려움 겪는 기업들, ‘데이터 폭격’이 원인” [1]	IT동아	23.04.19	160	0
2579	[WIS 2023] 일상을 바꾸는 최신 ICT 트렌드와 기술, 스타트업까지 모였다 [1]	IT동아	23.04.19	315	0
2578	누누티비 사태, OTT 업계 “범죄 대응체계와 처벌 강화해야” [28]	IT동아	23.04.19	4689	17
2577	[고려대 초창패 2022] 반암주식회사 “박막형 반도체 시장 주도” [1]	IT동아	23.04.19	149	0
2576	[IT신상공개] 디카만큼 화질 좋은 스마트폰, 샤오미 13 울트라 [10]	IT동아	23.04.19	653	2
2575	효율성 겸비 친환경 포장재가 대세, 제17회 대한민국 패키징 대전 [1]	IT동아	23.04.18	139	0
2574	[농업+IT=스마트팜] 5. 환경 데이터 수집용 센서 구축하기 (2) [1]	IT동아	23.04.18	147	0
2573	[디지털 취약 극복] 리보 “세계 시각장애인 위한 스마트폰 도우미”	IT동아	23.04.18	838	1
2572	중앙대학교 인간로봇융합연구센터 김우석 사무국장 “연구센터 운영에도 융합이 중요”	IT동아	23.04.17	89	0
2571	[IT애정남] 재개된 해외여행, 배터리 기내 반입 알려주세요!	IT동아	23.04.17	1030	0
2570	카카오톡 사용으로 저장공간이 부족할 땐 이렇게![이럴땐 이렇게!] [5]	IT동아	23.04.17	2580	7
2569	[주간투자동향] 넛지헬스케어, 300억 원 규모 투자 유치	IT동아	23.04.17	98	0
2568	[IT강의실] 흑백 사진만 찍는 ‘모노크롬’ 카메라, 무엇이 특별한가? [2]	IT동아	23.04.17	1872	6
2567	[농업이 IT(잇)다] 뉴로팩 “업사이클링 친환경·기능성 포장재 세계로”	IT동아	23.04.14	92	0
2566	[IT신상공개] 35mm 8K 영상 담는 드론, DJI 인스파이어 3 [12]	IT동아	23.04.14	1206	2
2565	IT운영전문가가 본 인포플라의 ‘웹장애 모니터링’[스타트업 리뷰]	IT동아	23.04.13	104	0
2564	[앱으리띵] 내 마음대로 고르는 건설 일자리, 웍스메이트 가다 [1]	IT동아	23.04.13	215	1
2563	엔비디아, 지포스 RTX 4070 출시… '10GB 아닌 12GB 메모리 탑재' [16]	IT동아	23.04.13	2102	2
2562	상상력을 현실로 바꾸는 ‘딥테크’, 정부도 인재 양성에 팔 걷어	IT동아	23.04.12	150	0
2561	직접 체험할 수 있는 프로 오디오 장비, 기어라운지 쇼룸 [1]	IT동아	23.04.12	1138	0
2560	유튜브 프리미엄 구독자, 다섯 가지 혜택 받는다 [8]	IT동아	23.04.12	1568	3
2559	[리뷰] USB에 꽂아 쓰는 와이파이6E 어댑터, 넷기어 나이트호크 A8000	IT동아	23.04.11	150	0
2558	마드라스체크, SaaS 페스타 'Flower 2023' 개최… '디지털 전환의 현주소 만난다'	IT동아	23.04.11	158	0
2557	이통 3사, 새로운 중간요금제 나온다 … 걸림돌은 가격 [6]	IT동아	23.04.11	1447	0
2556	[IT신상공개] ‘미키 마우스’ 옷 입은 955만원짜리 라이카 Q2 한정판, 발표하자마자 매진? [3]	IT동아	23.04.10	1475	0
2555	[IT애정남] 내비게이션의 스쿨존 우회 기능에 대해 알려주세요	IT동아	23.04.10	202	0
2554	[마인드테크 시대가 온다] 4. 상담테크, 치유의 동반자	IT동아	23.04.10	128	0
2553	스마트폰 저장공간이 부족할 땐 이렇게![이럴땐 이렇게!] [4]	IT동아	23.04.10	2051	3
2552	물류의 변화, 도심 속으로 들어 온 물류거점	IT동아	23.04.10	1563	1
2551	[뉴스줌인] DDR5 지원하는 기가바이트의 H610 메인보드 출시, 쓸 만할까?	IT동아	23.04.08	123	0
2550	AI로 악플잡는 네이버·카카오, 남은 과제는? [55]	IT동아	23.04.07	4322	5
2549	KISA, 실생활 서비스로 블록체인 대중화 노린다	IT동아	23.04.07	97	0
2548	[농업이 IT(잇)다] 신성랩메디컬 “소재가 힘, 나노콜라겐을 세계로”	IT동아	23.04.07	84	0
2547	강화하는 스마트폰-PC 연결성, 왜 기업들은 지금 '연결성' 기능을 내는가? [5]	IT동아	23.04.07	1707	2
2546	AMD 자일링스, ASIC 기반 알베오 미디어 가속기 'MA35D' 공개	IT동아	23.04.06	85	0
2545	[리뷰] ‘진짜’ 미국 선생님들 수업이 한가득, ‘아웃스쿨’	IT동아	23.04.06	125	0
2544	지금 지원할 수 있는 예비 창업자 프로그램	IT동아	23.04.06	337	0
2543	공공배달앱 대부분이 외면받아… 업계 “홍보·수익방안 마련해야” [24]	IT동아	23.04.06	1774	5
2542	[리뷰] AMD 라이젠 7 7800X3D 써보니··· '게이밍에선 16코어 CPU도 넘어서' [6]	IT동아	23.04.05	1195	0
2541	델 테크놀로지스, 2023 기업용 신제품 공개... "국내 PC 시장 3위 목표"	IT동아	23.04.05	208	0
2540	[스타트업-ing] 엑스온 장원익 대표, “버추얼 스튜디오가 가져 온 변화” [2]	IT동아	23.04.05	813	0
2539	카산도 “인공지능·스마트 프랜차이즈 될 것”	IT동아	23.04.05	103	0
2538	[IT신상공개] S10급 성능의 보급형 스마트폰? 갤럭시 A34, 살 만할까? [27]	IT동아	23.04.04	2459	4
2537	스타트업 창업 전 알아야 할 투자 라운드 특징	IT동아	23.04.04	166	0
	인기 인공지능 서비스 연이어 중단, 업계 “자정할 것” [15]	IT동아	23.04.04	2288	3
2535	[뉴스줌인] 실속형 PC용 보급형 메인보드 칩셋, 'AMD A620' 이모저모 [7]	IT동아	23.04.03	1762	1
2534	[뉴스줌인] 두나무, ‘크립토 겨울’ 실적 급감에 수익 다각화 모색	IT동아	23.04.03	123	0
2533	“비싼 배달비·수수료, 배달앱 못 쓰겠다” 불만 터진 이용자들 [35]	IT동아	23.04.03	2883	7
2532	매년 갱신하는 자동차 보험, 한 눈에 비교하려면 이렇게![이럴땐 이렇게!]	IT동아	23.04.03	904	1