디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

‘GPT 정보 유출’ 경고… 안전한 보안환경 필요해

IT동아갤로그로 이동합니다. 2023.05.09 17:33:39
조회 182 추천 0 댓글 0
[IT동아 정연호 기자] 오픈AI의 챗GPT(Generative Pre-trained Transfomer)를 쓸 때 프롬프트(명령어)에 중요한 정보를 입력하지 말라는 경고가 나온다. 오픈AI가 이용자 프롬프트를 저장하고, 이 데이터를 GPT 학습에 활용하고 있어서다. 정보 유출을 우려한 기업들은 직원들이 업무 중 챗GPT를 쓰지 못하도록 막고 있다. 이에 보안 업계는 “업무 생산성을 높이기 위해서, 기업들은 챗GPT 사용을 완전히 금지하는 대신 정보 유출을 막는 환경을 만드는 것에 집중해야 한다.”라고 말한다.


출처=오픈AI



GPT는 이용자의 프롬프트에 따라 문장을 작성하는 오픈AI의 인공지능(이하 AI) 대형언어모델이다. 인터넷에 공개된 언론사 기사, 블로그 포스트, 위키피디아 자료 등을 학습하고 그 결과로 문장을 작성한다. 이 과정에서 이용자의 프롬프트를 다시 활용하기도 한다. 오픈AI는 개인정보 보호정책에서 “우리는 필요에 따라 이용자 정보(프롬프트, 업로드 파일, 피드백)를 수집하며, GPT가 이를 학습하게 한다.”라고 안내한다.

이러한 오픈AI의 개인정보 보호정책에 대해 여러 비판이 나온다. 가장 큰 문제는 오픈AI가 이용자의 동의를 받지 않은 채 정보를 수집하고, 다른 기업에게 이러한 정보를 제공한다는 것이다. 게다가 이용자는 어떤 정보가 수집되고, 어떤 기업이 이 정보에 접근하는지도 알 수 없다.


GPT에게 개인정보를 어떻게 보관, 활용하는지 물어본 내용, 출처=IT동아



오픈AI는 이러한 지적에 대해 “우리는 유럽연합(EU)의 일반개인정보보호법(General Data Protection Regulation)이 적법하다고 규정한 방식으로만 이용자 정보를 수집, 사용한다.”라고 주장하고 있다.

오픈AI의 해명에도 불구하고 챗GPT를 통한 정보 유출에 대한 우려는 그대로다. 실제로 기밀 정보가 챗GPT를 통해 회사 밖으로 흘러 나간 사례가 있어서다.

지난 3월, 삼성전자 반도체 사업을 담당하는 디바이스 솔루션(DS)부문의 엔지니어가 챗GPT 프롬프트에 중요한 소스코드를 입력했는데, 이 소스코드는 외부에 유출된 것으로 알려졌다.

결국, 정보 유출 우려는 GPT에 대한 불신으로 이어졌다. 이에 정보 보안에 민감한 기업들은 직원들의 GPT 사용을 제한하기 시작했다. 아마존, JP모건 체이스, 뱅크오브아메리카 등의 미국 기업은 직원들이 업무 중 챗GPT를 사용하지 못하도록 막았다.

국내에서도 삼성전자와 SK하이닉스가 직원들의 챗GPT 사용을 제한한다. 삼성전자는 디바이스경험(DX) 부문의 직원들이 챗GPT를 사용하지 못하도록 했다. SK하이닉스도 챗GPT 사용을 금지했으나, 필요한 경우 내부 검토를 통해 허용한다.

그리고, 지난 3일에는 국가정보원이 각 정부 부처에 ‘챗GPT 등 언어모델 활용 시 보안 유의사항 안내’ 공문을 보내기도 했다. 민감 정보가 아닌 공개된 정보만을 GPT에 활용하라고 당부하기 위해서였다. 또한, 국가정보원은 “챗GPT나 GPT-4 응용프로그램 인터페이스(API)를 활용하려면 국정원의 사전 보안성 검토를 받아야 한다”고 했다.

정보 유출 우려를 해소하기 위해서 기업들은 다양한 대책을 내놓고 있다. 먼저, 오픈AI는 ‘챗GPT 비즈니스’ 구독 모델을 준비 중이다. 이 서비스에 가입한 기업의 데이터는 GPT가 학습하지 않는다.

주요 서비스에 GPT를 접목하고 있는 마이크로소프트(MS)도 곧 ‘프라이빗 챗 GPT’를 출시할 계획이다. GPT를 사용하는 기업들의 데이터를 분리해 따로 저장하는 방식이다. 이를 통해 정보 유출을 막을 수 있다는 것이다.

국내 보안 기업들도 GPT를 안전하게 쓸 환경을 구축하는 걸 돕는다. LG CNS는 MS와 협력해 고객들이 애저 오픈AI(오픈AI의 최신 AI 시스템을 제공하는 클라우드 서비스)를 쓸 수 있도록 맞춤형 보안 환경을 설계, 구축한다.

데이터보호 전문기업 지란지교 데이터는 챗GPT 프롬프트를 모니터링하는 보안 솔루션 ‘AI필터’를 공개했다. 이를 활용하면, 직원들이 입력하는 챗GPT 프롬프트를 모니터링해서, 사내 주요 정보가 유출되는 것을 차단할 수 있다.

지란지교 데이터 관계자는 “최근엔 기업들이 챗GPT 사용 가이드라인을 제작해 직원들에게 배포하기도 하지만, 이러한 가이드라인이 정보 유출을 완전히 막지는 못한다. 직원들이 실수로 기밀 정보를 챗GPT 프롬프트에 입력하는 경우도 있기 때문이다. 실수로 인한 정보 유출도 막으려면, AI 필터처럼 적절한 보안 환경을 구축해야 한다.”라고 전했다.

글 / IT동아 정연호 (hoho@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ '일을 위한 일'에 발목 잡힌 직장인들…"AI 우려보다 기대가 커"▶ 놀이에서 첨단기술 요람으로…게임 뒤에 숨은 ‘기술력’이 혁신 이끈다▶ '챗GPT 써볼까?'…무심코 검색했다 먹잇감 된다



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 힘들게 성공한 만큼 절대 논란 안 만들 것 같은 스타는? 운영자 24/06/10 - -
2752 산업용 시장에서 이미 활용되고 있는 메타버스 IT동아갤로그로 이동합니다. 23.06.30 117 0
2751 넷플릭스와 SK브로드밴드의 분쟁, 중요한 것은 소비자 IT동아갤로그로 이동합니다. 23.06.30 93 0
2750 애플페이가 불러 온 나비효과, 간편결제 시장의 변화 IT동아갤로그로 이동합니다. 23.06.29 160 0
2749 다른 투자자 거래 동향 한눈에, 소셜 트레이딩 서비스 ‘빗썸 인사이트’ IT동아갤로그로 이동합니다. 23.06.29 80 0
2748 [스타트업-ing] 쉐어박스, “실감미디어는 현실 속에 상상을 더합니다” IT동아갤로그로 이동합니다. 23.06.29 85 0
2747 농업 현장 속으로 들어 간 다목적 전기차 [2] IT동아갤로그로 이동합니다. 23.06.29 1354 0
2746 [스케일업] 옐토 [1] 장애인식개선 소셜 벤처의 수익·지속성 확보 방안 IT동아갤로그로 이동합니다. 23.06.29 76 0
2745 가민, 골프 특화 스마트워치 ‘어프로치 S70’ 국내 출시 [2] IT동아갤로그로 이동합니다. 23.06.29 1189 0
2744 과기정통부, 자격증‧투표 등 12개 분야 블록체인 서비스 개발 착수 IT동아갤로그로 이동합니다. 23.06.28 77 0
2743 ‘탄소발자국’을 아시나요? [1] IT동아갤로그로 이동합니다. 23.06.28 129 0
2742 [IT강의실] 1억 5,000만 화소 디카 vs 2억 화소 스마트폰 [2] IT동아갤로그로 이동합니다. 23.06.28 1240 3
2741 5G 28GHz 주파수 할당 취소, 문제는 ‘차세대 소재 기술’ IT동아갤로그로 이동합니다. 23.06.28 152 0
2740 레노버, 120 코어 품은 최고 사양 워크스테이션 출시 IT동아갤로그로 이동합니다. 23.06.27 98 0
2739 IBM, 인텔, MS도 뛰어드는 '양자 컴퓨터', 왜 지금 주목받는가? [8] IT동아갤로그로 이동합니다. 23.06.27 1493 7
2738 [IT강의실] 채굴 보상은 줄고 시세는 오르고···‘비트코인 반감기’ [2] IT동아갤로그로 이동합니다. 23.06.27 1251 2
2737 7월 폴더블 스마트폰 경쟁, 성패 가를 3가지는? [8] IT동아갤로그로 이동합니다. 23.06.27 1154 0
2736 [혁신스타트업 in 홍릉] 엘포박스, “우리 아이에게 큰 화면이 필요한 이유” [1] IT동아갤로그로 이동합니다. 23.06.27 131 0
2735 [스케일업] 케어포유 [1] BM 분석 - 강아지의 행복이 반려인의 행복 IT동아갤로그로 이동합니다. 23.06.27 82 0
2734 [주간투자동향] 레브잇, 600억 원 규모의 시리즈B 투자 유치 IT동아갤로그로 이동합니다. 23.06.26 155 0
2733 [IT애정남] SSD·HDD 해외구매, 가격만 보고 사도 될까요? [10] IT동아갤로그로 이동합니다. 23.06.26 1585 0
2732 스마트폰이 갑자기 인터넷, 카톡, 유튜브가 안된다면 이렇게![이럴땐 이렇게!] [5] IT동아갤로그로 이동합니다. 23.06.26 1457 3
2731 해외여행 시 지도 앱 활용은 이렇게[이럴땐 이렇게!] [1] IT동아갤로그로 이동합니다. 23.06.26 489 0
2730 [IT신상공개] 물류창고 화재안전 관리를 쉽게, 킨스미디어 메타 세이프티 구독 서비스 [1] IT동아갤로그로 이동합니다. 23.06.23 841 0
2729 NFT 도입한 영화 커뮤니티 ‘MMZ’ IT동아갤로그로 이동합니다. 23.06.23 89 0
2728 브렉시트 이후 영국, '굿바이 유럽, 웰컴 글로벌'[K비즈니스 가이드] [1] IT동아갤로그로 이동합니다. 23.06.22 122 0
2727 [스타트업 ing] 日에서 울린 韓 입체 음향 기술의 정체는 [2] IT동아갤로그로 이동합니다. 23.06.22 632 2
2726 다이슨도 이젠 물청소 가능, ‘V12s 디텍트 슬림 서브마린’ 출시 [4] IT동아갤로그로 이동합니다. 23.06.21 617 0
2725 [동국대학교 캠퍼스타운] 투포투 “디자인·품질로 승부하는 친환경 패션 잡화 브랜드” IT동아갤로그로 이동합니다. 23.06.21 145 0
2724 [IT 강의실] 고속·대용량 디카 메모리를 저장 장치로? [1] IT동아갤로그로 이동합니다. 23.06.21 1587 5
2723 [혁신스타트업 in홍릉] 투비디티엑스 “기립성저혈압 진단 플랫폼, 본격 디지털치료제로 진화할 것” [1] IT동아갤로그로 이동합니다. 23.06.20 793 0
2722 [스케일업] 챕터서울 [1] 한국어 교육에서 인력 육성·매칭 플랫폼으로 IT동아갤로그로 이동합니다. 23.06.20 70 0
2721 [주간투자동향] 핏펫, 280억 원 규모의 브릿지 라운드 투자 유치 IT동아갤로그로 이동합니다. 23.06.19 78 0
2720 장애인 친화 키오스크, 온라인 쇼핑몰? ‘착한’ 기술이 대세 [2] IT동아갤로그로 이동합니다. 23.06.19 838 1
2719 [IT신상공개] 콘텐츠 전문가용 노트북, ‘MSI 크리에이터 M16’ [7] IT동아갤로그로 이동합니다. 23.06.16 3262 0
2718 [농업이 IT(잇)다] 보경팜테크 “땅속작물 수확기, 농민 고민 다캔다” IT동아갤로그로 이동합니다. 23.06.16 109 0
2717 [리뷰] 개인 취향 존중하는 무선 이어폰, 오디오테크니카 ATH-TWX9 IT동아갤로그로 이동합니다. 23.06.16 2132 7
2716 [뉴스줌인] 구글 TV 지향하는 더함 NA321QLED, 안드로이드 TV와의 차이점은? IT동아갤로그로 이동합니다. 23.06.15 1225 0
2715 AMD도 뛰어든 생성형 AI 반도체··· '반도체 슈퍼사이클' 다시 올까? IT동아갤로그로 이동합니다. 23.06.15 156 0
2714 국산 AI 반도체 사업에서 과반이 '퓨리오사AI' 선택··· 직접 이유 들어보니 [17] IT동아갤로그로 이동합니다. 23.06.15 4832 4
2713 청력 보호하는 이어플러그, 착용감·소재·용도 고려해야 IT동아갤로그로 이동합니다. 23.06.15 117 0
2712 [동국대학교 캠퍼스타운] 브리피 "사진·영상 촬영 의뢰, 쉬워지고 믿을 수 있어야 한다” IT동아갤로그로 이동합니다. 23.06.14 106 0
2711 인공지능 모델·상품 사진 갑론을박…혁신 vs 위해 [13] IT동아갤로그로 이동합니다. 23.06.14 1498 7
2710 일반 컴퓨터에는 없는 초고성능 메모리, ‘HBM’ 이모저모 [2] IT동아갤로그로 이동합니다. 23.06.13 2284 5
2709 IBM, “왓슨x.데이터는 AI 비즈니스를 위한 맞춤형 저장소” IT동아갤로그로 이동합니다. 23.06.13 91 0
2708 [혁신스타트업 in 홍릉] 덴티로드 “구강 케어, 스마트 틀니 세척기 세계로” IT동아갤로그로 이동합니다. 23.06.13 97 0
2707 한 여름철 냉방기기 전기 화재를 예방하려면 이렇게![이럴땐 이렇게!] [10] IT동아갤로그로 이동합니다. 23.06.12 2085 1
2706 [IT신상공개] 에어컨, 제습기 자동 ON/OFF, 텐플 스마트 온습도 만능리모컨 [2] IT동아갤로그로 이동합니다. 23.06.12 2530 0
2705 애플 비전 프로, ‘AR 플랫폼’으로 공간을 말한다 IT동아갤로그로 이동합니다. 23.06.09 168 0
2704 [리뷰] 리넨으로 꾸몄다, 카멜마운트 CA3·CA3D 패브릭 디자인 모니터암 [1] IT동아갤로그로 이동합니다. 23.06.09 1221 0
2703 [농업이 IT(잇)다] 날아오름 “우리 농산물·꽃의 향과 맛 전파" IT동아갤로그로 이동합니다. 23.06.09 106 0
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2