폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 16851 추천 40 댓글 217

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	흡연때문에 이미지 타격 입은 것 같은 스타는?	운영자	24/07/15	-	-
247353	[미갤] 장 안열려서 올리는 아무도 안궁금해할 본인 주식 연대기 [102]	리츠리	07.14	28431	58
247351	[중갤] 유비소프트 근황 (feat. 원피스) [284]	ㅇㅇ(211.201)	07.14	43830	428
247349	[싱갤] 싱글벙글 자기 만화 애니화에 극대노한 원작자가 직접 2기를 만든 결과 [260]	Shangri-La㌠	07.14	41751	286
247347	[대갤] 中 짝퉁 마오타이주 '라방'에 덜미... 식용유 분뇨차 파동까지 [291]	난징대파티	07.14	27012	277
247345	[남갤] 오늘 동물농장에서 암컷앵무새가 단성생식해서 학계에 보고 [521]	ㅇㅇ(106.101)	07.14	39642	1138
247343	[싱갤] 싱글벙글 여고생 히틀러 [213]	아웃백	07.14	50390	408
247339	[카연] 스모커한테 아이스크림 쳐박는 manhwa. [141]	철근아빠	07.14	25122	364
247337	[싱갤] 혼돈혼돈 충격에 빠진 물리학계 [783]	ㅇㅇ	07.14	57885	455
247335	[주갤] 블라 이거 맞노? ㅋㅋ [569]	주갤러(211.44)	07.14	61797	918
247333	[신갤] 대한항공 라운지 뽕뽑고 티켓 상습 취소한 뽐거지 공무원, 결국 검찰 수사 [374]	윰큠윰	07.14	37067	416
247331	[싱갤] 싱글벙글 미국 대통령의 자질.Manhwa [186]	ㅇㅇ	07.14	40952	509
247329	[주갤] ㅋㅋ 이봐라 ㅋㅋ 한국 팽 당했다 ㅋㅋ [995]	컴갤철희	07.14	58445	437
247327	[키갤] 시리즈 수명 연장 ㅅㅅㅅㅅㅅㅅㅅ 오늘의 천재영.gif [62]	큠갤러(121.124)	07.14	31869	213
247325	[싱갤] 싱글벙글 디시 영상 인코딩 컴에서 돌려보기 [101]	rtOS	07.14	24831	139
247323	[부갤] 격노한 서울대교수 부동산가지고 장난치는 정부 부끄러운줄 알아야지. [671]	응우옌	07.14	37749	432
247321	[인갤] 스압주의)출시 준비중인 SERKE가 탄생하기까지 겪었던 다양한 변천사들. [92]	ElectroVignette	07.14	14830	35
247318	[싱갤] 싱글벙글 미국 보수층이 일론 머스크를 환영하는 이유 [403]	rtOS	07.14	44808	580
247316	[스갤] ㅈ성 멸망ㅋㅋㅋㅋ 반도체 라인 줄줄이 터지고있노 [1118]	ㅇ(115.136)	07.14	63393	798
247315	[미갤] 젤렌스키 러시아에 휴전 제안 ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ [952]	ㅇㅇ(211.196)	07.14	55495	474
247313	[싱갤] 싱글벙글 대화거부하는 아들이 힘든 만화 [760]	ㅇㅇ(211.209)	07.14	46076	439
247311	[중갤] 메이플 소송 변호사가 울고있는 이유... jpg [638]	케넨천재	07.14	54223	758
247310	[주갤] 한터커플 만남부터 연인이 되기까지 같이보자.jpg [253]	태아령	07.14	31199	362
247308	[싱갤] 싱글벙글 배리나vs오세라비 댓글촌 [266]	ㅇㅇ	07.14	34043	339
247306	[카연] 떡 다 주면 안 잡아먹지 5 [84]	ㅇㅇ(121.162)	07.14	20262	184
247305	[싱갤] 싱글벙글 구제역...최신근황...jpg [340]	아린퍄퍄	07.14	57929	400
247303	[해갤] FBI "총격범은 펜실베이니아 츨신 이대남" [601]	ㅇㅇ(118.235)	07.14	35886	207
247300	[야갤] 미스터 비스트 곽툭튀..jpg [499]	시립	07.14	65106	525
247298	[싱갤] 싱글벙글 허세만으로 격투가를 이길 수 있을까? [193]	ㅇㅇ	07.14	30780	335
247296	[오갤] 산지직송 어류 3종 후기(씹스압) - 2 [35]	금태충	07.14	15271	46
247295	[걸갤] 버니즈_방탄소년단독도는우리땅_우익제보 글 정리 [516]	걸갤러(211.58)	07.14	23071	595
247293	[싱갤] 서양 그림을 보고 충격 받았던 조선 지식인들...jpg [735]	수류탄이야	07.14	60713	401
247291	[기갤] 변우석 경호인 일반인 향해 플래시.. 과잉경호 논란 [384]	ㅇㅇ(118.235)	07.14	25348	199
247290	[도갤] 올타임 레전드였던 2012 런던올림픽개막식.jpg [346]	러브앤피스	07.14	27941	303
247288	[싱갤] 싱글벙글 할거 다떨어진 뷰티풀너드 근황 [257]	ㅇㅇ	07.14	58468	724
247286	[야갤] 총격 보고받은 바이든 표정 ㅋㅋㅋㅋ.jpg [909]	시립	07.14	112050	1289
247285	[싱갤] 싱글벙글 흰긴수염고래가 암에 걸리지 않는 이유 (스압) [282]	ㅇㅇ	07.14	35986	243
247281	[레갤] 슬기 매니저 갑질 논란 뭔대.. 어이없오 [395]	흥팩디	07.14	41421	143
247280	[싱갤] 싱글벙글 36주차 낙태 고백 영상 조작설에 대한 반박 [382]	ㅇㅇ(175.205)	07.14	40197	183
247278	[이갤] 게임 유튜버...손가락 게이트..이대남에게 일침..jpg [1433]	배그린	07.14	49921	137
247276	[싱갤] 싱글벙글 일본 재무장 찬성논리.jpg [772]	ㅇㅇ(1.232)	07.14	27635	196
247275	[봇갤] 시모키타자와 성지순례 갔다왔어(스압) [71]	도모뮤즈	07.14	11612	76
247273	[해갤] 실시간 머스크 트위터, 트럼프 전폭 지지 선언 .twitter [857]	주리다이노스	07.14	41035	681
247271	[주갤] '낙태 브이로그' 유튜버, 먹방 전향?…숱한 논란 뒤로한 채 [464]	ㅇㅇ(121.173)	07.14	50255	330
247270	[싱갤] 싱글벙글 북한 예술품들 [166]	슬러시	07.14	25395	85
247268	[일갤] 마작갤러리 친구들과 마작쳐본 만화 1.manhwa [103]	홍영	07.14	16808	107
247266	[싱갤] 싱글벙글 동양인이 벌크업하다 ㅈ될수 있은 이유.jpg [1058]	ㅇㅇ(183.90)	07.14	78300	557
247263	[카연] 인외마경 톱머리 결전 (4) [62]	염승렬	07.14	11845	84
247261	[싱갤] 싱글벙글 남자와 술마시고 세상이 ㅈ같아진 판녀 [534]	ㅇㅇ(61.35)	07.14	52698	416
247260	[야갤] 트럼프 유세 중 총격 라이브...JPG [2134]	포흐애액	07.14	71797	1819
247258	[유갤] 손석희 "결론은 본사가 관리를 못한거 아니냐?" [771]	ㅇㅇ(175.119)	07.14	33320	203