폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 16594 추천 40 댓글 216

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
공지	실시간베스트 갤러리 이용 안내 [1843/2]	운영자	21.11.18	6073539	443
245536	[야갤] 유가 2000원? 흔들리는 중동 헤즈볼라 vs 이스라엘 위기 고조 [4]	응우옌	08:30	204	3
245535	[쿠갤] [요리대회] 솔의물망초 아이스크림을 만들어 보자 [22]	최낙현	08:20	1107	27
245533	[싱갤] 싱글벙글 사이버펑크 2077 그래픽 모드 [72]	ㅇㅇ	08:10	11153	32
245531	[필갤] 흑백 일상 [8]	김둘기	08:00	674	6
245530	[싱갤] 싱글벙글 미국의 동양인 인종차별 현실 [181]	에지오아디토레	07:50	7171	88
245528	[새갤] 남북한 아프리카 외교전, 그리고 그 후. [40]	라파헤	07:41	3907	26
245526	[야갤] [감동주의] 박정희 대통령 명언 모음집.zip [123]	연근볶는사람	07:30	3366	243
245525	[싱갤] 싱글벙글 콜롬버스 이전 신대륙에 도달했던 민족들 [40]	설국	07:20	4656	40
245521	[싱갤] 싱글벙글 할리우드 영화에 가장 많이 등장하는 동네 TOP20 [20]	도시타임	07:00	5521	15
245520	[부갤] 한국시장 vs 태국시장 미관 [520]	ㅇㅇ(211.105)	01:55	23555	348
245518	[주갤] 필리핀 페미 vs 한국 페미 [387]	ㅇㅇ(211.228)	01:45	31708	725
245516	[역갤] 눈물나는 청년 취업난 현황 [828]	ㅇㅇ(220.88)	01:35	39855	459
245514	[카연] (ㅇㅎ) 2024년 카붕이 주식투자 상반기 마감하는. manhwa [31]	새만화금고	01:25	17673	33
245512	[싱갤] 싱글벙글 조선 예능 르네상스 [218]	ㅇㅇ	01:15	27179	263
245510	[헤갤] 조루가 된 무선이어폰 수술과정.jpg [148]	뚠뚠.	01:05	23328	87
245508	[야갤] 한국 워홀살이 힘들어서 화장실로 뛰어가버린 일본여자. [482]	응우옌	00:55	33252	211
245506	[맨갤] 맨시티 유니폼 모음 입니다 [40]	장원영이글스	00:45	10500	29
245504	[싱갤] 싱글벙글 와이프 국적별 출연하는 방송 프로그램 [309]	ㅇㅇ	00:35	26525	340
245500	[싱갤] 싱글벙글.. 상남자 시절 대한민국 기사제목 [281]	아린퍄퍄	00:15	45756	434
245498	[디갤] 새를 보면 찍는데 망원은 없는(23장) [23]	carbon	00:05	6198	15
245496	[보갤] 타커뮤 글 보는데 이거 진짜임? 걷기는 운동 안됨?.jpg [559]	ㅇㅇ	07.07	27260	90
245494	[싱갤] 싱글벙글 미국판 햇볕정책.jpg [368]	ㅇㅇ(1.232)	07.07	36694	249
245492	[미갤] 침착맨이 생각하는 롯데리아.jpg [335]	ㅇㅇ	07.07	25783	201
245490	[코갤] 경제운영 미숙한 대통령 2위 이명박 (경제전문가 설문조사) [990]	ㅇㅇ(61.83)	07.07	22836	162
245484	[바갤] 중국 바이크 퀄리티 근황 [288]	ㅇㅇ(211.235)	07.07	20549	41
245482	[일갤] 칸몬해협, 미모스소가와 공원, 칸몬터널 [22]	김파토	07.07	7084	12
245478	[박갤] 일본 신권 유통후 일본여행시 주의해야 할 것 [130]	ㅇㅇ	07.07	23043	84
245476	[코갤] 재밌게 봤던 지방 살리는 방법 [452]	ㅇㅇ(121.181)	07.07	31363	270
245474	[야갤] 2023년 코미디 야생동물 사진대회 수상작...JPG [94]	포흐애액	07.07	23592	287
245472	[싱갤] 싱글벙글 틀딱 일본애니계 숨겨진 대꼴캐들 [494]	ㅇㅇ(61.254)	07.07	36345	129
245469	[미갤] 20대 여대생이 자취하면서 처음 써봤다는 물건.jpg [276]	감돌	07.07	49536	94
245466	[싱갤] 훌쩍훌쩍.. 죽음을 받아들이는 과정..jpg [458]	아린퍄퍄	07.07	56571	636
245463	[알갤] 씹덕주의) 알리산 물건들로 장식장에 led를 달아보자 [120]	121.124	07.07	17602	41
245460	[디갤] 건물+빛 (12pics) [33]	후지조아	07.07	9492	30
245457	[원갤] 연도별 원피스 작화 gif [265]	ㅇㅇ	07.07	39177	131
245454	[싱갤] 싱글벙글 일본 경제에 대한 현지 반응...jpg [474]	ㅇㅇ	07.07	30810	136
245448	[건갤] 라리덤 명암도색 + LED 개조 보고가! [81]	Zk	07.07	10239	77
245445	[싱갤] 싱글벙글 의외로 할머니들이 좋아하는것 [265]	설국	07.07	32065	331
245442	[미갤] 침착맨의 군대 입대 과정.jpg [337]	ㅇㅇ	07.07	29760	189
245439	[싱갤] 싱글벙글 한반도에 최초로 백신 도입한 지석영 [178]	ㅇㅇ(125.139)	07.07	30877	133
245436	[주갤] [국제결혼 인증] 혼인신고+결혼식 후기 [829]	벨라루스(178.127)	07.07	29142	596
245433	[필갤] NF-1, 이터나 비비드 250D, ECN2 [15]	ND4	07.07	7347	16
245427	[야갤] 멕시코의 특이한 결혼 문화..jpg [266]	감돌	07.07	50871	411
245424	[싱갤] 싱글벙글 녹화중에 지호 담임을본 윾갈비...jpg [202]	아린퍄퍄	07.07	27048	89
245418	[대갤] 딸 목이 창문에 끼인 채 20분간 운전한 스시녀... 딸은 결국 사망 [370]	난징대파티	07.07	33522	203
245415	[싱갤] 싱글벙글 크게 재편되고있는 세계 국방비 순위 [354]	도시타임	07.07	24323	123
245409	[싱갤] 싱글벙글 알바할때 종종 보이는 유형 [916]	ㅇㅇ(221.143)	07.07	58663	586
245406	[이갤] 한국 오마카세 보고 전현직 일본인들이 기겁한 이유.jpg [471]	감돌	07.07	37275	478
245403	[기갤] 핑계고) 금주•금연한다는 황정민.jpg [143]	ㅇㅇ	07.07	20716	64