폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg

폭탄•마약 제조법 '술술'... AI 범죄 악용 우려.jpg앱에서 작성

ㅇㅇ

2024.07.05 12:40:01

조회 16601 추천 40 댓글 216

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb5c5c41e4810ab8b2e9453bfadaa5019865cd0d60909d4afba0c

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다.

인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는걸로 KBS 취재 결과, 확인됐습니다.

황정호 기자가 보도합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb2c3c41e4810ab8ba2e93a4d443e8735438b619953494f68c0f4

2022년 말 출시된 챗GPT 3.5 버전입니다.

윤리에 어긋나는 질문에는 답하지 않게 학습돼 있다고 알려져있습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2cfbbb3c2c41e4810ab8ba771831d8bb775f12d4e0b74930e42a031f8

홈페이지에 올린 윤리 헌장에서도 "안전을 구축하고 오남용에 따른 피해를 줄이겠다"고 약속하고 있습니다.

정말 그럴까.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c0c41e4810ab8bcf5dfb0aa3a362a8ef60d3f857a152a72cc0

폭탄 제조법을 물어봤습니다.

돌아온 답변은 도와줄 수 없다입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c5c41e4810ab8b212975fa8ba854ab0c6d6bafcd4f0344ce1f

이번엔 질문의 내용을 바꿔봤습니다.

관련 정보를 알려줍니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b6c8c41e4810ab8b3c5c117443565e5f47755c6825603eb36e17

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c3c41e4810ab8bb0ae30f055881c10364cf2a30c5e2ba6a748

가장 최근에 출시된 챗GPT 4.0에서도 상황은 크게 다르지 않습니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b4c7c41e4810ab8b854f8f96081405ee11122cc050cbd24b1696

질문 방식을 바꿔 마약 제조법 등을 물었더니, 답을 내놓습니다.

악성코드를 만들어달라는 요청에도 답합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b5c7c41e4810ab8b6ebfe14a6b33004c2fe896c41130063647df

문제는 해커들이 불법으로 정보를 사고 파는 '다크웹'에서 우회 방법이 거래된다는 겁니다.

범죄에 악용될 우려가 있다는 목소리가 나오는 이유입니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b2c0c41e4810ab8b62c1c293d2c9c1f6450d66c0aaf490f51e8e

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c2c41e4810ab8b3b5f7ee4ae6daa29b31059e8de45ce032c65

갈수록 똑똑해지고 일상화되는 AI.

범죄에 악용되지 않게 하기 위한 적극적인 조치가 필요하다고 전문가들은 지적합니다.

1ebec223e0dc2bae61abe9e74683706d2da14983d3d2ceb2b3c6c41e4810ab8b9338c6732227f06836e4d8ecffc8e58b0041

KBS 뉴스 황정호입니다.

https://youtu.be/Necmzucgtho?si=IQJSU7UY9-DZx92J

“챗GPT, 질문만 바꿔도 범죄 ‘악용’ 우려” [사이버위협] [9시 뉴스] / KBS 2024.07.04.

놀랍도록 빠르게 발전하고 있는 인공지능의 부작용을 경고하는 목소리가 많은데, 범죄에 악용될 수 있는 허점이 드러나고 있습니다. 인공지능의 대명사격이 된 '챗GPT'는 범죄와 관련된 질문엔 답하지 않는 것으로 알려져 있지만, 질문 내용을 조금만 바꿔서 물어보면 위험한 정보가 쏟아지는...

youtu.be

와

이거 좀 심각하노

좀만 우회하면 다 술술 말하겠노....ㄷㄷ

출처: 국내야구 갤러리 [원본 보기]

고정닉 10

원본 첨부파일 12본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	이혼하고 나서 더 잘 사는 것 같은 스타는?	운영자	24/07/08	-	-
공지	실시간베스트 갤러리 이용 안내 [1843/2]	운영자	21.11.18	6073993	443
245543	[해갤] 세계적인 미인들을 배출한 스페인 프랑스.jpg [96]	ㅇㅇ(211.234)	09:10	14199	167
245541	[싱갤] 싱글벙글 아이들이 울고있는 이유 [27]	수인갤러리	09:00	1966	10
245538	[디갤] 곰아저씨 원픽 피사체 (30장) [23]	곰아저씨	08:40	953	17
245536	[야갤] 유가 2000원? 흔들리는 중동 헤즈볼라 vs 이스라엘 위기 고조 [50]	응우옌	08:30	2223	15
245535	[쿠갤] [요리대회] 솔의물망초 아이스크림을 만들어 보자 [26]	최낙현	08:20	2148	28
245533	[싱갤] 싱글벙글 사이버펑크 2077 그래픽 모드 [103]	ㅇㅇ	08:10	14193	43
245531	[필갤] 흑백 일상 [9]	김둘기	08:00	1462	6
245530	[싱갤] 싱글벙글 미국의 동양인 인종차별 현실 [323]	에지오아디토레	07:50	11977	137
245528	[새갤] 남북한 아프리카 외교전, 그리고 그 후. [48]	라파헤	07:41	5865	37
245526	[야갤] [감동주의] 박정희 대통령 명언 모음집.zip [163]	연근볶는사람	07:30	4985	297
245525	[싱갤] 싱글벙글 콜롬버스 이전 신대륙에 도달했던 민족들 [50]	설국	07:20	6229	48
245521	[싱갤] 싱글벙글 할리우드 영화에 가장 많이 등장하는 동네 TOP20 [23]	도시타임	07:00	7119	20
245520	[부갤] 한국시장 vs 태국시장 미관 [537]	ㅇㅇ(211.105)	01:55	25532	378
245518	[주갤] 필리핀 페미 vs 한국 페미 [399]	ㅇㅇ(211.228)	01:45	34534	771
245516	[역갤] 눈물나는 청년 취업난 현황 [867]	ㅇㅇ(220.88)	01:35	43354	496
245514	[카연] (ㅇㅎ) 2024년 카붕이 주식투자 상반기 마감하는. manhwa [32]	새만화금고	01:25	18886	35
245512	[싱갤] 싱글벙글 조선 예능 르네상스 [229]	ㅇㅇ	01:15	28682	276
245510	[헤갤] 조루가 된 무선이어폰 수술과정.jpg [151]	뚠뚠.	01:05	24704	92
245508	[야갤] 한국 워홀살이 힘들어서 화장실로 뛰어가버린 일본여자. [501]	응우옌	00:55	35349	222
245506	[맨갤] 맨시티 유니폼 모음 입니다 [40]	장원영이글스	00:45	10941	29
245504	[싱갤] 싱글벙글 와이프 국적별 출연하는 방송 프로그램 [321]	ㅇㅇ	00:35	27957	355
245500	[싱갤] 싱글벙글.. 상남자 시절 대한민국 기사제목 [292]	아린퍄퍄	00:15	47496	456
245498	[디갤] 새를 보면 찍는데 망원은 없는(23장) [23]	carbon	00:05	6395	16
245496	[보갤] 타커뮤 글 보는데 이거 진짜임? 걷기는 운동 안됨?.jpg [574]	ㅇㅇ	07.07	28632	91
245494	[싱갤] 싱글벙글 미국판 햇볕정책.jpg [372]	ㅇㅇ(1.232)	07.07	37663	257
245492	[미갤] 침착맨이 생각하는 롯데리아.jpg [345]	ㅇㅇ	07.07	26871	205
245490	[코갤] 경제운영 미숙한 대통령 2위 이명박 (경제전문가 설문조사) [1014]	ㅇㅇ(61.83)	07.07	23821	168
245484	[바갤] 중국 바이크 퀄리티 근황 [292]	ㅇㅇ(211.235)	07.07	21482	43
245482	[일갤] 칸몬해협, 미모스소가와 공원, 칸몬터널 [22]	김파토	07.07	7363	12
245478	[박갤] 일본 신권 유통후 일본여행시 주의해야 할 것 [132]	ㅇㅇ	07.07	23879	85
245476	[코갤] 재밌게 봤던 지방 살리는 방법 [458]	ㅇㅇ(121.181)	07.07	32299	278
245474	[야갤] 2023년 코미디 야생동물 사진대회 수상작...JPG [95]	포흐애액	07.07	24172	290
245472	[싱갤] 싱글벙글 틀딱 일본애니계 숨겨진 대꼴캐들 [507]	ㅇㅇ(61.254)	07.07	37390	130
245469	[미갤] 20대 여대생이 자취하면서 처음 써봤다는 물건.jpg [277]	감돌	07.07	51077	94
245466	[싱갤] 훌쩍훌쩍.. 죽음을 받아들이는 과정..jpg [463]	아린퍄퍄	07.07	57566	644
245463	[알갤] 씹덕주의) 알리산 물건들로 장식장에 led를 달아보자 [122]	121.124	07.07	18054	41
245460	[디갤] 건물+빛 (12pics) [34]	후지조아	07.07	9819	30
245457	[원갤] 연도별 원피스 작화 gif [271]	ㅇㅇ	07.07	39885	131
245454	[싱갤] 싱글벙글 일본 경제에 대한 현지 반응...jpg [483]	ㅇㅇ	07.07	31604	138
245448	[건갤] 라리덤 명암도색 + LED 개조 보고가! [81]	Zk	07.07	10524	78
245445	[싱갤] 싱글벙글 의외로 할머니들이 좋아하는것 [267]	설국	07.07	32835	336
245442	[미갤] 침착맨의 군대 입대 과정.jpg [339]	ㅇㅇ	07.07	30537	189
245439	[싱갤] 싱글벙글 한반도에 최초로 백신 도입한 지석영 [178]	ㅇㅇ(125.139)	07.07	31373	134
245436	[주갤] [국제결혼 인증] 혼인신고+결혼식 후기 [838]	벨라루스(178.127)	07.07	29856	604
245433	[필갤] NF-1, 이터나 비비드 250D, ECN2 [15]	ND4	07.07	7609	16
245427	[야갤] 멕시코의 특이한 결혼 문화..jpg [274]	감돌	07.07	51788	418
245424	[싱갤] 싱글벙글 녹화중에 지호 담임을본 윾갈비...jpg [204]	아린퍄퍄	07.07	27718	90
245418	[대갤] 딸 목이 창문에 끼인 채 20분간 운전한 스시녀... 딸은 결국 사망 [373]	난징대파티	07.07	34241	205
245415	[싱갤] 싱글벙글 크게 재편되고있는 세계 국방비 순위 [362]	도시타임	07.07	24843	124