클로드 금문교 아스퍼거 모드 생김 ㄷㄷ

클로드 금문교 아스퍼거 모드 생김 ㄷㄷ앱에서 작성

마늘고양이

2024.05.24 10:25:51

조회 76 추천 0 댓글 1

화요일에 우리는 대규모 언어 모델을 해석하는 새로운 연구 논문을 발표했습니다. 이 논문에서는 우리의 AI 모델인 Claude 3 Sonnet의 내부 작동 방식을 설명하기 시작했습니다. Claude의 "마음" 속에서 우리는 관련 텍스트를 읽거나 관련 이미지를 볼 때 활성화되는 수백만 개의 개념을 발견했으며, 이를 "특징"이라고 부릅니다.

그 중 하나는 금문교(Golden Gate Bridge)의 개념입니다. Claude의 신경망에서 이 샌프란시스코의 가장 유명한 랜드마크를 언급하거나 그림을 볼 때 활성화되는 특정 뉴런 조합이 있음을 발견했습니다.

우리는 이러한 특징을 식별할 수 있을 뿐만 아니라, 활성화 강도를 조절하고 Claude의 행동에 대응하는 변화를 식별할 수 있습니다.

연구 논문에서 설명한 바와 같이, "금문교" 특징의 강도를 높이면 Claude의 응답이 금문교에 초점을 맞추기 시작합니다. 대부분의 질문에 대해 직접 관련이 없더라도 금문교를 언급하기 시작합니다.

예를 들어, 이 "금문교 Claude"에게 10달러를 어떻게 쓸지 물어보면 금문교를 건너는 통행료로 사용할 것을 추천합니다. 사랑 이야기를 써달라고 하면, 안개 낀 날 사랑하는 다리를 건너고 싶어하는 자동차의 이야기를 들려줍니다. 자신의 모습이 어떻게 생겼는지 상상해보라고 하면, 금문교와 닮았다고 말할 가능성이 큽니다.

일정 기간 동안, 모든 사람들이 이 모델과 상호작용할 수 있도록 제공할 예정입니다. claude.ai에서 금문교 로고를 클릭하면 "금문교 Claude"와 대화할 수 있습니다. 이는 연구 데모일 뿐이며, 이 모델이 예상치 못한 방식으로 행동할 수도 있음을 유념해 주세요.

우리의 목표는 해석 가능성 연구가 미칠 수 있는 영향을 사람들이 직접 경험하게 하는 것입니다. Claude의 특징을 찾아내고 변경할 수 있다는 사실은 대규모 언어 모델이 실제로 어떻게 작동하는지 이해하기 시작했음을 더 확신하게 합니다. 이는 모델에게 어떤 역할을 하도록 말로 지시하는 것이나, 추가 텍스트를 입력에 붙여 Claude에게 다리인 척하라고 하는 새로운 "시스템 프롬프트"를 추가하는 것이 아닙니다. 또한, 추가 훈련 데이터를 사용하여 이전 블랙 박스의 행동을 수정하는 새로운 블랙 박스를 만드는 전통적인 "미세 조정"도 아닙니다. 이것은 모델의 내부 활성화의 가장 기본적인 측면에 대한 정밀하고 외과적인 변화입니다.

논문에서 설명한 것처럼, 우리는 이러한 동일한 기술을 사용하여 위험한 컴퓨터 코드, 범죄 활동 또는 기만과 관련된 안전 관련 특징의 강도를 변경할 수 있습니다. 추가 연구를 통해 이 작업이 AI 모델을 더 안전하게 만드는 데 도움이 될 것이라고 믿습니다.

28b9d932da836ff738ea87e64f857269ad8e678bbc16f97cd736a3d41a5ade599165

고정닉 0

원본 첨부파일 1

edit_1716513946403.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	논란보다 더 욕 많이 먹어서 억울할 것 같은 스타는?	운영자	24/09/23	-	-
6531463	그리고 고령화 문제 닥치기 전에 이미 부채연쇄 폭발중인데?	ㅇㅇ(121.145)	08:40	22	0
6531462	중국이 좀 폐쇄적이긴 해도 서민들이 못살 나라는 아닌것 같음.. [9]	회복의개같은노예카츠리	08:40	45	0
6531461	그런데 ㄹㅇ 이걸로 웹툰 전체가 욕 먹는건 좀 억울하다고 봄... [1]	ㅇㅇ,(58.29)	08:40	46	0
6531460	집에보내줘 ㅆㅂ [4]	김정윤	08:40	17	0
6531459	게임 내 인플레이션에 대한 그록과의 대화	쇠안경	08:40	26	0
6531458	근데 걍 구성원 전부 여자기만 하면 걸즈밴드라 부르더라 [4]	구르미엄마	08:39	37	0
6531457	갓오하는 하이파워연출을 숫자놀음으로 해서 웃겼지 [2]	까름칙	08:39	30	0
6531456	고블린 같은 아인종이 인간이 유전자가 변이된 존재인거 어떰? [2]	고기마스터	08:38	26	0
6531455	나도 갓오하 우잠꺼까진 봣는데 [4]	칠공분혈	08:38	37	0
6531454	어제 아빠친구 집지은거 집들이 갔음 [2]	월하수향	08:37	30	0
6531453	갈비류는 석쇠에 굽는게 맞지...	라만차의기사	08:37	17	0
6531452	우잠꺼보단 이게 짜쳣지 [2]	nevaeh	08:37	43	0
6531451	백합 걸즈 밴드가 추악한 어른들한테 능욕 당하는 야한게 보고싶구나 [3]	ㅇㅇ,(58.29)	08:36	37	0
6531450	근데 중공도 고령화랑 부채가 어쩌구하는데 [8]	수구사응와	08:36	47	0
6531449	한국은 질투로 움직이는 국가같아 [5]	이세계고닉	08:36	40	0
6531448	걸즈밴드 최단기간 데뷔 후 무도관 라이브가 뱅드림이었네 [3]	구르미엄마	08:36	26	0
6531447	오타니 타율 겨우3할이라길래 뭔가했는데 [2]	α센타우리	08:36	55	0
6531446	저건 또 왜 아침부터 염병질임 [2]	ㅇㅇ(121.145)	08:35	35	1
6531445	이거 오프닝 좋네 보셈 ㄱㄱㄱㄱ [1]	김해린	08:34	24	0
6531444	중국은 ㄹㅇ 군벌들이 다스리고 [4]	그린.	08:34	41	0
6531443	이거제아내임 [1]	나는ㅇㅇ	08:34	18	0
6531442	우잠꺼가 조롱 밈이었나 [2]	변불칸	08:34	33	0
6531441	근데 시대는 걸밴드의 흐름이 맞는듯 [3]	화참자	08:33	62	2
6531440	이게 합성이 아니라네 [1]	구르미엄마	08:33	38	0
6531438	이게 시골 유지한테 웃으면서 인사만 해도 잘풀리는일이 [7]	까름칙	08:32	63	0
6531437	중공법조인들은 기본적으로 다 공산당원 아닌가 [1]	그림먼저본다	08:32	23	0
6531436	김실장 수성의 마녀같이 보기도했었네 [3]	김해린	08:32	32	0
6531435	아니 자꾸 현대국가 기준으로 말하는데 중국은 [3]	ㅇㅇ(121.145)	08:32	39	0
6531434	눈은 7시에 떴는데 자리에서 나오니까 8시반임 [2]	재일교4	08:32	16	0
6531433	무명소졸, 유니) 자위를 처음배운 원숭이같은 이부키 [3]	투하	08:31	42	0
6531432	중국처럼 의주빈 월급 박살내서 공대가게 만드는게 답임 [9]	찢	08:31	80	0
6531431	살만한 나라는 됐고 쌀만한 나라를 만들어다오 [4]	？	08:31	24	0
6531430	이거 투하네 [1]	산업	08:31	16	0
6531429	우주가 잠시 꺼졌다 이거 비하인드 좀 그렇네 [9]	alembic	08:31	62	0
6531428	그래그래 박정희의 중공업 몰빵 도박수는 모두 노동자 덕이야 [9]	회복의개같은노예카츠리	08:30	59	0
6531427	조선은댜놓고살만한나라잖냐 [2]	나는ㅇㅇ	08:29	43	0
6531424	근데 IQ 낮을수록 페미라는 게 영 헛소리는 아니더라 [8]	ㅇㅇ(118.235)	08:28	59	0
6531423	신의탑 3부 좀 보니까 갓오하 사탄전이그리워지는수준이더라 [3]	슬렌더5.6	08:28	26	0
6531422	얼리버드 기상!! [8]	루시아거짓요양원	08:28	20	0
6531421	다리가 길다 [2]	강다인	08:28	11	0
6531420	한국이 사람같이 먹고 살수 있게 한 근원.... [5]	회복의개같은노예카츠리	08:28	59	0
6531419	선데이 소환물 턴땡 화합찌라시 뭐냐 [1]	까름칙	08:28	18	0
6531418	중국은 ㄹㅇ 의사 왜 하는거냐 [7]	이세계고닉	08:28	60	0
6531417	비행기가 뜨는거 사실 이 세계의 버그라는 진실 [2]	김해린	08:27	24	0
6531416	6시간공강동안머하지	[범골]마력석	08:27	11	0
6531415	1교시 ㄹㅇ자살마렵네 [2]	수구사응와	08:27	21	0
6531414	귀농대박노리는 사람들 용지전용허가때문에 쪽박차는경우많나보네 [13]	재일교4	08:26	64	0
6531413	영국이 대영제국이라면서 왜 서유럽도시하면 파리가많이나옴? [2]	판갤러(49.142)	08:26	16	0
6531412	엘베 비인가게시물 뗐다고 검찰송치된 여중생 얘기 레전드네 [6]	구르미엄마	08:25	45	0
6531410	중국은 그 큰 땅이 다 공산당 식민지잖아 [2]	은하민	08:24	45	0