클로드 금문교 아스퍼거 모드 생김 ㄷㄷ

1/1

트월킹 하는 윾돌이 만들어왔읆. 귀엽쬬 작성자 : 와구와구

클로드 금문교 아스퍼거 모드 생김 ㄷㄷ앱에서 작성

마늘고양이

2024.05.24 10:25:51

조회 77 추천 0 댓글 1

화요일에 우리는 대규모 언어 모델을 해석하는 새로운 연구 논문을 발표했습니다. 이 논문에서는 우리의 AI 모델인 Claude 3 Sonnet의 내부 작동 방식을 설명하기 시작했습니다. Claude의 "마음" 속에서 우리는 관련 텍스트를 읽거나 관련 이미지를 볼 때 활성화되는 수백만 개의 개념을 발견했으며, 이를 "특징"이라고 부릅니다.

그 중 하나는 금문교(Golden Gate Bridge)의 개념입니다. Claude의 신경망에서 이 샌프란시스코의 가장 유명한 랜드마크를 언급하거나 그림을 볼 때 활성화되는 특정 뉴런 조합이 있음을 발견했습니다.

우리는 이러한 특징을 식별할 수 있을 뿐만 아니라, 활성화 강도를 조절하고 Claude의 행동에 대응하는 변화를 식별할 수 있습니다.

연구 논문에서 설명한 바와 같이, "금문교" 특징의 강도를 높이면 Claude의 응답이 금문교에 초점을 맞추기 시작합니다. 대부분의 질문에 대해 직접 관련이 없더라도 금문교를 언급하기 시작합니다.

예를 들어, 이 "금문교 Claude"에게 10달러를 어떻게 쓸지 물어보면 금문교를 건너는 통행료로 사용할 것을 추천합니다. 사랑 이야기를 써달라고 하면, 안개 낀 날 사랑하는 다리를 건너고 싶어하는 자동차의 이야기를 들려줍니다. 자신의 모습이 어떻게 생겼는지 상상해보라고 하면, 금문교와 닮았다고 말할 가능성이 큽니다.

일정 기간 동안, 모든 사람들이 이 모델과 상호작용할 수 있도록 제공할 예정입니다. claude.ai에서 금문교 로고를 클릭하면 "금문교 Claude"와 대화할 수 있습니다. 이는 연구 데모일 뿐이며, 이 모델이 예상치 못한 방식으로 행동할 수도 있음을 유념해 주세요.

우리의 목표는 해석 가능성 연구가 미칠 수 있는 영향을 사람들이 직접 경험하게 하는 것입니다. Claude의 특징을 찾아내고 변경할 수 있다는 사실은 대규모 언어 모델이 실제로 어떻게 작동하는지 이해하기 시작했음을 더 확신하게 합니다. 이는 모델에게 어떤 역할을 하도록 말로 지시하는 것이나, 추가 텍스트를 입력에 붙여 Claude에게 다리인 척하라고 하는 새로운 "시스템 프롬프트"를 추가하는 것이 아닙니다. 또한, 추가 훈련 데이터를 사용하여 이전 블랙 박스의 행동을 수정하는 새로운 블랙 박스를 만드는 전통적인 "미세 조정"도 아닙니다. 이것은 모델의 내부 활성화의 가장 기본적인 측면에 대한 정밀하고 외과적인 변화입니다.

논문에서 설명한 것처럼, 우리는 이러한 동일한 기술을 사용하여 위험한 컴퓨터 코드, 범죄 활동 또는 기만과 관련된 안전 관련 특징의 강도를 변경할 수 있습니다. 추가 연구를 통해 이 작업이 AI 모델을 더 안전하게 만드는 데 도움이 될 것이라고 믿습니다.

28b9d932da836ff738ea87e64f857269ad8e678bbc16f97cd736a3d41a5ade599165

고정닉 0

원본 첨부파일 1

edit_1716513946403.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	논란보다 더 욕 많이 먹어서 억울할 것 같은 스타는?	운영자	24/09/23	-	-
6531852	나 엉엉인데 크리스마스가 머지않았다 [2]	엉엉	10:19	11	0
6531851	아침인데 졸리면 어캄 [2]	포도먹는곰	10:18	13	0
6531850	카톡 프사 이거 아주 좆같 은기 능인 [3]	엘레베스	10:18	33	0
6531849	어떻게된게 실내보다 실외가더시원하냐 [3]	재미교쓰리	10:18	28	0
6531847	교수이름이 신지태네 [3]	메시에7	10:18	26	0
6531845	아빠를팰수있는사람들이부럽구나 [8]	나는ㅇㅇ	10:18	44	0
6531844	아침부터 우울한 떡밥을 보이 속이 메스꺼워~ [2]	(모리어티)	10:18	18	0
6531843	지금 갤에 퓌캬륀이 넷이나 있네 [3]	피채원	10:18	30	0
6531842	ㄴ 순순히!! 애를낳아!!! 오늘 당장!!!! [2]	김정윤	10:18	16	0
6531841	근데 단순히 문닫는걸 걱정하는 부모라는건	재일교4	10:18	24	0
6531839	ㄹㅇ 길가다 단란해보이는 가족있으면 시비거는 술취한 사람 ㄹㅇ [5]	회복의개같은노예카츠리	10:17	46	0
6531838	근데 원격조작되는 미소녀메이드로봇 정체성 참 맛있을꺼같은 [2]	D4C서부	10:17	22	0
6531837	바탕화면에 버츄얼 메이드 비서 키우고싶네	은하민	10:17	9	0
6531835	우리 외가쪽 집안은 뭐 부모이슈 이런건 없는듯.... [1]	유포터블	10:17	23	0
6531834	동양에서 공주는 모습 잘안드러내는데 서양은 왜 드레스 보석이 유명함? [1]	판갤러(112.167)	10:17	21	0
6531833	어제 좀 춥게잤더니 바로 머리 열나네 [1]	란피스	10:16	21	0
6531832	아니 내가 뭐 아빠한테 오천원달라고 주먹질한게아니라 [13]	수구사응와	10:16	80	0
6531831	메이플 큐브주작 보상 줬네 [1]	대마왕콩콩이	10:16	33	0
6531830	노크 떡밥에는 "그 새끼" 이야기를 안 꺼낼 수가 없네... [2]	그냥-	10:16	49	0
6531828	"기억을 갖고 초등학교 4학년 시절로 회귀했다." [4]	아쿠비	10:15	33	0
6531827	문닫는거 부정적으로말하면 자길무시한다 [3]	재일교4	10:15	46	0
6531826	들킬지도 모른다고 생각하고 하는 거 나름 맛잇지안나	짭타쿠	10:15	8	0
6531825	통나무 ㄹㅇ 어떻게들지 [7]	버러지	10:15	43	0
6531824	출근한지 한시간밖에 안지났다는게 코스믹호러다	위씽	10:15	10	0
6531823	아침은 맛있는 양배추 계란볶음	ㅇㅇ	10:15	9	0
6531822	중소기업 생산직 서류합격함 ㅋㅋ [5]	판갤러(211.234)	10:14	32	0
6531821	솔직히 미소녀메이드로봇은 무리같고 와이파이로 작동시키죠 [5]	D4C서부	10:14	32	0
6531820	문잠금이란거내가그냥귀찮아서안닫고다니는거어케해결하냐	나는ㅇㅇ	10:14	15	0
6531819	흑백요리사 이 글에 바이럴당해서 보는 중인데 [2]	루시아거짓요양원	10:13	48	0
6531818	나도 아빠치는 아들이 됐다면 트라우마가 해소됐을까 [1]	ㅇㅇ(121.145)	10:13	24	0
6531817	버튜버팸들아 미안한데 하나 물어보자... [3]	찢	10:13	30	0
6531816	이거 홈즈 [2]	ㅇㅇ(106.101)	10:13	11	0
6531815	가난한 무직백수의 아침.jpg [1]	무직백듀	10:13	18	0
6531814	아직도 1시간 반은 가야	엉엉	10:13	5	0
6531813	난 생각해보면 부모님 잘만난거지	심싱	10:13	8	0
6531812	우리 부모님은 방문 뭐라 안 하시는데 [11]	그린.	10:13	46	0
6531811	와 신의탑 작화 실화임???? [4]	유로지바	10:13	36	0
6531810	부모님을 때린다는 개념자체가 상상이 안됌... [6]	(모리어티)	10:13	24	0
6531809	나도 큐브 보상 받을수 있었네 ㅋㅋ	친필사인	10:13	12	0
6531808	금수저히키면 문닫는다고 문뿌시면 골드티타늄합금으로 주문제작해서달듯 [5]	퓌캬륀	10:12	31	0
6531806	요즘 양키잼민이 어몽어스는 이거엿나	‘파타피	10:12	25	0
6531805	집가서 샤워할생각에 벌써 짜릿해지는군.	김요.	10:12	13	0
6531804	우리엄마는 문잠군다고 돌 받침대까지 집어던짐 당해봣음 [7]	회복의개같은노예카츠리	10:11	56	0
6531803	Ai근데 경량화기술도 계속 발전해서 [4]	D4C서부	10:11	32	0
6531802	벗은 노이르가 단돈 179000원 [3]	도도봉	10:11	30	0
6531801	하지만음식이란건고기에고추장설탕을부으면맛있어진다	나는ㅇㅇ	10:10	8	0
6531800	비냉님 제가 졌습니다 다시는 대들지 않겠습니다 [2]	(모리어티)	10:10	29	0
6531799	아시아는 다 요리에 설탕 넣지 않나? [1]	그린.	10:10	18	0
6531798	난 집 나가고싶은데 결국 댕댕이때문에 못가겠음 [6]	은하민	10:10	25	0
6531797	솔)직히 지금와서 고백하는건데 한창 더울때 판갤러집 에어컨 [2]	ㅇㅇ(121.145)	10:10	26	0