클로드 금문교 아스퍼거 모드 생김 ㄷㄷ

판타지 갤러리

1/3

싱글벙글 한국 최고가로 추정되는 미술작품 신전로제떡볶이
일본 이중가격제 확산 ㅇㅇ
거유 음침녀의 옷 쇼핑 만화 방실이
싱글벙글 25년 전 다큐멘터리 보고 무작정 스리랑카 집시 찾아간 유튜버 수인갤러리
최태원이 장인을 6공이라 부르는 이유 OO
서울대병원 무기한 휴진 중단 ㅇㅇ
빗자루 정비 마녀 이자벨 곧두루
상향혼 정당화를 위해 총결집한 한국여성들.jpg ㅇㅇ
2024 상반기 결산 - 메인바디편 (50장) doer
'한국, 좋은 시절 끝났다.' ...반한 감정에 빠진 태국 노인복지관
해상운임료떡상 ??? 후티 반군, 홍해 그리스 화물선 공격 동영상 공개 나스다
바가지 논란 '광장시장' 떡볶이... 저울에 달아봤다 ㅇㅇ
펌)한국인들은 잘 모르는 아프리카 흑인 왕국들 정신세상
야간 고속도로에서 2차 사고났는데 억울하게 가해자가 됨 ㅇㅇ
싱글벙글 존잘남의 메이드카페 방문기.jpg 러뽕아님

뭘 먹어도 혈당이 오르지 않는 방법.jpg 작성자 : 다갤러

클로드 금문교 아스퍼거 모드 생김 ㄷㄷ앱에서 작성

마늘고양이

2024.05.24 10:25:51

조회 74 추천 0 댓글 1

화요일에 우리는 대규모 언어 모델을 해석하는 새로운 연구 논문을 발표했습니다. 이 논문에서는 우리의 AI 모델인 Claude 3 Sonnet의 내부 작동 방식을 설명하기 시작했습니다. Claude의 "마음" 속에서 우리는 관련 텍스트를 읽거나 관련 이미지를 볼 때 활성화되는 수백만 개의 개념을 발견했으며, 이를 "특징"이라고 부릅니다.

그 중 하나는 금문교(Golden Gate Bridge)의 개념입니다. Claude의 신경망에서 이 샌프란시스코의 가장 유명한 랜드마크를 언급하거나 그림을 볼 때 활성화되는 특정 뉴런 조합이 있음을 발견했습니다.

우리는 이러한 특징을 식별할 수 있을 뿐만 아니라, 활성화 강도를 조절하고 Claude의 행동에 대응하는 변화를 식별할 수 있습니다.

연구 논문에서 설명한 바와 같이, "금문교" 특징의 강도를 높이면 Claude의 응답이 금문교에 초점을 맞추기 시작합니다. 대부분의 질문에 대해 직접 관련이 없더라도 금문교를 언급하기 시작합니다.

예를 들어, 이 "금문교 Claude"에게 10달러를 어떻게 쓸지 물어보면 금문교를 건너는 통행료로 사용할 것을 추천합니다. 사랑 이야기를 써달라고 하면, 안개 낀 날 사랑하는 다리를 건너고 싶어하는 자동차의 이야기를 들려줍니다. 자신의 모습이 어떻게 생겼는지 상상해보라고 하면, 금문교와 닮았다고 말할 가능성이 큽니다.

일정 기간 동안, 모든 사람들이 이 모델과 상호작용할 수 있도록 제공할 예정입니다. claude.ai에서 금문교 로고를 클릭하면 "금문교 Claude"와 대화할 수 있습니다. 이는 연구 데모일 뿐이며, 이 모델이 예상치 못한 방식으로 행동할 수도 있음을 유념해 주세요.

우리의 목표는 해석 가능성 연구가 미칠 수 있는 영향을 사람들이 직접 경험하게 하는 것입니다. Claude의 특징을 찾아내고 변경할 수 있다는 사실은 대규모 언어 모델이 실제로 어떻게 작동하는지 이해하기 시작했음을 더 확신하게 합니다. 이는 모델에게 어떤 역할을 하도록 말로 지시하는 것이나, 추가 텍스트를 입력에 붙여 Claude에게 다리인 척하라고 하는 새로운 "시스템 프롬프트"를 추가하는 것이 아닙니다. 또한, 추가 훈련 데이터를 사용하여 이전 블랙 박스의 행동을 수정하는 새로운 블랙 박스를 만드는 전통적인 "미세 조정"도 아닙니다. 이것은 모델의 내부 활성화의 가장 기본적인 측면에 대한 정밀하고 외과적인 변화입니다.

논문에서 설명한 것처럼, 우리는 이러한 동일한 기술을 사용하여 위험한 컴퓨터 코드, 범죄 활동 또는 기만과 관련된 안전 관련 특징의 강도를 변경할 수 있습니다. 추가 연구를 통해 이 작업이 AI 모델을 더 안전하게 만드는 데 도움이 될 것이라고 믿습니다.

28b9d932da836ff738ea87e64f857269ad8e678bbc16f97cd736a3d41a5ade599165

고정닉 0

원본 첨부파일 1

edit_1716513946403.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
6033343	어제치킨까스정식먹었는데오늘라멘먹으면안되겠지반룡. [7]	재일교４	06.21	23	0
6033342	팩트는 오늘 전공두개 어제 한개 3일전에 한개를쳤는데	레헤	06.21	7	0
6033341	김겨울은 매주 편의점에 가서 [2]	호탈	06.21	30	0
6033340	엘든링 메스메르 ㅅㅂ 말안되네	ㅈㅅㅋㅇ	06.21	16	0
6033339	주술회전패러디란거 왤캐좋지	재미교쓰리	06.21	23	0
6033338	영화 함 보고싶은데 볼게없네 [2]	은하민	06.21	15	0
6033337	눈이 침침...	남고	06.21	10	0
6033336	어 형은 명방 이번에도 살아남았어 [6]	우는거북이	06.21	38	0
6033333	Ak47 애들 선타기하다가 결국 떨어졌네 ㅠㅠ	ㅇㅇ(112.164)	06.21	33	0
6033334	뇌신 카시모 하지메의 죽음.	을현	06.21	28	0
6033332	장난치고 꼬숩노 끼숩노 퓌숩노 하는 아기반룡 [1]	소악마	06.21	20	0
6033330	숨은 반룡 찾기.quiz	바우	06.21	21	0
6033329	슈파도파 민나 [8]	은하민	06.21	53	0
6033328	ㄹㅇ 엘든링 보스전 재밌는거 딱 밀키트까지인듯 [2]	치킨킹	06.21	38	0
6033327	모르고그랬단거아는사이엔통하는데모르는사이엔안통하는거	재일교４	06.21	11	0
6033326	근데 은하 리메이크 좀 너무 유입차단 아닌가 이거... [5]	지름코드	06.21	48	0
6033325	하지만 소울라이크 그거 메트로배니아 3D고...	ㅇㅇ(180.182)	06.21	13	0
6033324	나무위키 뭐잘못눌렀나 최근토론? 들어가졌는데 ㅈㄴ웃기네 [4]	혜음	06.21	80	0
6033323	NC AI는 NLP인가 자연어 처리 어쩌고라함	ㅇㅇ(220.78)	06.21	12	0
6033322	국민들의 돈이 내돈이지 내맘대로 자대고 죽긋고	ㅇㅇ(112.164)	06.21	12	0
6033321	저번 공모전에선 작품 최종적으로 3개 건졋군	D4C서부	06.21	36	0
6033320	와 머냐 맨스티어 단콘 좆망햇농 [3]	고햐쿠엔	06.21	56	0
6033319	지금 듣는 노래	어사일럼	06.21	11	0
6033318	nc에서 ai 개발했다면 당연히 [1]	종말연구	06.21	35	0
6033317	오킹 그와중에 학폭논란까지 터졌었구나 [1]	ㅎㄹ.	06.21	62	0
6033316	진짜네 피쓰엉님 결정사 직원한텐	24생공김정윤	06.21	39	0
6033314	근데 간만에 세피라 하니까 재밌네 [5]	루잭	06.21	24	0
6033313	보이즈 이번 화 보면 ㄹㅇ 아이들에게는 사랑이 필요하단걸 느낌	이세계고닉	06.21	25	0
6033311	아 존나 맛있는 피자 뭐 없나.... [14]	(모리어티)	06.21	37	0
6033310	피스햄 이정도면 선본다고 핑걔대고 쉬는거같음	유동죽	06.21	25	0
6033309	ㄴ 귀여운 보추	ㅇㅇ(218.144)	06.21	8	0
6033308	클로드 업뎃된거였구나 ㅋㅋ	민물쿠키	06.21	28	0
6033307	스포)붕스 이거 대놓고 그거 암시하는거 아닌가 [4]	불건전유니	06.21	38	0
6033305	오랜만에 사운드호라이즌 메들리 달리니까 중2병이 막 끓어오른다	ㅇㅇ(115.136)	06.21	8	0
6033304	일본에서 중국인 하나 사형집행했다는데 진짜냐 [5]	종말연구	06.21	66	0
6033303	언젠가 하루동안은 시계없이 살아보고싶음 [2]	든든허스터	06.21	17	0
6033302	근데 ai의 시시껄렁한 대사보다 글고수의 스토리가 필요함 [1]	ㅇㅇ(223.62)	06.21	19	0
6033301	원피스 실사 시즌2 비비 배우 캐스팅.jpg [3]	ㅇㅇ(180.182)	06.21	50	0
6033300	퓌러! 마지막 한명까지 데려가는게 중요한게 아니야!	재일교４	06.21	13	0
6033299	선공인데 우라라 3장 잡히는건 씨발 장난하나 [4]	루잭	06.21	22	0
6033298	생각해보니 반디는 螢인데 이거 루미네 본명 아니냐? [1]	지능배설	06.21	33	0
6033297	잡혀간 중대장 운동 하는건 맞냐 [3]	ㅇㅇ(14.63)	06.21	70	0
6033295	내가 예의상 한다면 대면TS를 하려고했는데	24생공김정윤	06.21	25	0
6033293	이 짱녀 대단하네. [10]	홈즈,	06.21	87	0
6033292	근데 NC AI기술을 2011년부터 연구했는데 [8]	alembic	06.21	63	0
6033291	란피스 바이럴	종말연구	06.21	31	1
6033290	최첨단 인공지능 적용모델 나와도 한남들은 잘 못쓰잖아 [1]	가오렌쟈	06.21	25	0
6033289	NPC보다 레벨디자인이 더 시급한거 아닌가 [4]	중간관리직	06.21	32	0
6033288	굴쓰다 내팽겨치고 무책임 반디 허벅지 관찰중	불건전유니	06.21	11	0
6033287	이거 우리동네인데 좀 어반감성아니냐 [6]	수구사응와	06.21	45	0