ㅇ오마 매직 매직매직 마 매직 매직매직

다이어트 갤러리

1/3

중한부부의 일상과 결혼식까지 같이보자.jpg 태아령
장수생 친구.. 내가 잘못한걸까?.blind 야갤러
일본인 소녀에게 사랑고백을 받은 독립운동가 ㅇㅇ
전쟁이 터지면 국민은 세 부류로 나뉜다.jpg 새벽달빛
'동성 커플' 법적 권리 첫 인정…"건보 피부양자 가능" ㅇㅇ
"이거 치워!" 손짓 휘휘, 찰스 3세 또 '짜증 폭발'.jpg ㅇㅇ
'바가지 논란' 제주 용두암 해산물 판매자의 정체..jpg 감돌
오싹오싹 일본 사법계 최악의 흑역사가 된 사건 허공
SM 후배들 사이에 소문만 무성했던 환희 썰 ㅇㅇ
쯔양 내용 요약 ㄹㅇ..jpg 감돌
[JTBC] "이젠 보내줘야죠"…3년여 만에 고 이예람 중사 장례 정치마갤용계정
[단독] 성범죄 전담 검사 출신 변호사, 알고 보니 성범죄 전과자 정치마갤용계정
싱글벙글 ㅈ소고양이(좋았쓰!!) 만화모음17.manwha 까뫄기
와들와들 무속인이 된 딸을 받아들일 수 없는 모친.jpg BlackWolfStudi
프랑스 올림픽, 中 수영팀만 열흘간 200번 도핑 테스트... 이유는? 난징대파티

7월 19일 시황 ㅡㅡㅡㅡㅡ 테크 뉴스 ㅡㅡㅡㅡㅡ 반도체 섹터 관련 및 TSMC 실적 ㅡㅡㅡㅡㅡ 넷플릭스 실적 ㅡㅡㅡㅡㅡ 애플 ㅡㅡㅡㅡㅡ AI 관련 (feat TESLA) (상대적으로)소형모델들을 비교하면 아래와 같은 결과라고 함. 이에 대한 안드레 카파시의 견해 ===== 번역) LLM 모델 크기 경쟁이 점점 더 치열해지고 있습니다… 그것도 역방향으로요! 저는 앞으로 아주 작지만 매우 똑똑하고 신뢰할 수 있는 모델이 나올 것이라고 예상합니다. 아마도 GPT-2의 파라미터 설정 중에서도 대부분의 사람들이 GPT-2를 "똑똑하다"고 생각할 만한 설정이 있을 것입니다. 현재 모델이 이렇게 큰 이유는 우리가 훈련하는 동안 매우 낭비적으로 사용하고 있기 때문입니다. 모델들에게 인터넷을 암기하도록 요청하고 있는데, 놀랍게도 모델들은 이를 실제로 암기할 수 있고 예를 들어 SHA 해시나 희귀한 사실들을 기억해낼 수 있습니다. (사실 LLM은 암기 능력이 인간보다 질적으로 훨씬 뛰어나며, 때로는 단 한 번의 업데이트로 많은 세부 사항을 오랫동안 기억할 수 있습니다.) 하지만 첫 몇 단어를 주면 인터넷의 임의의 구절을 암기하여 외우는 것이 목표라면, 이는 오늘날 모델의 표준 (사전) 훈련 목표입니다. 더 잘하는 것이 어려운 이유는 훈련 데이터에서 사고의 데모가 지식과 "얽혀" 있기 때문입니다. <이부분 해설하자면, 즉, 모델이 지식의 암기보다는 사고 능력을 훈련할 수 있도록 데이터를 이상적인 형식으로 만들어야 한다는 것. 이를 통해 모델은 작은 크기에서도 뛰어난 사고 능력을 발휘할 수 있게 될 것.> 따라서 모델들은 먼저 더 커져야 나중에 더 작아질 수 있습니다. 왜냐하면 우리는 이상적인 합성 형식으로 훈련 데이터를 리팩터링하고 형성하는 데 있어 그들의 (자동화된) 도움이 필요하기 때문입니다. 이것은 개선의 계단과도 같습니다. 한 모델이 다음 모델을 위한 훈련 데이터를 생성하는 데 도움을 주는 과정이 반복되면서 결국 "완벽한 훈련 세트"에 이르게 됩니다. 이를 GPT-2에 훈련시키면 오늘날의 기준으로 매우 강력하고 스마트한 모델이 될 것입니다. 어쩌면 화학을 완벽하게 기억하지 못해서 MMLU 점수가 조금 낮을 수 있지만, 때로는 확인을 위해 무언가를 찾아볼 필요가 있을 수도 있습니다. 이것은 테슬라의 자율 주행 네트워크와 크게 다르지 않습니다. AI 데이에서 발표된 "오프라인 트래커"는 무엇일까요? 이것은 합성 데이터 생성 프로세스입니다. 이전의 더 약한 모델들(예를 들어, 단일 프레임 모델이나 바운딩 박스만 사용하는 모델들)을 클립에서 오프라인 3D+시간 재구성 과정에서 실행하여 더 깨끗한 훈련 데이터를 대규모로 생성하는 것입니다. 이렇게 생성된 데이터는 3D 멀티캠 비디오 네트워크를 직접적으로 위한 것입니다. LLM에서도 동일한 방식이 적용되어야 합니다. ======= 한 줄 요약하자면 아래와 같음. 이에 대한 일론머스크의 답글 소형모델의 성능이 점차 개선된다면, 즉 점점 더 대형의 모델로 가는 게 아니라, 대형에서 소형으로 압축되면서도 성능이 올라간다면, 학습을 위한 대규모의 GPU 수요는 어느 순간 급격하게 줄어들 수 있음. 대신 추론용 칩이 필요. 개인적으로 엔비디아의 고점을 '일부' 제한할 수 있는 요소로 판단. ㅡㅡㅡㅡㅡ 테슬라 ㅡㅡ ㅡㅡ ㅡㅡ ㅡㅡ ㅡㅡ ㅡㅡ 전기차 가성비있게 만들고 파는 건 어려움. 근데 테슬라는 풀케파로 돌리는 중이라고 함. ㅡㅡ 작성자 : 우졍잉

ㅇ오마 매직 매직매직 마 매직 매직매직

Younja

2011.09.01 21:51:17

조회 32 추천 0 댓글 2

어머어머러머아머어머어머ㅓ어머하고놀랄걸 ㅅㅂ

From dcinside app for Android

고정닉 0

원본 첨부파일 1

윤자.jpg

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	흡연때문에 이미지 타격 입은 것 같은 스타는?	운영자	24/07/15	-	-
이슈	[디시人터뷰] '좋아해요'로 마음을 사로잡은 배우 최하슬	운영자	24/07/17	-	-
AD	보험상담은 디시공식설계사에게 받으세요!	운영자	24/02/28	-	-
313429	정모 얘기하니까 진짜 나가보고 싶다 [4]	태극비	11.10.10	39	0
313428	그 왜 게임하는데 뒤에서 쳐다보면 [11]	Younja	11.10.10	45	0
313425	주말에 펌프하고오니 4kg빠져있다 [3]	YJM(218.154)	11.10.10	50	0
313424	복학후 2년만에 만난 애한테 자연스레 밥먹고싶은데 어케해야됨니까? [2]	ㅁㄴㅇ(118.41)	11.10.10	31	0
313423	니들 정모나 번개 나가면 [12]	ㅁㄴㅇ(58.227)	11.10.10	136	0
313421	차예은 떡밥 그만물자	태극비	11.10.10	16	0
313420	성격고치구잇따 [6]	Younja	11.10.10	35	0
313419	차예은님께 마지막 [3]	근뉴비(14.33)	11.10.10	64	0
313418	나도 하루식비가아까워서 한번은 [1]	전완근	11.10.10	32	0
313415	운동직후 물먹으면 살찐다는건	유동	11.10.10	29	0
313414	근데 내가 이상한건진 모르겠는데 [1]	Younja	11.10.10	13	0
313413	코슷트코...^_^ [3]	Younja	11.10.10	66	0
313412	어제 엄마가 코슷코 다녀오심 .. ^_^	Younja	11.10.10	11	0
313410	나는야 돼지 [1]	참치의신비(210.113)	11.10.10	9	0
313409	므앙언니나 시향 있어? [3]	Younja	11.10.10	26	0
313407	워터플러스 맛있는데 왜 [1]	YJM(218.154)	11.10.10	45	0
313404	다갤로리들 다 잘 살고있슴? [20]	근육몬!	11.10.10	121	0
313403	근데 다갤정모는잇나 [1]	카나드포탑	11.10.10	19	0
313401	씨발 다이어트해야되는데 [1]	ㅅ(175.118)	11.10.10	16	0
313400	우유좀 많이먹는데 [18]	전완근	11.10.10	174	0
313398	마시면 몸 무거워지는 물 [1]	근뉴비(14.33)	11.10.10	36	0
313397	관악산 연속 등정 43일째 [2]	ㄹㄹ(175.124)	11.10.10	51	0
313395	그럼 번개말거 정모하면 안되나 [2]	태극비	11.10.10	28	0
313392	근데 정모 아닌데 [8]	김人肉	11.10.10	59	0
313391	지금고등학교는 정해짐이미 [3]	카나드포탑	11.10.10	26	0
313389	다갤특성.txt [18]	전완근	11.10.10	147	0
313388	정모준비 [4]	근뉴비(14.33)	11.10.10	34	0
313387	덴마크 다이어트 궁금한점 있는데 [1]	힛(115.126)	11.10.10	47	0
313386	남은 중삼을 어떻게보내야 후회를 안할까요 [6]	카나드포탑	11.10.10	31	0
313385	군대다이어트좋다 여자들도 군대가라 [2]	YJM(218.154)	11.10.10	76	0
313383	차예은님 글을 보고 느낀건데 [3]	근뉴비(14.33)	11.10.10	99	0
313381	인터벌 빡세게 2400분 연속으로 하고 아이유 사귄다면 [1]	카나드포탑	11.10.10	28	0
313380	[BGM]남성의 시각으로본 여성분포도 [4]	김人肉	11.10.10	62	0
313378	똥	풉풉(124.53)	11.10.10	13	0
313377	예비고딩도 정모나가면 반겨주나요? [5]	카나드포탑	11.10.10	30	0
313376	나도 피해의식쩔어서사는데 [27]	폭식증	11.10.10	190	0
313375	밥을 아침에 먹는게 나을까 점심에먹는게 나을까?? [1]	밥을(121.172)	11.10.10	32	0
313373	비 온 뒤에 땅이 굳어진다고 하지.. [2]	ㄱㅁ(211.246)	11.10.10	18	0
313370	108배 36시간하고 아이유랑 사귀기vs 그냥살기 [8]	카나드포탑	11.10.10	47	0
313369	내가 잘못한거냐? [10]	우유맛홍차	11.10.10	72	0
313367	다갤와서 싸우지마 ㅡㅡ [5]	태극비	11.10.10	21	0
313366	제발닭가슴살살때 [1]	전완근	11.10.10	69	0
313365	광고는 아닌데 닭가슴살 먹으려면 이훈꺼먹어라	1(222.235)	11.10.10	51	0
313363	D-55]드디어 3개월전에 입던 셔츠가 맞음 ㄲㄲㄲ	다이어트(2달하기)	11.10.10	18	0
313360	50만원주고 아이유볼 10초쓰다듬고 꼬집vs500만원주고 수지볼에뽀뽀하기 [6]	전완근	11.10.10	56	0
313359	대학면접이 코앞인데 [2]	YJM(218.154)	11.10.10	39	0
313358	다이어트 음식으로 전복 어떻습니까? [6]	뿌잉(182.208)	11.10.10	120	0
313357	남자든여자든 외모에대한열정은 원래 끝없다 [4]	전완근	11.10.10	57	0
313356	빼도 안될놈은안되더라	카나드포탑	11.10.10	8	0
313355	여기 어디에여?????? [4]	알려주세요(182.213)	11.10.10	30	0