디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

오늘의 개발일기앱에서 작성

PyTorch갤로그로 이동합니다. 2025.09.24 00:04:26
조회 137 추천 1 댓글 9

GEMM 최적화를 이어서 구현함
row-wise block tile로 Core2Core load balancing해주고 double buffering 적용함
GEMM은 중간 계산용으로 쓰이는게 생각보다 많아서 L1 썼던 놈을 재사용하거나, 데이터타입의 정밀도를 조금 낮추고 속도를 trade off해서 확보하는 걸 생각할 수 있지만 사실 Transpose 연산 오버헤드 없이 stride를 반전한 view pattern으로 보고 input을 block tiling해서 DRAM -> L1 접근해주면 L1을 아끼게 돼서 double buffering 쓸만큼의 여유분이 나옴
실험은 안해봤지만 broadcast만 생각해봐도 후자가 더 빠를듯
사실 tiling할때 block stride랑 인덱스 계산하는 거가 제일 어려웠는데, 이거는 더 고민을 해봐야겠음

우선은 workaround로서 고정사이즈 blk으로 로드가 분배되는데, workload에 맞는 추가적인 최적화를 생각해야함
가령 일반적으로 NN linear = XW+b를 구할 때 bottleneck이 되는건 W임, 훨씬 차원이 더 크기때문에
그러면 block의 크기를 어떻게 잡아줄거냐도 tensor shape에 따라 결정해줄 수 있을 것 같음
block config도 나중에 신경써야할듯

추천 비추천

1

고정닉 1

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 우리나라를 대표해서 UN 연설자로 내보내고 싶은 스타는? 운영자 25/09/29 - -
2891648 함 100대 해볼깡 ♥냥덩이♥갤로그로 이동합니다. 09.24 33 0
2891647 나님 페이스 200대 초반은 찍은거 같은데 ♥냥덩이♥갤로그로 이동합니다. 09.24 32 0
2891646 언리얼 CPP 관련 강의가 없는 이유가 CPP다룰정도면 ㅆㅇㅆ(124.216) 09.24 53 0
2891645 Intel VS AMD 어디 CPU 써야 코딩 능률 상승함? [7] ㅇㅇ(106.241) 09.24 65 0
2891644 아예 페이스 200대 못 찍는 사람들도 많대 ♥냥덩이♥갤로그로 이동합니다. 09.24 30 0
2891643 논리 회로 자체는 에러가 전혀 안 난다고 할 수는 없습니다 나르시갤로그로 이동합니다. 09.24 31 0
2891642 숏츠 존나 악질적인 새끼들 무조건 ㅂㅊ ♥냥덩이♥갤로그로 이동합니다. 09.24 32 0
2891641 사람이 생명주기를 조절하면, 생활패턴을 조작할 수 있을거같은데 ㅇㅇ(106.241) 09.24 31 0
2891640 언리얼 공부하는데, C++ 관련 자료가 전무한거 같던데 [2] ㅇㅇ(106.241) 09.24 79 0
2891639 비트코인 해킹 ♥냥덩이♥갤로그로 이동합니다. 09.24 37 0
2891638 컴퓨터쪽에만 그런진 모르겠는데, 표준 ㅈ같은거 많음 [1] ㅇㅇ(106.241) 09.24 44 0
2891637 카카오톡 업데이트 된거 개좋은데? 야옹아저씨갤로그로 이동합니다. 09.24 54 0
2891636 홍범도 마약 ♥냥덩이♥갤로그로 이동합니다. 09.24 34 0
2891635 일본의 심진석 ♥냥덩이♥갤로그로 이동합니다. 09.24 26 0
2891633 나님이 연설해도 재명이 보다 사람 많을듯 ㅋㅅㅋ ♥냥덩이♥갤로그로 이동합니다. 09.24 39 0
2891632 재명지원금 들어왔다 [3] 헬마스터갤로그로 이동합니다. 09.24 51 0
2891629 저장용 ♥냥덩이♥갤로그로 이동합니다. 09.24 33 0
2891628 컴퓨터구조를 몰라서 그러는데, 논리 회로(CPU)는 에러가 아에 안 남? [5] ㅇㅇ(106.241) 09.24 60 0
2891627 알아보쟈 ♥냥덩이♥갤로그로 이동합니다. 09.24 31 0
2891625 c/c++로 3년간 나 괴롭힌 애는 정신병자가 틀림없다. [1] 나르시갤로그로 이동합니다. 09.24 46 0
2891624 c/c++) 대체 왜 이 글이 기분 나쁘다는 건데??? [1] 나르시갤로그로 이동합니다. 09.24 51 0
2891623 더부룩 민주당 프갤러(5.143) 09.24 49 0
2891622 환자들 진짜.. 내 글마다 쫓아다니며 악플가는거봐. [1] 나르시갤로그로 이동합니다. 09.24 47 0
2891621 미쳣당 ♥냥덩이♥갤로그로 이동합니다. 09.24 47 0
2891620 이거 뭐임 [1] ㅇㅇ(106.241) 09.24 52 0
2891619 한두명의 실제 정신병 환자가 ip 바꿔가며 프갤 망치는게 맞는 듯 [1] 나르시갤로그로 이동합니다. 09.24 44 0
2891617 프갤을 프갤답게) delimiter의 표준 번역은 무엇인가? [1] 나르시갤로그로 이동합니다. 09.24 57 0
2891616 [애니뉴스] 시드노벨 사건이란? 프갤러(121.172) 09.24 41 0
2891615 쟤 따라다니면서 욕박는 애 기억하는게 쟤 뭐 취직한것도 아님 ㅆㅇㅆ(124.216) 09.24 49 0
2891614 ai가 하드코딩 추천하기도 하네 ㄹㅇ;; [2] 뉴진파갤로그로 이동합니다. 09.24 58 0
2891613 211.234 얘는 쓸데없이 왜 타인을 계속 괴롭히니? [1] 나르시갤로그로 이동합니다. 09.24 46 0
2891612 이대남 이랑 영포티가 화해하는법 ㅇㅅㅇ 류류(59.5) 09.24 46 1
2891611 프갤을 프갤답게) 어휘 요소란 [1] 나르시갤로그로 이동합니다. 09.24 57 1
2891610 만원 내고 한국세금 7000만원 빼먹은 짱깨 ♥냥덩이♥갤로그로 이동합니다. 09.24 55 0
2891609 나님.. 세상이 프래임 단위로 보임.. ♥냥덩이♥갤로그로 이동합니다. 09.24 37 0
2891608 게임 만드는데 객체지향 공부만 2년해서 인생낭비함 ㅇㅇ(211.234) 09.24 54 4
2891607 프갤을 프갤답게) 어휘 요소에 대해 정의되어 있는 서적이 있는가? [1] 나르시갤로그로 이동합니다. 09.24 46 2
2891606 23세, 무능력 인생에서 벗어나는법 찾아냄 ㄹㅇ ㅇㅇ(223.39) 09.24 45 0
2891605 ❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ ♥냥덩이♥갤로그로 이동합니다. 09.24 28 0
2891604 그냥 한국 남자는 나이떠나서 다 참수가 답임 류류(59.5) 09.24 43 0
2891603 나는 저 장애인 새끼 이해가 안가는게 ㅆㅇㅆ(124.216) 09.24 68 2
2891602 저 따라다니는 유동 저능한게 뭔 게임만드는거 어쩌고로 지랄하는데 ㅆㅇㅆ(124.216) 09.24 53 2
2891601 게임 만든다면서 2년동안 객체지향만 공부함 ㅇㅇ(211.234) 09.24 57 4
2891600 솔직히 c++,러스트 환자,ㅆㅇㅆ 같은 사람들 싹 없어졋음 [1] 나르시갤로그로 이동합니다. 09.24 62 1
2891599 극좌 영포티는 사회문제다 ♥냥덩이♥갤로그로 이동합니다. 09.24 39 1
2891598 c++,러스트,ㅆㅇㅆ 등 타인이 먼저 시비를 걸었다 [1] 나르시갤로그로 이동합니다. 09.24 50 1
2891597 오늘의 개발일기 PyTorch갤로그로 이동합니다. 09.24 52 0
2891596 ip 검색 이런게 있어야 퇴출이 가능할텐데 [1] 나르시갤로그로 이동합니다. 09.24 47 0
2891595 c++ 환자의 망상 재시작 댓글 [8] 나르시갤로그로 이동합니다. 09.24 55 0
2891594 근데 솔직히 기본소득으로는 안됨. 유지가 불가능한 정책이다. 프갤러(223.39) 09.24 43 0
뉴스 '불꽃야구' 명품 투수전의 주인공 이대은, ‘에이스 그 자체’인 그가 당황한 이유는? 디시트렌드 09.27
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2