디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

오늘의 개발일기앱에서 작성

PyTorch갤로그로 이동합니다. 2025.09.24 00:04:26
조회 124 추천 1 댓글 9

GEMM 최적화를 이어서 구현함
row-wise block tile로 Core2Core load balancing해주고 double buffering 적용함
GEMM은 중간 계산용으로 쓰이는게 생각보다 많아서 L1 썼던 놈을 재사용하거나, 데이터타입의 정밀도를 조금 낮추고 속도를 trade off해서 확보하는 걸 생각할 수 있지만 사실 Transpose 연산 오버헤드 없이 stride를 반전한 view pattern으로 보고 input을 block tiling해서 DRAM -> L1 접근해주면 L1을 아끼게 돼서 double buffering 쓸만큼의 여유분이 나옴
실험은 안해봤지만 broadcast만 생각해봐도 후자가 더 빠를듯
사실 tiling할때 block stride랑 인덱스 계산하는 거가 제일 어려웠는데, 이거는 더 고민을 해봐야겠음

우선은 workaround로서 고정사이즈 blk으로 로드가 분배되는데, workload에 맞는 추가적인 최적화를 생각해야함
가령 일반적으로 NN linear = XW+b를 구할 때 bottleneck이 되는건 W임, 훨씬 차원이 더 크기때문에
그러면 block의 크기를 어떻게 잡아줄거냐도 tensor shape에 따라 결정해줄 수 있을 것 같음
block config도 나중에 신경써야할듯

추천 비추천

1

고정닉 1

0

댓글 영역

전체 댓글 0
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 센터해도 될 것 같이 비주얼 물오른 아이돌 멤버는? 운영자 25/09/22 - -
2891780 이게 뭐게? ㅇㅅㅇ [5] 헤르 미온느갤로그로 이동합니다. 09.25 53 0
2891779 이재명 쿠폰으로 닭강정 사먹었다. [8] 프갤러(210.217) 09.25 62 0
2891777 요즘 할머니 할아버지들도 [3] 루도그담당(58.239) 09.25 49 0
2891776 카톡 왜 욕하니?? [5] 나르시갤로그로 이동합니다. 09.25 62 0
2891775 오늘 일정 개꼬였네..ㅎㅎ 나르시갤로그로 이동합니다. 09.25 30 0
2891774 태연 ㅇㅅㅇ 헤르 미온느갤로그로 이동합니다. 09.25 25 0
2891773 하루 한 번 헤르미온느 찬양 헤르 미온느갤로그로 이동합니다. 09.25 33 0
2891771 이상헌 국제노동기구 고용정책국장 “산재 대응으로 기업 위축?… 한국적 발명도둑잡기(118.216) 09.25 43 0
2891769 Xess2가 Dlss4에 근접 ♥냥덩이♥갤로그로 이동합니다. 09.25 36 0
2891768 2nm 는 3nm에 비해 새로운 세대라고 부르기 민망하지 ♥냥덩이♥갤로그로 이동합니다. 09.25 36 0
2891767 ❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ ♥냥덩이♥갤로그로 이동합니다. 09.25 34 0
2891765 쇼핑몰 홈페이지 제작 프갤러(211.235) 09.25 39 0
2891763 소소한 삶 ㅇㅇ(175.223) 09.25 55 0
2891757 SSD 넥도리아(220.74) 09.25 67 0
2891756 빨간불 떴습니다. 넥도리아(220.74) 09.25 35 0
2891754 아 AHa See 아하 보여... 제발 초기화가 안되네 ㅠㅠㅠ 넥도리아(220.74) 09.25 29 0
2891743 컴퓨터 표준의 절망은 용량 표현인 듯 싶다 ㅇㅇ(211.235) 09.25 35 0
2891741 유튜버 포프 나이 4050이누 타이밍뒷.통수한방(1.213) 09.25 58 0
2891739 도데체 카톡 자동 업데이트는 누가 개발한 기획한거냐 [1] 프갤러(118.235) 09.25 78 0
2891738 음기 충전 발명도둑잡기(118.216) 09.25 69 0
2891737 어쩝니까? 또 SSD 일주일에 하나꼴로 고장 이번에 플렉스터 넥도리아(112.170) 09.25 31 0
2891735 “타인과 공유 금지” 의사들이 경고하는 11가지 물건 발명도둑잡기(118.216) 09.25 37 0
2891733 "뭐야, 이 욱일기 옷은"…술 취한 한국인, 대만서 대학생 뺨 때려 발명도둑잡기(118.216) 09.25 32 0
2891732 대만서 퍼진 '홍대 화장실 비밀번호'…현지 매체도 "돈 내고 써라" 지적 발명도둑잡기(118.216) 09.25 198 0
2891730 문사철도 개발자하면 좋을텐데 [2] ㅇㅇ(175.223) 09.25 48 0
2891728 ㅆㅇㅆ) 게임 만들려면 소켓 직접 다뤄야할 텐데 ㅎㅎ [3] 나르시갤로그로 이동합니다. 09.25 95 4
2891726 나는 조현병이야 프갤러(182.227) 09.25 37 0
2891725 "웃옷 벗기 NO, 비켜요 비켜 NO" 공원에 뜬 러닝 크루 '4대 금기 발명도둑잡기(118.216) 09.25 35 0
2891724 컴퓨터는 전원과 관련된 거 전부 빼고 다시 연결하면 된다고, +@로 (세 넥도리아(112.170) 09.25 29 0
2891723 Programmers Dev Survey 2023 발명도둑잡기(118.216) 09.25 30 0
2891722 술을 못끊겠네 ㅅㅂ... 맨날 취해서 기냥저냥 헤롱거려 [5] ㅇㅇ(223.39) 09.25 119 0
2891721 조립했어요 새로운 마음으로 시작. 넥도리아(220.74) 09.25 31 0
2891720 프레임워크 벤치마킹 오랜만에 보니까 러스트가 선전 중 [1] 발명도둑잡기(118.216) 09.25 46 0
2891719 Yolo 이거 쓸만해? [5] 루도그담당(58.239) 09.25 72 0
2891718 요즘 느끼는게 나 쇼핑몰 홈페이지 뼈대 하나 만들어볼까 한다 [4] ㅆㅇㅆ(124.216) 09.25 69 0
2891717 워드프레스, 위키피디아, 쇼핑몰이 php 버리기 힘든 이유다 발명도둑잡기(118.216) 09.25 31 0
2891716 ㅆㅇㅆ 글보면 소켓 통신을 아예 모르는 듯해 보이는데 주식 자동 매매 앱 [1] 나르시갤로그로 이동합니다. 09.25 74 1
2891715 나는 솔직하게 말해서 자동 매매 그거는 그냥 미신이라 생각함 [2] ㅆㅇㅆ(124.216) 09.24 62 0
2891714 쌀먹 매크로 만드는거 불법일려나 [1] 루도그담당(58.239) 09.24 49 0
2891713 js나 파이썬이 대중적인 이유가 뭐겠냐 ㅆㅇㅆ(124.216) 09.24 46 0
2891712 주식 관련 프로그램들 실제로 벌림? [7] 루도그담당(58.239) 09.24 78 0
2891711 ㅆㅇㅆ은 허구한날 날 왜 까는거야? 나르시갤로그로 이동합니다. 09.24 58 1
2891710 내 월급은 주식쟁이들이 십시일반 모아서 준다 [2] ㅆㅇㅆ(124.216) 09.24 54 0
2891709 파이썬 엿같은 점 하나 더 프갤러(110.8) 09.24 40 0
2891708 오늘의 방송 기획 실마리: 민회나 배심원 중계 발명도둑잡기(118.216) 09.24 25 0
2891707 남앞에서 원격으로 코딩하면서 디버깅하는거 좆같이 힘듬 [2] ㅆㅇㅆ(124.216) 09.24 63 0
2891706 씨발 미안하다 파이썬은 강타입 언어다. [2] 프갤러(110.8) 09.24 56 0
2891705 오늘도 의뢰를 하나 완수해서 돈받았다 [10] ㅆㅇㅆ(124.216) 09.24 87 0
2891704 점심 저녁 발명도둑잡기(118.216) 09.24 26 0
2891703 MMU라는 배를 타고 항해를 시작하는 엔믹스 발명도둑잡기(118.216) 09.24 27 0
뉴스 ‘전유성 전처’ 진미령도 애도…근조화환에 적힌 문구 디시트렌드 09.27
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2