RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 183 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	연말 모임 가는 곳마다 가장 인싸일 것 같은 스타는?	운영자	25/12/08	-	-
이슈	[디시人터뷰] 솔직함을 리뷰하는 유튜버, 흑백리뷰	운영자	25/12/09	-	-
AD	루틴 ON! 운동 찐템! 지금 할인 중	운영자	25/11/27	-	-
공지	프로그래밍 갤러리 이용 안내 [98]	운영자	20.09.28	48870	65
2907497	국정원 블랙리스트에 '찍힌 연예인' 집단 소송 움직임	발명도둑잡기(118.216)	22:34	0	0
2907496	국가보안법과 헌법의 충돌 현장! \| 변호인(영화-2013) \| 노무현	발명도둑잡기(118.216)	22:30	0	0
2907495	국가보안법과 표현의 자유는 양립불가 [1]	발명도둑잡기(118.216)	22:24	4	0
2907494	정지영 감독, "국보법 때문에 나도 '자기검열' 해야 했다." [1]	발명도둑잡기(118.216)	22:22	3	0
2907492	국가보안법 철폐가 3 - 노래패 우리나라	발명도둑잡기(118.216)	22:16	4	0
2907491	국가보안법 철폐가 2	발명도둑잡기(118.216)	22:15	4	0
2907490	국가보안법 철폐가	발명도둑잡기(118.216)	22:12	4	0
2907489	쿠팡 패스워드가 뚫린 것 같습니다. ㅠㅠ [4]	나르시	21:26	32	0
2907488	부트캠프란 용어는 미제 군국주의의 잔재다 [8]	발명도둑잡기(118.216)	21:14	28	0
2907486	◆ 볼보트럭 정비사 VS 개발자 [1]	ㅇㅇ	21:04	32	0
2907485	님들 화면이 깜빡이다가, 소리 나오면 잘 나와요.	넥도리아(220.74)	21:03	9	0
2907484	NetBSD 이식성 유사 운영체제	발명도둑잡기(118.216)	20:57	31	0
2907483	NetBSD 부러운 점이 하드웨어 이식성	발명도둑잡기(118.216)	20:50	18	0
2907482	나 대학생 때는 리눅스 커널 버전이 2.2대였는데 2.4로 올라가면서	발명도둑잡기(118.216)	20:45	17	0
2907481	요즘 구형 컴퓨터 에뮬레이터는 FDD, HDD 소리도 내주네	발명도둑잡기(118.216)	20:39	14	0
2907480	이거 음악 제목 아시는 분	발명도둑잡기(118.216)	20:25	13	0
2907479	프로그래머스 국비 경쟁률 왜케 빡셈	프갤러(175.214)	20:21	21	0
2907477	아~ 한남패죽이기 딱 좋은날이다 [8]	개멍청한유라	20:07	47	0
2907476	요즘 국비를 부캠이라고 함? [3]	헬마스터	19:58	48	0
2907475	FreeBSD용 Nimf 2025.12.10 출시합니다. [5]	나르시	19:49	22	0
2907474	부캠 투표 좀 [1]	프갤러(182.230)	19:37	29	0
2907472	좇센은 범죄자새끼들만 좇같은게아니라서 더 좇같은나라인거임	타이밍뒷.통수한방(1.213)	19:24	21	0
2907471	면 개발자 만으로 7년 느낀 점	hep	19:10	32	0
2907470	거이씹 모기새기 [3]	♥발라당냥덩♥	19:07	30	0
2907468	프로그래밍 1도 모르던 내가 게임모드 만들엇슴...	프갤러(183.104)	18:55	42	1
2907466	점심 간식	발명도둑잡기(39.7)	18:46	16	0
2907463	프리랜서랑 정규직 같이 해본 사람 있어?	야옹해	18:00	27	0
2907462	회사가 니네 누군지 모를 거 가틍ㅁ??? ㅋㅋ [3]	ㅇㅇ(222.108)	17:58	67	0
2907461	임포스터 증후군을 체험하기 위한 가짜 자괴감 끝에 [2]	chironpractor	17:52	30	0
2907458	신입 개발자 오늘 한 일. [6]	cvs.	17:40	81	0
2907457	왜 프로그래머는 화가 많을 [1]	ㅇㅇ(222.108)	17:40	38	0
2907456	쌩초보 강의 or 책 추천해주세요........ [8]	프갤러(211.50)	17:36	48	0
2907455	니네 ai 이용해서 수학 공부해라 [5]	ㅇㅇ(222.108)	17:36	59	0
2907453	집에 가자 !	cvs.	17:20	15	0
2907452	Hex dump 에서 원본 복구 절대못하지? [3]	프갤러(106.101)	17:01	44	0
2907451	장사를 해보니 개발이 재밌었긴 했지만 [2]	chironpractor	16:51	58	0
2907450	저연차부터 풀스택 필수라는 새끼들 특 [1]	프갤러(112.220)	16:43	55	2
2907449	앱히키 = 실력, 운도 없는 새끼	ㅇㅇ(222.108)	16:34	33	0
2907448	로또가 수학적으로 손해라서 안한다는 븅신새끼들은 뭘까 ㅇㅅㅇ [3]	ㅇㅇ(223.38)	16:32	45	0
2907446	❤✨☀⭐⚡☘⛩☃나님 시작합니당☃⛩☘⚡⭐☀✨❤	♥발라당냥덩♥	16:25	27	0
2907445	개발을 접더라도 실력이 없어서라고 생각하지는 말았으면 좋겠어 [7]	chironpractor	16:23	68	0
2907444	나도 공부하는게 싫어서 개발 직군 온 사람인데 [3]	루도그담당(58.233)	16:13	68	0
2907441	요즘 개발직군 경쟁 개빡세서 그냥 다른일 알아보는중 [4]	ㅇㅇ	15:43	79	1
2907438	4년차 현타왔다 [1]	프갤러(39.127)	14:41	92	0
2907437	너 쌓여있잖아...	넥도리아(223.38)	14:33	40	0
2907436	개발자는 한곳에 오래있음 안되겠더라 [4]	프갤러(211.240)	14:28	113	0
2907435	갤기장 is 사이언스	넥도리아(223.38)	14:28	44	0
2907434	아버지신고하고각오의모습 보여드리려고해요.	넥도리아(223.38)	14:26	16	0
2907433	키바나? 엘라스틱서치? [13]	개멍청한유라	14:06	83	0