RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 68 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	스타보다 주목 받는 것 같은 반려동물은?	운영자	25/10/20	-	-
AD	할로윈 슈퍼위크~!!	운영자	25/10/23	-	-
공지	프로그래밍 갤러리 이용 안내 [97]	운영자	20.09.28	48202	65
2898190	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤	♥벼락부자냥덩♥	08:14	7	0
2898186	가을을 느낄 수 있는..ㅇㅅㅇ [1]	헤르 미온느	06:49	14	0
2898185	태연 ㅇㅅㅇ	헤르 미온느	06:48	8	0
2898184	하루 한 번 헤르미온느 찬양	헤르 미온느	06:47	13	0
2898183	드디어 ㅅㅂ 집 들어갑니다. 심장이 아파요;;	ㅇㅇ(223.38)	06:42	15	0
2898180	실시간 화면공유 하는 프로그램	프갤러(125.240)	06:04	21	0
2898170	한국에서 마약사범이 늘어난 진짜 이유	야옹아저씨	05:16	29	0
2898160	가난이 밉다... 추운날 어디 잘곳도 없어 길바닥을 전전하는 인생이... [1]	ㅇㅇ(223.38)	03:39	35	0
2898149	이번에 오픈 ai에서 공개된 경제 계획청사진 봤냐 [4]	ㅆㅇㅆ(124.216)	01:53	61	0
2898140	취미코딩 갤러리가 오픈했습니다 [2]	Mosaic	01:31	55	0
2898135	내가 느끼는게 이거 깃헙 스타찍는 버릇이 좋지 않더라 [6]	ㅆㅇㅆ(124.216)	01:21	57	0
2898124	최근에 쪽팔렸던게 의뢰인 앞에서 구현 실패해서 비웃음 당한거 [2]	ㅆㅇㅆ(124.216)	01:03	61	1
2898123	근데 에이도비 행님 말이 맞는듯 실제로 생각해보면 [2]	ㅆㅇㅆ(124.216)	01:03	44	0
2898120	중국인이 만든 프로젝트중에 이번에 뜨는게 그 논문번역 서비스 [7]	ㅆㅇㅆ(124.216)	00:59	60	0
2898119	-	프갤러(221.149)	00:56	16	0
2898115	인생 신기하노 [5]	프갤러(221.149)	00:53	115	0
2898106	내 얼굴 사진인데 어때?	ㅁㅁ	00:27	59	0
2898105	음기 충전	발명도둑잡기(118.216)	00:27	47	0
2898103	의뢰인이 내가 코딩하는 거 지켜보는 걸 그냥 냅둬? [6]	에이도비	00:11	67	0
2898102	스페이스X, 미얀마 사기 거점에 악용된 '스타링크 2500대' 차단	발명도둑잡기(118.216)	00:06	17	0
2898101	이준석이 대단하긴 함 [1]	타이밍뒷.통수한방(1.213)	00:06	29	0
2898099	진짜 ai덕에 모르는거 쉽게하긴한다 [2]	노력	10.24	73	0
2898097	냥덩이 캄보디아로 잡혀가서... [1]	발명도둑잡기(118.216)	10.24	28	0
2898096	서버샀죠 [7]	노력	10.24	68	0
2898095	감자튀김 먹는 노무현 전 대통령	발명도둑잡기(118.216)	10.24	48	0
2898094	한국 강의 몇편 봤는데 맥락없이 단어로만 번역함 [6]	ㅆㅇㅆ(124.216)	10.24	61	0
2898092	근데 프로그래밍 서적들 아키텍트 서적들 보면 한국 강사들꺼 왜 배우나 [3]	ㅆㅇㅆ(124.216)	10.24	55	0
2898091	금이 급락했으니 지금이 매수할 때다 [1]	발명도둑잡기(118.216)	10.24	28	0
2898090	민희진 오케이 설립 기사 보니 생각나는 글	발명도둑잡기(118.216)	10.24	76	0
2898088	[1인`1개] 배 민 30,000 원 짜리 아무나 써 ! [1]	ㅇㅇ(223.39)	10.24	25	0
2898087	내가 느끼기에 ㅆㅇㅆ가 프갤에서 머리 제일 좋다 [6]	발명도둑잡기(118.216)	10.24	66	0
2898086	템플 OS의 장점 [1]	발명도둑잡기(118.216)	10.24	31	0
2898082	악마의 라이센스 BSD, NSA가 BPF를 리눅스 백도어로 사용	발명도둑잡기(118.216)	10.24	24	0
2898080	지적당하는게 문제가 아니고 좆도모르는데 지적하니까 문제지 [1]	ㅆㅇㅆ(124.216)	10.24	47	0
2898079	옳치 옳치.. 이리온.. [4]	♥벼락부자냥덩♥	10.24	56	0
2898078	한국인은 일평생 집에 애쓴다. [1]	프갤러(175.197)	10.24	35	0
2898077	냥덩아 [4]	개멍청한유라	10.24	46	0
2898074	냥덩이가 다 잘못했으니 이제 그만해주세양 ㅠ ㅅ ㅠ [9]	♥벼락부자냥덩♥	10.24	62	0
2898070	우리는 모두가 서로를 사랑해야행❤ [3]	♥벼락부자냥덩♥	10.24	39	1
2898069	쟨 열등감에 찌들어있어서 지적 당하면 발작함 [3]	ㅇㅇ(124.48)	10.24	88	4
2898068	지금 미국주식 살 타이밍인듯	chironpractor	10.24	50	0
2898067	❤✨☀⭐⚡☘⛩나님 행복합니당⛩☘⚡⭐☀✨❤ [1]	♥벼락부자냥덩♥	10.24	34	0
2898066	나님 비밀 최초 공개⭐+ [1]	♥벼락부자냥덩♥	10.24	57	0
2898064	개발자용 따로 고객용 따로ㅋㅋㅋㅋㅋㅋ	프갤러(59.16)	10.24	32	0
2898061	냥덩이 괴롭히지 말고 썩~! 꺼지라냥! [2]	♥벼락부자냥덩♥	10.24	45	0
2898060	슬기도 한화네	발명도둑잡기(211.234)	10.24	28	0
2898059	뭣?!? 거기에?!? [8]	♥벼락부자냥덩♥	10.24	46	0
2898058	❤✨☀⭐⚡☘⛩나님 시작합니당⛩☘⚡⭐☀✨❤ [2]	♥벼락부자냥덩♥	10.24	58	0
2898057	디버깅 관련 아는 형들 질문좀 [10]	ㅇㅇ(121.131)	10.24	72	0