RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 119 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	해외에서 겪는 불합리한 대우에 대응 잘 할 것 같은 스타는?	운영자	25/11/03	-	-
AD	저녁 뭐먹지? 오늘의 메뉴 추천!	운영자	25/10/31	-	-
2899688	배 아파서 항외과	넥도리아(223.38)	10.31	55	0
2899687	[애니뉴스] 소설 사이트 개발 [2]	프갤러(121.172)	10.31	69	0
2899686	냥덩이가 나 따라다니는거 다중이로 하는거 그냥 무시해라	ㅆㅇㅆ(124.216)	10.31	65	2
2899683	글카 가격 정상화 되냐? [6]	루도그담당(58.239)	10.31	120	0
2899682	일이 고정이 아니고 취소됐다 안됐다 하니 쩝. 오늘은 나가리네 [2]	ㅆㅇㅆ(124.216)	10.31	86	0
2899681	냥덩이는 ㅆㅇㅆ한테 열등감 느끼니 저러는거지 [1]	ㅇㅇ(112.163)	10.31	86	2
2899680	국내 최원종 앙성 갤러리 ㅋㅋ	ㅇㅇ(118.235)	10.31	64	0
2899679	냥덩이는 왜 다중이로 ㅆㅇㅆ 괴롭히냐 [2]	ㅇㅇ(112.163)	10.31	77	2
2899678	이갤은 ㅆㅇㅆ같은 빡통 좆문가가 왜케 많냐 [4]	ㅇㅇ(118.235)	10.31	123	4
2899677	[대한민국] 윤석열 대통령 재판 상황 - 곽종근	프갤러(121.172)	10.31	54	0
2899676	이봐봐 러스트 안쓰니까 쓸데없는걸로 싸움질 하다 갤 망했네	프갤러(218.154)	10.31	55	0
2899674	답을 찾았다. 저능아들을 계몽시킬 방법을 [1]	프갤러(218.154)	10.31	72	0
2899673	진짜 개좇센은 전세계 재벌들 좇판 좇집실험장이누	타이밍뒷.통수한방(1.213)	10.31	49	0
2899671	ㅆㅇㅆ쟤는 10년 20년 30년뒤에도 저지랄할까봐 [3]	ㅇㅇ(118.235)	10.31	123	4
2899670	무릎 아파. .	넥도리아(223.38)	10.31	47	0
2899669	월말 백업중..ㅇㅅㅇ [3]	헤르 미온느	10.31	79	1
2899668	시들어가는 국화 ㅇㅅㅇ [2]	헤르 미온느	10.31	68	0
2899667	태연 ㅇㅅㅇ	헤르 미온느	10.31	52	0
2899666	하루 한 번 헤르미온느 찬양	헤르 미온느	10.31	83	0
2899665	성당과 시장 [1]	ㅇㅇ(49.165)	10.31	69	0
2899661	여기있는거 다 안다 게이야	ㅇㅇ(49.236)	10.31	84	0
2899660	유폐차냐?	ㅇㅇ(49.236)	10.31	74	0
2899659	나 지금 매일 개인적으로 하고 있는 목표가 프로그래밍 패턴 용례 정리임	ㅆㅇㅆ(124.216)	10.31	108	0
2899658	머리가 극도로 좋은 애들이야 구현 하면 되는거고 [2]	ㅆㅇㅆ(124.216)	10.31	144	0
2899657	GOF 23가지 패턴 말고도 패턴들 거의 정형화되있잖아? 사실 패턴 뼈대 [2]	ㅆㅇㅆ(124.216)	10.31	121	0
2899655	나는 개발자 오래 해먹을 수 있다고 생각하는게 지금 문제는 [2]	ㅆㅇㅆ(124.216)	10.31	189	0
2899654	앞으로는 설계를 잘하는 사람보다 [7]	루도그담당(58.239)	10.31	177	0
2899653	개발자라는 직업 덕목이 아무래도 패턴 짜는거니까 어쩔수 없지 [2]	ㅆㅇㅆ(124.216)	10.31	125	0
2899652	개발자라는 직업이 참 [1]	루도그담당(58.239)	10.31	137	0
2899646	IT 자원에 돈아끼는 IT 기업은 절대 가지마라	프갤러(118.235)	10.31	92	0
2899643	프갤러들아 질문 받아라. [6]	cvs.	10.31	100	0
2899637	남들 바이브 코딩하는거봤는데 이거 4~5개 돌리던데 [2]	ㅆㅇㅆ(124.216)	10.30	129	0
2899635	저좀 도와주세요(엔트리)	프갤러(39.123)	10.30	73	0
2899618	클로드 코드 메모리 기능 업데이트하고 사실상 바이브코딩 거의 못함	ㅆㅇㅆ(124.216)	10.30	81	0
2899615	발명도둑잡기야 ㅆㅇㅆ한테 사과했냐? [4]	ㅇㅇ(106.101)	10.30	123	5
2899611	미래의 어느 역사학자들의 대화라는데 (에필로그)	프갤러(211.210)	10.30	50	0
2899610	미래의 어느 역사학자들의 대화라는데 (요약편)	프갤러(211.210)	10.30	48	0
2899609	미래의 어느 역사학자들의 대화라는데	프갤러(211.210)	10.30	60	0
2899608	핑계고에서 미미가 요즘 원숭이 귀가 유행이라고	프갤러(211.210)	10.30	65	0
2899607	아이폰이 롤리팝을 이긴 것처럼	프갤러(211.210)	10.30	53	1
2899606	화교의 속마음 [1]	프갤러(211.210)	10.30	77	0
2899604	청룡영화제 뭐 이런 단어	프갤러(211.210)	10.30	69	0
2899603	요즘 좌파 화교 특	프갤러(211.210)	10.30	60	0
2899602	기안84 수상한 건 [1]	프갤러(211.210)	10.30	122	0
2899601	알고보니 어렸을 때 치파오 입고 있었고	프갤러(211.210)	10.30	55	0
2899600	문화에 힘을 왜 쓰냐 다 구란데 [1]	프갤러(211.210)	10.30	76	0
2899599	김창욱 김제동 오은영 같은	프갤러(211.210)	10.30	62	0
2899598	부천역 bj들 내쫒는 분위기네	프갤러(211.210)	10.30	70	0
2899597	개쳐맞는것도 소통이긴함	ㅇㅇ(118.235)	10.30	61	3
2899596	ㅆㅇㅆ 지금 삶의 의지가 잔뜩 꺽였음 ㅋㅋㅋ [1]	ㅇㅇ(106.101)	10.30	121	2