RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 159 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	뛰어난 운동 신경으로 남자와 싸워도 이길 것 같은 여자 스타는?	운영자	25/11/24	-	-
AD	따뜻한 겨울나기! 방한용품 SALE	운영자	25/11/27	-	-
2898634	ㅆㅇㅆ야 개발자는 직업수명이 짧다. 잘생각해라 [6]	ㅇㅇ(106.101)	10.26	1009	12
2898632	타로 근데 예전에 어느 프붕이가 실직상태일때 알바로 쓱 만들고 끝낸거 [1]	ㅇㅇ	10.26	145	0
2898631	나는 점마들이 말하는 것들을 좀 이해를 못하겠어 그냥. [3]	ㅆㅇㅆ(124.216)	10.26	115	0
2898630	미안! 내가 너무 어려운거 바랬다! [3]	ㅆㅇㅆ	10.26	90	0
2898629	아이고.. 유동아 왤케 표독해졌니 [6]	에이도비	10.26	138	4
2898628	흠, RAG는 그냥 정보 넣어둬서 하는거임 뭔가 착각하는디 [9]	ㅆㅇㅆ(124.216)	10.26	123	0
2898626	ㅆㅇㅆ야 타로사이트에 rag같은거 넣지 말고 [1]	ㅆㅇㅆ	10.26	109	0
2898625	그레셤의 법칙이 더닝 크루거에 선행함 [3]	chironpractor	10.26	124	0
2898624	ㅆㅇㅆ는 왜 고닉 안먹었음? ㅇㅇ? [2]	ㅆㅇㅆ	10.26	126	0
2898623	아니 그런데 진짜 궁금하네 타로사이트에 rag는 왜넣음 대체? [2]	ㅇㅇ(106.101)	10.26	105	0
2898622	내가 차단해서 무시하면 되는일이라 괜찮 [1]	ㅆㅇㅆ(124.216)	10.26	94	0
2898621	쟤는 뭐 아는게 하나도 없냐 [2]	ㅇㅇ(124.48)	10.26	83	1
2898620	애들아 일요일인데 싸우지말고 좀 쉬어라 [2]	루도그담당(58.239)	10.26	97	0
2898619	ㅆㅇㅆ야!! 대체 왜 타로 사이트에 rag를 처박니???? [1]	ㅇㅇ(15.204)	10.26	126	0
2898618	논문 재현 의뢰 몇건하다보니 느낀건데 왜 [4]	ㅆㅇㅆ(124.216)	10.26	112	0
2898617	내 타로사이트에 제미나이 api 붙여서 타로 채팅하게하려는데 [4]	ㅆㅇㅆ(124.216)	10.26	110	0
2898616	다른 사람 말을 신경쓰지 말아야 하는 이유- [2]	프갤러(121.172)	10.26	114	1
2898615	ㅆㅇㅆ야 그저 실력으로 입증하면 다 해결된다 [1]	ㅇㅇ(106.101)	10.26	109	0
2898613	가치관 불량한 에이스는 쓸모가 없음 [4]	chironpractor	10.26	125	1
2898612	아니 그냥 실력으로 처바르면 되는거 아님?	ㅇㅇ	10.26	76	0
2898610	니들은 왜 만날 싸우냐? [3]	프갤러(121.172)	10.26	93	1
2898608	그냥 열등감 덩어리들 보면 좀 불쌍하지 않냐. [8]	ㅆㅇㅆ(124.216)	10.26	137	1
2898605	다시 한번 말한다. 변명 위에 세워진 성공은 없다. [1]	ㅇㅇ(106.101)	10.26	75	0
2898604	[대한민국] 국회 공자학원 퇴출 요구	프갤러(121.172)	10.26	87	0
2898601	부천역 bj들 내쫒는 분위기네	프갤러(211.210)	10.26	81	0
2898598	비전공인거? 솔직히 ㅈ도 상관없음 [1]	ㅇㅇ(106.101)	10.26	127	0
2898595	이해가 안감. 보통 당연히 문서랑 레퍼런스 기반으로 이야기하지 않음? [2]	ㅆㅇㅆ(124.216)	10.26	107	0
2898592	문서 번역기 돌리고 읽어봤으면 그게 전문가지..병신아. [4]	ㅆㅇㅆ(124.216)	10.26	133	0
2898590	윈도우 인터널스 읽는 중 [2]	루도그담당(58.239)	10.26	86	0
2898589	계속 글 신고글삭당하노 [3]	ㅆㅇㅆ(124.216)	10.26	95	0
2898587	온갖 유동이 아니라 그냥 한두명임	ㅆㅇㅆ(124.216)	10.26	110	0
2898582	시간 참 빠르다 [7]	루도그담당(58.239)	10.26	123	0
2898572	디시 앱 빨갱이 모드ON [3]	프갤러(110.8)	10.26	98	0
2898571	잠운 도착	♥벼락부자냥덩♥	10.26	75	0
2898569	어째 읽을만한 글이 하나도 없나.. 흠 [2]	나르시	10.26	113	0
2898568	[애니뉴스] 불멸의 그대에게 감상 [1]	프갤러(121.172)	10.26	92	0
2898563	밥 벌어먹기 힘들다 [5]	ㅆㅇㅆ(124.216)	10.26	126	0
2898559	집에 김치없는데 백반집 셀프코너에서 김치 담아와도 됨? [4]	ㅁㅁ	10.26	129	0
2898558	자본주의 선배나라들의 전철을 밟고 있는 한국	chironpractor	10.26	96	0
2898557	확실히 뛰뛰도 짬지 쌓이니까 나님게 맞는 적정루틴 알게됨 [3]	♥벼락부자냥덩♥	10.26	85	0
2898556	부천역 BJ들 내쫒는 분위기네 [1]	프갤러(211.210)	10.26	105	0
2898555	나는내향적이야 나는조현병이야	손발이시립디다	10.26	70	0
2898554	디스코드 개인정보 유출됐었나??	ㅇㅇ(122.199)	10.26	79	0
2898552	잔다~ ㅇㅅㅇ [3]	헤르 미온느	10.26	100	0
2898551	코테 안풀고 나가면 [2]	프갤러(106.101)	10.26	158	0
2898550	간단한 홈페이지 제작 20만 할 사람 있음? 급함 [3]	ㅇㅇ(15.204)	10.26	138	1
2898545	요즘 울나라 보면 간첩이 공작중인거는 같애..ㅇㅅㅇ [1]	헤르 미온느	10.26	107	0
2898544	이거 그림 같지 않아? ㅇㅅㅇ [2]	헤르 미온느	10.26	131	0
2898542	로또 당첨되었다. 기분 조타..ㅇㅅㅇ [3]	헤르 미온느	10.26	104	0
2898541	태연 ㅇㅅㅇ	헤르 미온느	10.26	88	0