RAG를 만들어봤는데 RAG는 본질적으로 LLM에 종속된 기술이라

ㅆㅇㅆ(124.216) 2025.10.24 04:50:17

조회 157 추천 0 댓글 3

나는 내 문서들을 다 벡터 임베드 해서 RAG로 해서 LLM 커스텀해서 쓸려고해도

결국 이 커스텀 문서를 읽는 비용과 리트리버하는 토큰이 말도 안되더라

결국 RAG라는게 LLM에 없는 지극히 사적인 문서와 최신화 문서를 넣는데 좋지만

이 경우 여전히 핵심은 토큰이라는 경제적 한계에 부딪히게 되더라.

결국 핵심적으로 말하자면 LLM을 만들어서 실제로 돌려보는게 맞는거 같은데 이것도 데이터가 한계가 있고

그렇다고 안쓰자니 너무나 많은 생산성 차이가 있고

RAG는 사실 몇번 만들어서 써봤지만 이건 전혀 실용적인 기술이 아닌게

결국 LLM에 생각에 외주를 주고, RAG로 벡터 임베딩한걸 AI가 백프로 다 완전히 맥락에 대한 복원을 못하더라.

한계가 있어

고정닉 0

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	뛰어난 운동 신경으로 남자와 싸워도 이길 것 같은 여자 스타는?	운영자	25/11/24	-	-
이슈	[디시人터뷰] 충무로가 주목하는 신예, '세계의 주인' 서수빈	운영자	25/11/24	-	-
AD	대학생 필수템! What's in my Bag	운영자	25/11/21	-	-
2903527	내란견들을 사형시켜야 주가가 쑥쑥 오를텐데 [5]	발명도둑잡기(39.7)	11.19	105	0
2903522	내란 동조자 색출해서 씨를 말려서 2차 내란 방지해야지 [1]	발명도둑잡기(39.7)	11.19	76	0
2903520	촉촉한 초코 케익처럼 달콤한 모모링❤ [3]	♥KiTTY냥덩♥	11.19	88	0
2903519	김현지 휴대폰 수색 철저히 수사해야 [2]	♥KiTTY냥덩♥	11.19	71	1
2903516	부업하는 갤럼 있니? [3]	가연아	11.19	131	0
2903515	기계식 키보드 샀다 [4]	ㅇㅇ(113.59)	11.19	114	0
2903514	삼국사기 게임 개발 중. 후원이 필요함. [2]	책사풍후	11.19	80	0
2903512	아직 영상 ai쪽은 많이 부족하네.. [2]	♥KiTTY냥덩♥	11.19	132	0
2903511	카시오 건반 개조	발명도둑잡기(39.7)	11.19	53	0
2903510	레고 차	발명도둑잡기(39.7)	11.19	57	0
2903509	This Computer Is Definitely Not A Toy [1]	발명도둑잡기(39.7)	11.19	58	0
2903507	형님들 지금도 코딩 국비지원 취업 잘 됩니까.. [9]	프갤러(125.185)	11.19	185	0
2903506	전광판 회사 [1]	발명도둑잡기(39.7)	11.19	73	0
2903503	Android 개발 커리어 [3]	프갤러(116.45)	11.19	75	0
2903502	일본이 싫었던 미야자키 하야오	발명도둑잡기(39.7)	11.19	98	0
2903501	[대한민국] 최순실 사건!? 신은 있었다! 2탄!	프갤러(121.172)	11.19	46	0
2903500	홍대 알라딘에서 <8체질의학> 책 샀다 [1]	발명도둑잡기(39.7)	11.19	104	0
2903499	마포도서관서 컴퓨터 책 열권 빌렸다 [1]	발명도둑잡기(39.7)	11.19	87	0
2903497	뽀로로 칼라 컴퓨터	발명도둑잡기(39.7)	11.19	87	0
2903495	삼국사기 게임 개발일지_근구수와 침류 넣음 [2]	책사풍후	11.19	63	0
2903492	거대한.. [4]	♥KiTTY냥덩♥	11.19	118	0
2903489	4050 극좌 빨갱이들이 인스타에서 못 깝치는 이유 [4]	♥KiTTY냥덩♥	11.19	104	3
2903488	Mp3네... 음질....	도리스아(223.38)	11.19	51	0
2903487	11년전 폰 케이스 팔지도 않네요...	도리스아(223.38)	11.19	69	0
2903485	으악 시발 맘스터치에서 씹뜨억 행사중 [3]	프갤러(182.227)	11.19	150	1
2903484	antigravity	ㅇㅇ	11.19	85	0
2903481	파이썬 gui는 별로 인기 읎네 [3]	프갤러(14.52)	11.19	82	0
2903480	길가는 여성분한테 뺨때려달라고 요청하는거 ㄱㅊ냐 [1]	ㅁㅁㅅ	11.19	92	1
2903479	키킥 데비안 12에서 13 업그레이드 성공 [2]	프갤러(121.133)	11.19	73	0
2903478	러스트 안배우고 자바 자스 파이썬 이딴거 하니까 iq가 내려가는거다. [7]	프갤러(121.133)	11.19	148	0
2903477	답십리미디어센터에 해리포터 화보 두꺼운 책 있었는데 없어졌다	발명도둑잡기(39.7)	11.19	54	0
2903476	홍대역 내렸는데 치킨 냄새가 진동하는구나 [3]	발명도둑잡기(39.7)	11.19	99	0
2903474	선택과집중의 시간이 오는군.. [1]	♥KiTTY냥덩♥	11.19	79	0
2903473	한국 IQ ㅂㅅ 되가네 [2]	프갤러(211.235)	11.19	135	1
2903472	c++에 쓰기 좋은 gui가 무엇일까 [9]	프갤러(115.21)	11.19	126	0
2903471	버스 전광판 기둥 원가 얼말까	발명도둑잡기(39.7)	11.19	49	0
2903470	무학여고 지나가는데	발명도둑잡기(39.7)	11.19	55	1
2903469	서울 = 짱깨 전라도인들의 혜택을 위한 도시	프갤러(1.213)	11.19	68	0
2903467	버스 안내판 폰트 렌더링 컬러도 나오게 바뀌었다 [2]	발명도둑잡기(39.7)	11.19	99	0
2903466	자바 인턴 뽑아서 러스트 가르치고 못따라오면 해고 [9]	프갤러(110.8)	11.19	98	0
2903465	Aliexpress 블프 쿠폰코드 총정리(11/20~)	프갤러(222.117)	11.19	62	0
2903464	AIFair 개재밌넹	ㅇㅇ(114.200)	11.19	62	0
2903463	거품은 아직 꺼지지 않았다 자바 경쟁율 [1]	프갤러(59.16)	11.19	111	0
2903462	이미 퇴근한 사람이면 개추좀 ㅋㅋㅋ [8]	루도그담당(118.235)	11.19	120	2
2903460	아씨~~~~발 [17]	개멍청한유라	11.19	151	0
2903459	학석박사수업에 마법같은 무언가가 있을거라 기대하는게 잘못인가 [16]	공기역학	11.19	111	0
2903457	사도마조히즘이 바탕인 파시스트당이 장애인 비하를 좋아한다	발명도둑잡기(118.216)	11.19	42	0
2903456	구굴롬들도 알바 쓰나?	프갤러(49.165)	11.19	48	0
2903455	한국 언론이 대부분 수구보수인 이유는 국가보안법 때문이다	발명도둑잡기(118.216)	11.19	39	0
2903452	음악을 분류할 때 쓰이는 감정 형용사	발명도둑잡기(118.216)	11.19	48	0