업스테이지·퓨리오사AI 맞손, '국산NPU에 국산 LLM 올린다'

IT동아

2025.06.25 13:48:47

조회 188 추천 0 댓글 0

[IT동아 남시현 기자] 인공지능(AI) 기술 기업 업스테이지와 AI 반도체 팹리스 기업 퓨리오사AI가 AI 시장 경쟁력 강화를 목표로 양해각서를 체결했다. 이번 양해각서는 퓨리오사AI의 2세대 신경망처리장치(NPU) ‘RNGD(레니게이드)’에 업스테이지의 대형언어모델(LLM) 솔라를 탑재하는 것을 목표로 한다. 또한 네트워크 연결 없이 폐쇄된 환경에서도 퓨리오사AI NPU를 기반으로 솔라 기반 AI가 구동되는 온프레미스 AI 구축 사업을 공동 추진하고 향후 글로벌 시장 공략에서 나선다.

백준호 퓨리오사AI 대표(좌측)와 이활석 업스테이지 CTO(우측) / 출처=업스테이지

이번 협약식은 백준호 퓨리오사AI 대표와 이활석 업스테이지 최고기술책임자(CTO)를 비롯한 양사 주요 관계자들이 참석한 가운데 진행됐다. 퓨리오사AI와 업스테이지 간의 양해각서 체결은 지난 2022년 퓨리오사AI의 1세대 NPU ‘워보이’와 업스테이지의 광학문자인식(OCR) 설루션 관련 협력 이후 두 번째다.

가볍게 알아보는 AI 모델의 구동 방식

일반적으로 AI라고 했을 때 떠올리는 서비스는 오픈AI의 챗GPT다. 챗GPT는 대량의 데이터를 사전에 학습한 뒤 자연어를 이해하고 생성하는 능력을 갖춘 대형언어모델이다. 대형언어모델을 쉽게 설명하면 도서관이고, 챗GPT 같은 AI 모델은 정답이 적힌 책을 찾아주는 사서라고 할 수 있다. 사용자가 자연어로 질문하면 사서 역할을 하는 GPT-4o 등의 AI 모델이 내용을 인식하고, 수십억 개의 장서가 갖춰진 도서관에서 정답이 적힌 서적을 찾아서 제공하는 식이다.

업스테이지가 시범 제공하는 대화형 AI / 출처=업스테이지

AI의 성능을 끌어올리기 위해서는 도서관의 도서 수를 많이 확보하면 되고, 더 좋은 정답과 이해 능력을 올리려면 사서를 교육하면 된다. 여기서 도서관의 장서가 곧 데이터의 총량이라 할 수 있고, 장서 수가 많을수록 AI가 찾아서 제공할 수 있는 결과도 많아진다.

하지만 단순히 책이 많다고 해서 도서관의 수준이 올라가는 게 아니듯 데이터의 품질을 끌어올리고 개량하는 작업이 필요하다. 또 사서의 능력과 효율을 올리기 위한 학습 과정도 필요하다. 여기서 필요한 장치가 그래픽 카드(GPU)며 현재 엔비디아의 GPU 장치가 90% 이상의 시장 점유율을 가져가고 있다.

문제는 많은 기업들이 AI 구동에 필요한 매개변수를 다듬고, AI의 성능과 효율을 끌어올리다 보니 전 세계적으로 GPU의 수요가 늘고 있다. 이로 인해 GPU 가격이 오르는 것은 물론 수급에도 어려움을 겪고 있다. 특히 모델을 학습하는 방안은 아직까지 GPU를 활용하는 게 가장 효과적이라서 많은 비용을 들여서라도 GPU를 수급하는 기업들이 많다. 그런데 AI 모델이 기존에 구축된 도서관에서 장서를 찾아주는 역할인 ‘추론’ 과정은 고가의 GPU가 아닌 NPU를 사용할 수 있다. NPU는 AI 처리에 전용으로 설계된 반도체로 GPU 대비 낮은 소비전력으로 AI 추론 작업을 수행한다.

국산 NPU와 국산 LLM의 결합, 어떻게 이뤄지나?

이번 양해각서의 주요 내용은 퓨리오사AI의 NPU에 업스테이지의 LLM을 탑재하는 것이다. 업스테이지가 어떤 LLM을 탑재할 것인가까지 구체적으로 밝히진 않았지만, 이전에 출시된 모델부터 도입하거나 오는 7월 중 출시할 솔라 프로 2.0 LLM을 탑재할 가능성도 있다.

솔라 프로 2는 ‘MMLU(종합 지식)’ ‘IFEval(지시 이행)’ 등 주요 LLM 성능 지표에서 메타 라마 4 스카우트보다 높은 성능을 발휘했고, 라마 3.3 70B 및 알리바바 큐웬 2.5 72B 등 매개변수가 두 배가 넘는 모델보다 좋은 성능을 냈다. 아울러 업스테이지 LLM 중 처음으로 추론 모드를 추가해 복잡한 문제에서 정교한 답변을 제공한다.

퓨리오사AI의 2세대 반도체 레니게이드의 기판 / 출처=퓨리오사AI

퓨리오사AI의 RNGD는 ‘엔터프라이즈 및 클라우드를 위한 AI 추론’에 최적화된 반도체다. AI 모델을 생성하고 구축하는 것보다는 AI 모델을 구동하고 작업을 수행하는 용도다. 따라서 업스테이지가 LLM을 개발하면 퓨리오사AI의 RNGD가 이를 처리하는 방식이 될 전망이다. 향후 업스테이지가 일반 사용자 대상으로 챗GPT와 같은 챗봇 서비스를 제공하면 퓨리오사AI RNGD가 연산을 처리할 수 있다.

덧붙여 온프레미스 AI 사업 구축 관련 협력은 금융, 국방 등 폐쇄망이나 임베디드 시스템 등 네트워크 연결이 없지만 AI 수행이 필요한 환경에서도 퓨리오사AI RNGD를 활용해 AI를 쓸 수 있도록 하는 작업이다.

김성훈 업스테이지 대표는 “이번 협력은 국내 AI 산업 자립화를 향한 의미 있는 발걸음”이라며, “AI 소프트웨어부터 하드웨어까지 모두 국내 기술로 구현하는 데 큰 의의가 있으며, 앞으로도 업스테이지는 퓨리오사AI와의 긴밀한 협력을 바탕으로 글로벌 시장에서도 한국형 AI의 기술 경쟁력을 입증해 나가겠다”라고 말했다.

IT동아 남시현 기자 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 공공 AI의 주축으로 떠오른 '소버린 AI', 해외 주요 국가 동향은 ▶ 빅테크가 'AI' 기술 깎을 때, 세일즈포스는 '도입 가능성'에 집중했다 ▶ AMD, UMPC용 CPU 라인업 확충··· 'AI·보급형 시장 모두 노린다'

고정닉 0

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순 최신순 답글순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	현역으로 군대 안 간게 의아한 스타는?	운영자	25/06/30	-	-
5512	[생성 AI 길라잡이] 인공지능이 작성한 표절 논문 찾아내는 무하유 카피킬러 ‘GPT 킬러’	IT동아	18:45	15	0
5511	승용차 70배 탄소 배출 ‘대형 트럭’…친환경 전환 대책은 부실	IT동아	18:09	14	0
5510	[투자를IT다] 2025년 7월 1주차 IT기업 주요 소식과 시장 전망	IT동아	18:08	13	0
5509	[IT’s 가성비] 아직도 살만한 스테디셀러, LG 32UN650K 4K 모니터	IT동아	17:54	11	0
5508	[리뷰] 디지털 시대 눈 건강을 위한 투자, 벤큐 스크린바 헤일로 2	IT동아	17:53	13	0
5507	[IT신상공개] 성능·음질·편의성 개선, 소니 WH-1000XM6	IT동아	17:06	13	0
5506	SaaS 기반 협업 툴 NHN두레이의 첫 인상, ‘두레이온보딩팀’을 만나다	IT동아	13:10	671	0
5505	“야근 걱정 끝” 폴라리스 오피스, AI 기반 NOVA로 활용도 높였다 [3]	IT동아	11:15	2019	1
5504	[농업이IT(잇)다] 백로앙금 “당도 낮춘 팥 디저트로 소비자 입맛 사로잡는다”	IT동아	10:01	37	0
5503	지하철역·공원서 책 대출·반납…스마트 도서관, 더 편하고 가까워진다	IT동아	07.03	76	0
5502	[IT애정남] 구형 노트북에 신형 SSD, 달아도 되나요?	IT동아	07.03	69	0
5501	데이터이쿠 “노코드 AI 플랫폼, 누구나 AI 에이전트 개발 지원”	IT동아	07.03	71	0
5500	[시승기] 안정적인 승차감과 넓은 실내, 전비 효율 두루 갖춘 '아이오닉 9'	IT동아	07.03	68	0
5499	[IT애정남] 유튜브에서 ‘구간 반복’하려면?	IT동아	07.03	67	0
5498	[스타트업-ing] 뉴머스 “뇌혈관막 여는 집중초음파로 뇌질환 치료 돕는다”	IT동아	07.03	62	0
5497	‘AI 자율 네트워크’ 강조하는 노키아, 韓 6G 인프라 투자 기회 엿본다	IT동아	07.03	78	0
5496	“식당·영화·신조어 핵심 정보만 요약” 네이버 AI 브리핑, 사용자 편의성 높일까 [1]	IT동아	07.03	2251	0
5495	GM·LG엔솔 “LFP보다 효율 뛰어난 LMR 배터리로 승부수 띄울 것”	IT동아	07.02	110	0
5494	[주간스타트업동향] 펫나우, '경기도 반려견 비문등록 시범사업' 통해 기술 과시 外	IT동아	07.02	103	0
5493	산불·쓰나미·지진 등 재난 인명 피해, 첨단 음향 기술로 줄인다 [3]	IT동아	07.02	5764	0
5492	플리토와 협력 나선 퓨리오사AI, AI 반도체는 왜 언어 데이터가 필요할까?	IT동아	07.02	103	0
5491	인천창조경제혁신센터, 중국 청두 솽촹센터와 국내 스타트업 중국 진출 돕는다	IT동아	07.02	96	0
5490	세컨드팀, "슈퍼코더, AI가 면접관이 되는 시대 연다”	IT동아	07.02	101	0
5489	인천공항 빠르게 출국하려면? 스마트패스, ‘이제 은행 앱에서 등록 가능’	IT동아	07.02	134	0
5488	게임 그래픽 처리 위한 인공지능 기술 진화는 ‘현재진행형’	IT동아	07.01	147	0
5487	[뉴스줌인] LG전자가 집까지 판다? ‘스마트코티지’ 이모저모 [3]	IT동아	07.01	2508	3
5486	KRDS 준수해야 하는 공공 웹, AI 기반 검증 기술에도 ‘주목’	IT동아	07.01	136	0
5485	[자동차와 法] 휴가철 교통사고, 법과 보험으로 미리 대비하기	IT동아	07.01	125	0
5484	반려견·묘 있다면 알아야 할 동물등록 방법…7월부터 집중 단속	IT동아	07.01	127	0
5483	메이커스페이스 야간 교육 가보니··· '참여율 3배, 직장인 예비창업자도 OK'	IT동아	07.01	123	0
5482	[IT하는 법] 지도 서비스에서 실시간 CCTV 보는 법 [1]	IT동아	07.01	6207	0
5481	새 갤럭시 Z 폴드 공개 예정, 폴더블 디스플레이 소재 산업 훈풍 불까?	IT동아	07.01	191	0
5480	LG유플러스 익시오 안티딥보이스, 온디바이스로 얻는 장점은?	IT동아	06.30	228	0
5479	가족권, 재배치 마일리지…따릉이 새 서비스 이용법	IT동아	06.30	2196	0
5478	[신차공개] 볼보 ‘신형 XC90’ 사전계약·BYD ‘아토 3’ 무상 정기점검 실시	IT동아	06.30	5473	0
5477	[스타트업리뷰] AI로 4050세대 맞춤 라이프스타일 제시...'퀸잇'	IT동아	06.30	146	0
5476	[주간투자동향] 원더웍스컴퍼니, 50억 원 규모 시리즈A 투자 유치 外	IT동아	06.30	188	0
5475	전국 박물관·미술관 문화유산정보 궁금할 땐 이렇게! [이럴땐 이렇게!]	IT동아	06.30	140	0
5474	[농업이IT(잇)다] 서울집시 “타협 없는 풍미와 품질로 100년 이상 이어지는 맥주 브랜드 꿈꾼다”	IT동아	06.27	292	1
5473	[투자를IT다] 2025년 6월 4주차 IT기업 주요 소식과 시장 전망	IT동아	06.27	312	0
5472	퓨리오사AI NPU 도입 앞둔 딥노이드, "운영비용 최적화·서비스 응용에 기대"	IT동아	06.27	268	0
5471	산봉우리 이름부터 일출·일몰·행성 정보 한눈에…AR산지도 앱 활용법	IT동아	06.27	255	0
5470	스플렁크, AI 시대 데이터 관리 강조…“데이터 연합 전략이 대안”	IT동아	06.27	238	0
5469	[생성 AI 길라잡이] 구글 제미나이로 '고품질 음식 사진' 생성하기 [4]	IT동아	06.27	14478	2
5468	[크립토퀵서치] ‘가상자산’을 ‘디지털자산’이라고 하는 이유는? [2]	IT동아	06.27	12050	2
5467	“찾아가는 게임리터러시 교육, 누구나 배움의 기회를 누려요” 게임리터러시 온더로드 개최	IT동아	06.27	221	1
5466	에이수스 게이밍 기어가 서브컬처 문화를 만나다	IT동아	06.26	2230	1
5465	AI 무인 회수기, 페트병·캔 재활용으로 포인트 적립까지…선순환 효과 ‘톡톡’	IT동아	06.26	221	0
5464	넥스트라이즈 2025, 우주/방산/콘텐츠 부문 AI 스타트업 '눈길'	IT동아	06.26	210	0
5463	만트럭 “직영서비스센터 확장·정비 예약 앱 출시로 韓 소비자에게 밀착”	IT동아	06.26	202	0
뉴스	'1호가 될 순 없어2' 최양락, 팽현숙 환갑 이벤트 감행! 로맨틱 가이 변신!	디시트렌드	10:00