인공지능(AI) 하드웨어 시장을 주도하는 엔비디아와 오픈AI의 경쟁자로 주목받는 미스트랄AI가 새로운 언어모델을 발표했다. 이번에 발표된 신규 언어 모델은 엔비디아의 개인용 그래픽카드인 RTX 시리즈로도 구현할 수 있는 소규모 AI로, 기업뿐만 아니라 개인 사용자도 AI를 손쉽게 활용할 수 있는 변화를 일으킬 전망이다.


미스트랄AI는 7월 19일 자사의 공식 홈페이지를 통해 엔터프라이즈용 언어모델인 미스트랄 네모(Mistral-NeMo)를 출시했다고 밝혔다. 미스트랄 네모는 퍼블릭 클라우드가 아닌 환경에서도 고성능 AI를 실무자의 데스크톱을 통해 직접 제공하기 위해 설계된 AI 모델이다.


이 모델은 120억 개의 매개변수로 학습되었으며, 글로벌 다국어 애플리케이션을 위해 설계된 것이 특징이다. 기존 언어모델과 비교해 16배 큰 12만 8천 토큰의 컨텍스트 창을 제공하며, 8비트 부동 소수점 포맷(FP8) 추론을 지원해 양자화 인식 훈련을 통해 더욱 빠른 처리 속도를 제공한다. 이를 통해 대규모 텍스트를 한 번에 인식하고 처리하는 것이 가능하다.


미스트랄 네모는 100개 이상의 언어로 훈련된 틱토큰(Tiktoken) 기반의 새로운 토크나이저인 테큰(Tekken)을 사용해 언어 인식을 개선했다. 라마3(Llama3) 토크나이저와 비교해 모든 언어 대비 약 85% 성능이 향상됐다. 특히 영어, 한국어, 프랑스어, 독일어, 스페인어, 이탈리아어, 포르투갈어, 중국어, 일본어, 아랍어, 힌디어에 특화된 성능을 지원한다.


미스트랄AI에 따르면 한국어와 아랍어를 각각 2배와 3배 더 효율적으로 압축할 수 있으며, 중국어, 이탈리아어, 프랑스어, 독일어, 스페인어, 러시아어도 30% 성능 향상을 달성했다. 이러한 성능 향상 덕분에 미스트랄 네모는 다양한 언어 환경에서 더욱 효율적이고 정확한 언어 처리가 가능하다.


또한, 미스트랄 네모는 기존 AI모델과의 벤치마크 테스트에서 우수한 성능을 기록했다. MT벤치 7.84, 와일드벤치 42.57을 기록한 미스트랄 네모는 6.48과 25.55를 달성한 미스트랄 7B와 6.85, 28.77을 기록한 라마3 8B 등 기존 AI모델에 비해 월등한 성능을 나타냈다.


이번 미스트랄 네모의 출시는 AI 기술의 발전과 함께 사용자에게 더욱 실질적인 혜택을 제공할 수 있는 가능성을 열어준다는 점에서 큰 의의를 갖는다. 엔비디아와 미스트랄AI의 협력은 AI 하드웨어와 소프트웨어 시장의 발전을 이끌며, 앞으로도 계속해서 혁신적인 기술을 선보일 것으로 기대된다.