‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다

IT동아 · 2024.03.15 23:55:41

[IT동아 강형석 기자] 인공지능 분야에서는 엔비디아가 단연 앞서 있다고 평가된다. 과거 그래픽카드의 병렬 연산 능력 우위를 강조하며 다양한 장비를 준비해 왔기 때문이다. 현재는 H100이 주력으로 꼽힌다. A100도 있지만, 암페어(Ampere) 설계 구조로 H100의 호퍼(Hopper) 대비 한 세대 이전 기술을 담고 있다. 현재 H100도 향후 차기 제품인 H200 혹은 B100에게 자리를 내어 줄 예정이다.

앞서가는 엔비디아지만, 경쟁자도 다양한 무기를 앞세워 추격 중이다. 대표적으로 그래픽 처리장치(GPU) 분야에서 경쟁해 온 AMD가 있다. 최근 인스팅트 MI300 시리즈를 선보이며 경쟁에 나선다. 처음 선보이는 제품은 아니다. 과거에도 MI100과 MI200 등 병렬 연산이 필요한 환경에 대응해 왔지만, MI300은 인공지능 및 초고성능 컴퓨팅(빅데이터)에 맞춰 다듬었다. 본격적인 경쟁 체제에 돌입한 것이다.

엔비디아 vs AMD, 하드웨어 특성은 다르지만 접근 방법은 같아

엔비디아는 2007년, 점점 복잡해지는 그래픽 연산 환경에 맞춰 쿠다(CUDA) 코어를 개발했다. 하드웨어 집적도 향상에 따라 코어 수는 빠르게 늘었는데, 이와 함께 지포스 RTX 시리즈에 와서는 인공지능과 광선추적(레이 트레이싱)만 전문으로 처리하는 코어를 추가해 넣었다. 이것이 엔비디아가 인공지능 하드웨어로 빠르게 성장할 수 있었던 계기였다고 해도 과언이 아니다.

엔비디아 H100. / 출처=엔비디아

H100의 호퍼 설계 구조는 기존 엔비디아 그래픽 처리장치 설계를 인공지능 환경에 맞춘 형태다. 기본 코어 안에는 정수(INT32)와 단ㆍ배정밀도(FP32ㆍFP64)를 처리하도록 구성됐다. 추가로 4세대 텐서코어가 배치되어 부족한 부분을 돕는다. 텐서코어는 행렬의 연산을 한 번에 수행하는 것이 특징이다. 또한 비동기 연산을 지원하는데 이는 연산이 순차적으로 처리되는 게 아니라 부하에 따라 유연하게 처리됨을 의미한다.

AMD도 구조는 유사하다. 과거 그래픽 프로세서 설계를 연산에 특화된 구조로 바꿨다. 다만 그래픽 처리에 필요한 블록이 제거되고 모두 연산에 필요한 블록으로 대체했다. 따라서 기존 컴퓨트 유닛이라 부르는 코어가 2배 확장됐고 데이터를 유연하게 다루고자 예비와 주 메모리의 용량 등을 크게 키웠다. 행렬과 텐서 연산을 위해 별도의 매트릭스 코어(Matrix Core)를 구성한 점이 특징이다.

인공지능 가속을 위한 칩은 이와 동일하고 빅데이터 처리를 겸하는 장비는 구조가 다소 다르다. 엔비디아는 H100 가속장치와 함께 그레이스 설계가 반영된 ARM 기반 중앙처리장치가 짝을 이룬다. 이를 다수 배치함으로써 대규모 데이터 처리에 힘을 싣는다.

AMD 인스팅트 MI300. / 출처=AMD

반면 AMD는 인공지능 가속 칩에 중앙처리장치를 함께 배치한다. 인공지능 처리에 필요한 코어가 일부 줄어들지만, 그 자리를 대신해 24코어를 갖춘 젠(Zen) 4 기반 적용된 중앙처리장치가 집적된다. ARM 기반이 아닌 일반 x86 중앙처리장치라 다양한 환경에 대응 가능하다.

이렇게 구조는 다르지만, 지향하는 목표는 같다. 최대한 많은 연산을 유연하게 다루는 것이다. 현재 사양으로 놓고 보면 두 장치는 각각 일장일단은 있다. 다만 엔비디아는 시장 선점을 빨리했기에 전반적인 성능 검증이 이뤄졌으나 AMD는 이 부분에서 더 많은 노력이 필요한 상황이다.

하드웨어도 중요하지만, 진짜는 소프트웨어에 있다

엔비디아와 AMD 모두 병렬 컴퓨팅 처리장치 설계에 대해서는 많은 경험을 가진 기업이다. 따라서 신제품 출시 주기에 따른 성향 차이는 있어도 성능 부분에 있어서는 차이가 줄어들 가능성이 높다. 성능에서 큰 차이를 보이지 않는다면 결국 하드웨어의 가치와 성공을 가늠하는 것은 소프트웨어다. 하드웨어가 최고의 성능을 낼 수 있도록 지원과 유지보수 등이 필요하다.

시장에 빨리 진입했기에 폭넓은 호환성과 소프트웨어 환경을 갖춘 것이 엔비디아의 강점으로 꼽힌다. / 출처=엔비디아

엔비디아는 이 부분에 있어 폭넓은 솔루션을 제안하고 있다. 우선 쿠다(CUDA)-X 인공지능(AI)은 쿠다 명령어를 바탕으로 다양한 라이브러리 컬렉션을 제공한다. 병렬 컴퓨팅이 막 대두되던 시기부터 사용한 명령어를 환경에 맞춰 발전시킨 것으로 엔비디아의 강력한 무기 중 하나로 꼽힌다. 이 외에 엔터프라이즈 분야에서 인공지능을 위한 운영체제인 인공지능 엔터프라이즈(AI Enterprise), 기업이 가상공간 내에서 미리 결과를 얻을 수 있는 옴니버스(Omniverse) 등도 잘 알려진 소프트웨어들이다.

AMD도 ROCm을 내세워 생태계 구축에 나서는 중이다. / 출처=AMD

AMD는 인공지능 처리 도구와 모델, 라이브러리 등을 모은 ROCm을 전면에 내세웠다. 거대 언어 모델부터 다양한 연산 추론 등 인공지능 데이터 처리에 필요한 도구를 담았다. 개발을 위한 생태계 구축도 꾸준히 업데이트하면서 완성도를 높여가는 중이다. 무엇보다 이 분야에서는 개발자들이 명령어 호환성을 민감하게 본다. 새로 구축하고 그 과정에서 발생하는 문제에 대비하기에 시간이 오래 걸린다는 이유가 크다. AMD도 이 부분에 대응하기 위해 개발자 커뮤니티와 다양한 인공지능 오픈소스 개발사와 협업한다.

인공지능 시장은 빠르게 성장하고 있다. 글로벌 시장조사기업 IDC에 따르면 2027년 전 세계 생성형 인공지능 시장 규모가 약 1500억 달러 이상으로 내다봤다. 시장이 성장함에 따라 자연스레 관련 하드웨어 수요도 증가할 것으로 예상된다. 엔비디아와 AMD의 경쟁은 이제부터 시작인 것이다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
3679	[농업이 IT(잇)다] 투마루, "푸드 업사이클링으로 김천 호두 진심 전할 것"	IT동아	04.12	182	0
3678	[시승기] 차체 키우고 첨단 기술로 무장...‘BMW 뉴 X2’ [6]	IT동아	04.11	2323	3
3677	[KESIA 시드팁스] 유기성 폐기물 처리 혁신으로 친환경 세상 이룰 것, 이성범 예쓰바이오 대표	IT동아	04.11	182	0
3676	퀄컴, 임베디드 월드 2024에서 새 IoT 칩 및 산업용 플랫폼 공개 [2]	IT동아	04.11	1037	1
3675	AMD, 성능 10배 높인 '2세대 버설 AI 엣지·프라임' 임베디드 칩 출시	IT동아	04.11	458	0
3674	필수 가전 등극한 건조기, ‘타워’ 다음은 ‘콤보’? [10]	IT동아	04.10	6053	0
3673	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 6	IT동아	04.09	207	0
3672	전기차도 에너지효율 표시…‘5단계 연비등급제’ 전면 시행	IT동아	04.09	193	0
3671	[EV 시대] 미래 모빌리티 핵심 '전동화와 SDV' [1]	IT동아	04.09	6371	1
3670	가상자산 거래소 2023년 부진한 실적, 올해는 반등 노린다	IT동아	04.09	182	0
3669	[IT신상공개] 지연시간 줄인 연주용 무선 헤드폰, 야마하 YH-WL500	IT동아	04.09	431	2
3668	[리뷰] 좋은 거 다 담았는데 이 두께가 나와? 에이수스 ROG 제피러스 G16(2024)	IT동아	04.08	237	0
3667	[뉴스줌인] 삼성 올인원 Pro, 일체형 PC 한계 넘을까?	IT동아	04.08	320	0
3666	윤곽 드러난 PCIe 7.0··· '최대 512GB 대역폭으로 AI 시장 보조'	IT동아	04.08	207	0
3665	[신차공개] BMW ‘뉴 X2’ 출시·로터스 ‘에메야’ 제원 공개 [1]	IT동아	04.08	199	0
3664	수많은 일정 간편하게 공유하려면 이렇게![이럴땐 이렇게!]	IT동아	04.08	669	1
3663	[주간투자동향] 티오더, 300억 원대 시리즈B 투자 유치	IT동아	04.08	159	0
3662	[생성 AI 길라잡이] AI로 만든 콘텐츠, 저작권 인정될까? [1]	IT동아	04.05	297	0
3661	윤희현 엠디글로벌넷 대표 “스타트업 창업에서 해외진출까지 함께”	IT동아	04.05	200	0
3660	[농업이 IT(잇)다] 친환경 농업용 냉·난방기 개발 기업 ‘아이토브에너지’	IT동아	04.05	208	1
3659	[KESIA 시드팁스] 혈관독성약물 국소전달 플랫폼 ‘바스블록’으로 항암치료 혁신 꿈꾼다, 박정호 엔도큐라 대표	IT동아	04.05	193	0
3658	닥터호두 “품질·맛 좋은 국산 호두, 신선하고 편하게 먹도록 제공합니다” [7]	IT동아	04.05	1092	1
3657	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 5 [1]	IT동아	04.04	641	1
3656	골드문트, 하이파이 스피커 라인업 출시 ‘새로운 사운드·성능 제공’	IT동아	04.04	268	0
3655	티맵 “2000만 데이터 학습한 AI 앞세워 초개인화 서비스 나설 것”	IT동아	04.04	370	0
3654	AI 하드웨어 생태계의 시작이자 기준, 'MLPerf'란 무엇인가?	IT동아	04.04	990	0
3653	[스타트업人] 스타트업의 동반자, 서울창조경제혁신센터 '창업 액셀러레이터' 이야기	IT동아	04.04	237	0
3652	삼성전자, 알아서 챙겨주는 '비스포크 AI' 가전 생태계 선보여	IT동아	04.03	417	0
3651	[기고] 시급한 위성항법시스템 구축과 제반 기술 경쟁력 강화	IT동아	04.03	192	0
3650	빗썸, 출금 수수료 인하·신규 기능 추가 ‘거래 편의 강화’	IT동아	04.03	196	0
3649	갤럭시 S23에도 적용된 AI 기능, S24와 비교하면? [5]	IT동아	04.03	2498	1
3648	[자동차와 法] 자동차 튜닝…어디까지 합법일까? [1]	IT동아	04.03	1636	0
3647	‘측면으로 부족해’ PC 케이스 시장 대세는 다 보이는 어항형 케이스 [16]	IT동아	04.03	980	1
3646	포르쉐, 3세대 신형 파나메라 출시…’효율·주행 성능·편의성’ 강화	IT동아	04.02	208	0
3645	[IT신상공개] 악기·AV 기기 기술 집약, 야마하 하이파이 앰프·스피커	IT동아	04.02	184	0
3644	글로벌 거래소 크립토닷컴 ‘4월 29일 한국 서비스 론칭’	IT동아	04.02	182	0
3643	[2024 고려대 초창패] 반려견과 보호자를 위한 산책 메이트 ‘달려갈개’ [6]	IT동아	04.02	4080	4
3642	[KESIA 시드팁스] 아타드 박영선 대표 "미래를 바꿀 힘, 데이터에 있습니다"	IT동아	04.02	1484	1
3641	[뉴스줌인] 해상도∙주사율 원터치 전환? 신형 LG 게이밍 모니터 이모저모	IT동아	04.02	452	0
3640	[IT애정남] 테무·알리익스프레스 이용··· 개인 정보는 안전한가요?	IT동아	04.01	633	0
3639	LG유플러스 "소상공인 AX 솔루션으로 27년까지 매출 2000억 달성"	IT동아	04.01	161	0
3638	봄 꽃 나들이·여름 휴가 갈 때 참조할 만한 서비스는? [이럴땐 이렇게!]	IT동아	04.01	817	0
3637	안랩, 유명인 사칭 SNS 및 투자 채팅방으로 돈 뜯는 ‘온라인 스캠’ 경고	IT동아	03.31	276	0
3636	삼성전자, '갤럭시 AI' 지원 확대, S23·폴드5·플립5등에 업데이트 실시	IT동아	03.31	240	0
3635	차트 분석을 위한 모니터, 선택부터 구성까지 어떻게? [24]	IT동아	03.30	7239	5
3634	[뉴스줌인] 삼성의 신형 인덕션, ‘국내 유일’ 원격 제어 기능 탑재? 정말?	IT동아	03.30	187	0
3633	[생성 AI 길라잡이] 인공지능으로 색다른 그림을 그려보자 – 크레아 AI	IT동아	03.29	171	0
3632	업계 "건설근로자 도울 기능등급제 전파"	IT동아	03.29	172	0
3631	AI 기술이전 프로그램으로 ETRI-중소기업 상생∙동반성장 ‘기대’	IT동아	03.29	158	0
3630	[IT강의실] 생성형 AI의 최대 난제, '할루시네이션'	IT동아	03.29	167	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

엔비디아 vs AMD, 하드웨어 특성은 다르지만 접근 방법은 같아

하드웨어도 중요하지만, 진짜는 소프트웨어에 있다

▶ 인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출▶ [2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"▶ “주문 접수부터 메뉴 제안까지…” 생성형 AI로 진화하는 스마트상점

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결

▶ 인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출 ▶ [2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"▶ “주문 접수부터 메뉴 제안까지…” 생성형 AI로 진화하는 스마트상점