[칼럼] 생성형 AI 시대, 성공적인 도입 전략

IT동아 · 2024.02.22 11:21:23

세계 경제가 초불확실성 시대에 돌입하면서 기업들의 AI 생존을 넘어 글로벌 경쟁력 확보를 위한 전략으로 가장 많이 등장하고 있는 키워드 중에 하나가 바로 ‘생성형 AI’이다. 국내 기업들 역시 위기의 경영 환경 속에서 직원 및 고객 경험의 혁신을 통해 새로운 도약의 기회를 찾고자 하는 움직임이 거세지고 있고 그 중심에 AI 기술이 자리하고 있다.

최근 발표된 가트너의 IT 지출 전망 보고서에 따르면, 2024년 전 세계 IT 지출은 2023년보다 8% 증가한 총 5조 1,000억 달러에 달하고 있다. 아직까지 생성형 AI가 IT 지출에 실질적인 영향을 미치고 있지는 않더라도, 보다 광범위한 AI 투자의 움직임은 전반적인 IT 지출 증가를 뒷받침하고 있다. 아시아 태평양 지역만을 보면 IDC는 2027년 AI에 대한 지출이 연평균 25.5%의 성장률로 784억 달러 규모로 증가할 것으로 내다보고 있다.

출처=킨드릴

AI 지출의 증가 전망은 희망적으로 보일 수 있지만 현실에서는 꼭 그렇지만은 않다. 생성형 AI는 기업의 서비스 영역을 확장하는 데 있어 엄청난 잠재력을 제공하면서도 윤리적 문제, 데이터의 유출, 잘못된 관리감독 등 위험을 동반하기도 한다. AI가 비즈니스에 끼칠 수 있는 심각한 영향력을 세 가지로 나눠보면,

첫째, 잠재적 편향성: 적절한 조치를 취하지 않으면 AI 시스템이 학습 데이터에 존재하는 편향을 의도치 않게 지속시켜 의도하지 않은 결과를 초래할 수 있다. 입력되는 데이터에 따라 결과가 달라지기 때문에, 강력한 데이터 기반을 구축하는 것이 중요하다. 여기에는 엄격한 데이터 큐레이션 프로세스를 도입하여 AI 모델의 편향을 최소화하고, 공정성과 형평성을 보장하기 위해 지속적으로 알고리즘을 평가하고 개선하는 것이 필요하다.

둘째, 투명성: AI 도입의 결정이 개인의 삶이나 기회에 영향을 미치는 경우, AI가 특정 결과를 도출하는 과정을 설명할 수 있어야 한다. AI 모델은 단순히 답변만 제공하는 것이 아니라 그 답변의 근거도 제공하도록 설계되어야 한다. 이를 위해서는 업계 전반의 노력이 필요하지만, AI 모델의 작동 방식, 학습데이터, AI 의사결정 프로세스에 대한 이해를 높이는 것이 필요하다.

셋째, 보안 및 개인정보 보호: 전 세계 많은 국가에서 고객 및 직원 정보는 명확한 데이터 개인정보 보호법과 규정에 의해 보호되므로 모든 생성형 AI 솔루션은 민감한 정보를 보호하기 위해 강력한 데이터 암호화 및 액세스 제어 기능을 갖춘 최고 수준의 개인정보 보호 표준을 준수해야 한다.

이러한 어려움에도 불구하고 혁신 가속화, 생산성 및 효율성 향상 등의 이점이 우려되는 것보다 더 크게 인식되고 있어 AI의 성장은 불가피하다. 그렇다면 생성형 AI 기술이 계속해서 빠르게 발전하고 있는 동안 기업들은 성공적인 AI 도입을 위해서 먼저 무엇을 준비해야 할까?

첫째, 안정적이고 확장 가능한 생성형 AI를 위한 신뢰할 수 있는 데이터 소스를 구축한다. AI 시스템을 설계하고 구축할 때 가장 흔한 실수는 신뢰할 수 있고 편향되지 않은 결과를 도출할 수 있는 고품질의 데이터를 확보하지 못하는 것이다. 비즈니스 영향력을 줄 수 있는 AI 확장은 올바른 데이터 기반(비즈니스 전략과 일치하는 데이터 전략, 데이터 거버넌스, 데이터 품질, 데이터 아키텍처 등)이 있을 때만 이루어질 수 있다. 비즈니스 인사이트는 생성형 AI에 어떤 데이터가 공급되는지에 따라 달라지며, 데이터 품질이 곧 생성형 AI 솔루션의 품질이 된다.

둘째, 생성형 AI 기술을 적용하기 전에 활용 사례를 먼저 검토한다. 생성형 AI 도구가 사용자 생산성과 직원 및 고객 경험을 향상시킬 수 있지만 기술이 투자를 항상 보장하는 것은 아니다. 투자 수익을 보장하려면 생성형 AI 사용 사례 식별과 기술 적용을 안내하는 전문가를 확보하는 것이 중요하다. 기업은 고객에게 일대일 서비스를 제공하여 비즈니스 내에서 생성형 AI를 책임감 있게 적용하여 효율성과가치를 높이고 목표 달성을 지원할 수 있도록 사전에 잘 짜여진 AI 준비 프로그램과 같은 리소스 활용을 고려해야 한다.

마지막으로, LLMOps(대형 언어 모델 개발 및 운영 통합 체계) 프레임워크를 활용한다. 기업이 책임감 있고 비용 효율적인 방식으로 데이터 및 생성형 AI 기술에서 가치를 창출하려면 LLMOps 프레임워크를 사용해야 하며 이러한 프레임워크는 더 큰 규모의 데이터 및 AI 아키텍처에 통합되어야 한다. LLMOps 프레임워크를 활용하고 데이터 및 AI 전문가와 협력함으로써 기업은 사용되는 데이터가 안전하고 신뢰할 수 있는지, 생성된 통찰력을 전달할 수 있는 아키텍처가 올바로 적용되어 있는지 확인할 수 있다.

AI는 선한 의도로 활용될 수 있는 매우 매력적인 기술이지만, 적절한 가이드와 관리가 필요한 강력한 기술이다. 따라서 위 세 가지 고려사항과 함께 책임감 있는 AI 배포를 위해 처음부터 적절한 방호책과 거버넌스를 설정하고 모든 비즈니스 IT 인프라에서 신뢰할 수 있는 동반자로서의 역할을 수행할 수 있도록 해야 한다. 또한 이러한 방호책은 위험 관리와 지속적인 혁신 및 성장 사이의 균형을 적절히 유지하는 것도 필요하다. AI 기술의 성공적인 도입을 위해서는 이처럼 다양하고 복잡한 사항들을 동시 다발적으로 고려하는 것이 요구된다. 따라서, AI 여정 안에서 기업의 의도대로 기술을 설계하고 적용하여 비즈니스 목표를 달성하기 위해서는 전문 지식과 경험을 갖춘 신뢰할 수 있는 파트너를 활용하는 것이 무엇보다 중요하다.

장득현 킨트릴코리아 상무 / 출처=킨드릴

글 / 킨드릴 컨설트 총괄, 장득현 상무 (Deughyeon.Chang@kyndryl.com)

국내외 대기업에서 IT 컨설팅 전문가로서 30년 이상의 경력을 쌓아온 장득현 상무는 현재 킨드릴코리아 ‘킨드릴 컨설트’ 총괄을 맡아 기업 고객의 디지털 트랜스포메이션을 지원하고 있다.

편집 / IT동아 김영우 (pengo@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
3575	[KESIA 시드팁스] "멀지만 가까운 왕진, 똑똑의사로 모두가 누리게 할 것" [1]	IT동아	03.19	166	0
3574	가격대별 출시 예정 전기 SUV 살펴보니	IT동아	03.18	111	0
3573	AI 혁신의 중심 된 '엔비디아 GTC 2024', 국내 주요 참여 스타트업은?	IT동아	03.18	449	0
3572	[스타트업 법률실무 마스터링] 투자유치 법률실무 (4) - 계약 위반과 분쟁 방지	IT동아	03.18	720	0
3571	‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다	IT동아	03.15	183	0
3570	[시승기] 브랜드 첫 1만대 클럽 가입 이끈 ‘포르쉐 카이엔’	IT동아	03.15	163	0
3569	[2024 고려대 초창패] 라르크 인터내셔널 “인플루언서 이름 건 제품, 기획∙제조∙유통까지 책임진다”	IT동아	03.15	159	0
3568	[생성 AI 길라잡이] 윈도우 11에 내장된 생성형 AI, '코파일럿'	IT동아	03.15	169	0
3567	[IT애정남] 스마트폰으로 별 사진 찍으려면 어떻게 해야 하나요? [2]	IT동아	03.15	3635	7
3566	[KESIA 시드팁스] 세일즈맵 “한국 기업의 일하는 방식에 맞는 CRM은 따로 있습니다”	IT동아	03.15	153	0
3565	전기차 안전·주행거리 지키는 배터리 열관리 시스템	IT동아	03.14	373	0
3564	[KESIA 시드팁스] 메텔 “해외 고객이 제 발로 찾아오게 하는 AI 마케터”	IT동아	03.14	155	0
3563	도시가스·콘택트렌즈 등 6건 ICT 규제 샌드박스 지정 [1]	IT동아	03.14	854	0
3562	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 2	IT동아	03.13	183	0
3561	[뉴스줌인] 2024년형 ‘AI TV’ 출시한 삼성전자, 핵심은 AI 기반 업스케일링 [3]	IT동아	03.13	1980	1
3560	미세먼지·이물질 흡입하는 ‘노면 청소차’ 작동 원리 살펴보니	IT동아	03.13	153	0
3559	펀블, 신규 STO 플랫폼 및 투자 상품 출시 “STO 시장 선점할 것”	IT동아	03.13	146	0
3558	벤큐코리아 ‘2024 디자인뷰 어워드’ 디자인 공모전 개최	IT동아	03.12	161	0
3557	인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출 [2]	IT동아	03.12	1139	1
3556	다시 걷는 춘천 원도심, ‘상권르네상스 사업’ [1]	IT동아	03.12	1880	2
3555	[EV 시대] 전기차 공유 서비스의 명과 암	IT동아	03.12	793	0
3554	[2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"	IT동아	03.12	178	0
3553	[KESIA 시드팁스] 메디노드 “AI·자동화 기술로 통합 약제 솔루션 구축한다”	IT동아	03.12	132	0
3552	고효율가전 살 때 비용 지원받으려면 이렇게![이럴땐 이렇게!] [2]	IT동아	03.12	1725	0
3551	복잡한 경제지표 일정, '경제 캘린더'로 빠르게 파악하는 방법	IT동아	03.12	125	0
3550	[뉴스줌인] 가상 아닌 ‘진짜’ 입체음향 내는 2024 LG 사운드바, 뭐가 다를까? [9]	IT동아	03.11	1805	0
3549	고가 법인차 ‘연두색 번호판 부착’...제도 개정 후 결과 살펴보니 [12]	IT동아	03.11	2482	1
3548	[스타트업 법률실무 마스터링] 투자유치 법률실무 (3) - 투자계약 체결 전 투자사와의 분쟁방지	IT동아	03.11	127	0
3547	[주간투자동향] 케어링, 400억 원 규모 시리즈 B 투자 유치	IT동아	03.11	625	0
3546	내가 원하는 기업의 공시자료 ‘RSS 피드’로 편하게 보자	IT동아	03.08	135	0
3545	[생성 AI 길라잡이] 챗GPT와 자동차의 만남 [2]	IT동아	03.08	9421	3
3544	이노와이어리스의 협업 자산, ‘NHN두레이’로 쌓는다	IT동아	03.08	146	0
3543	[KESIA 시드팁스] 프렉탈테크놀로지 “검증된 고객과 데이터 갖춘 M&A 거래소 만듭니다”	IT동아	03.08	136	0
3542	LG전자, 토출구 2개로 냉각성능∙전력효율 강화한 벽걸이 에어컨 신제품 공개	IT동아	03.07	469	1
3541	[뉴스줌인] 전에 못 보던 24GB, 48GB 용량? ‘논바이너리’ 메모리의 이모저모 [7]	IT동아	03.07	761	0
3540	가상자산 거래소, 시장 상황에 맞춰 ‘거래 환경·혜택 강화’	IT동아	03.07	123	0
3539	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 1	IT동아	03.07	152	0
3538	세일즈포스, 새로운 AI CRM ·대화형 AI로 CRM 고도화 나서	IT동아	03.07	130	0
3537	[시승기] 214년 역사 佛 제조사의 7인승 패밀리카…'푸조 5008 SUV'	IT동아	03.07	126	0
3536	생성형 AI와 협업 툴의 만남은? 플로우 3.0 AI 나우로 살펴본 현 주소 [4]	IT동아	03.07	979	1
3535	인공지능 열풍 닷컴버블 같다고? 비슷하지만 다르다 [4]	IT동아	03.07	547	0
3534	갤럭시 S23에도 적용되는 갤럭시 AI 기능, S22는?	IT동아	03.06	222	0
3533	NAS 보안을 강화하는 8가지 보안 수칙	IT동아	03.06	141	0
3532	현대차 ”포니 시대로 타임슬립”…제페토에 신규 콘텐츠 론칭 [9]	IT동아	03.06	1217	4
3531	[메타버스에 올라타자] 7. 메타버스 어떻게 활용할 것인가? 기업 도입 사례	IT동아	03.06	196	0
3530	[리뷰] 인터넷으로 사진·동영상 전송하는 '카멜 클라우드 디지털 액자'	IT동아	03.06	897	2
3529	[IT애정남] DDR4, LPDDR5 램을 탑재한 노트북, 뭐가 더 좋나요?	IT동아	03.05	130	0
3528	[자동차와 法] 전기차 충전시설 의무 설치 관련 법률 살펴보니	IT동아	03.05	318	0
3527	‘빅 이벤트 온다’ 엔비디아 GTC 2024 관전 포인트는?	IT동아	03.05	135	0
3526	[IT애정남] 버티컬 마우스는 왜 쓰는 걸까요?	IT동아	03.05	138	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

▶ 챗봇 엉뚱한 답변에 기업이 배상…"AI 활용에 신중해야"▶ [인터뷰] 다쏘시스템 “친환경 모빌리티로의 전환…모델링·시뮬레이션으로 가속”▶ 오픈AI, 영상 생성 AI '소라' 공개…악용 우려에 '레드팀 검증'부터

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결