'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다

IT동아 갤러리

1/3

냉혹한...관광객이 싫어진 일본의 세계...jpg 요약:엔저로 관광객이 미친듯이 늘어나서 일반 주민들도 불편할 지경까지 옴,그래서 무작정 관광객 받아 들이는 대신 부자 관광객만 받아야 된다는 얘기가 나오는 중 작성자 : 인터네코

'정부 주도의 첫 AI 규제법'··· EU, AI법으로 무분별한 개발 막는다

IT동아

2023.12.12 14:18:50

조회 915 추천 6 댓글 10

[IT동아 남시현 기자] 현지시간 12월 9일, 유럽연합 이사회 의장단과 유럽의회 협상단이 ‘인공지능 법’에 대한 잠정 합의에 도달했다. 관련 투표는 내년 초 개최 예정이며, 2025년은 되어야 공식 발효될 전망이다. 전 세계적으로 인공지능 개발이 속도를 내고 있는 가운데, 정부 차원에서 인공지능에 대한 규제를 성문화한 것은 세계 최초다. 규정 초안은 유럽 시장에 배치되는 인공지능을 개발하는 규칙을 담고 있으며, 원격 생체 인식이나 기본권 영향 평가 등을 의무적으로 수행한다.

EU AI법, 책임감 있는 AI 만들도록 강제한다

이번 EU AI법은 인공지능 개발에서 등외시되고 있는 ‘책임감 있는 AI’를 강제적으로 이행하게 만든다는 점에서 의의가 크다. 지난 2017년, 전 세계 경제, 법률, 윤리, 철학 분야의 100여 명 이상의 리더 및 연구자들이 캘리포니아 주 아실로마 콘퍼런스 그라운드에서 AI 연구를 위한 24가지 아실로마 AI 원칙을 제정했다.

해당 이미지는 어도비의 생성형 AI를 활용해 만들어진 이미지다 / 출처=유럽의회

원칙은 연구 이슈(5개 항), 윤리와 가치(13개 항), 장기 이슈(5개 항)까지 총 3개 범주로 구성돼 있고, 물리학자 스티븐 호킹이나 컴퓨터 공학자 레이 커즈와일, 오픈AI의 샘 알트만, 일론 머스크 등 2천300여 명이 서명했다. 하지만 주요 참여 인력이었던 오픈AI가 인공지능에 대한 안전보다 기술적 알 권리를 내세워 챗GPT를 공개했고, 이로인해 구글과 메타AI, 마이크로소프트 등도 잇달아 인공지능을 공개하면서 무한 경쟁이 시작됐다.

그렇게 지난해 11월 갑자기 등장한 챗GPT는 세상을 바꿔놓았고, 연이어 등장한 생성형 AI와 대형 언어 모델은 1년도 되지 않아 전 세계 모든 산업 생태계를 바꿔놓기 시작했다. 문제는 속도가 지나치게 빨라 곳곳에서 경제, 윤리, 개인정보 보호, 지속가능성 등에 대한 우려가 터져나오는 상황이다.

강제력 없는 블레츨리 선언, 강제력 갖춘 EU AI법

이에 대응해 전 세계 28개국은 지난 11월 2일 영국 블레츨리 파크에서 ‘AI 안전 정상회의’를 열고 인공지능의 위험성을 평가하고 관리하는 ‘블레츨리 선언’을 발표했고, 2021년 4월에 제출된 EU AI법이 합의 끝에 법제화를 시작하면서 무분별한 인공지능 개발에도 제동 장치가 마련됐다.

블레츨리 선언의 경우 미국, 영국 두 국가가 주도하며, ‘국가 AI 연구 자원’을 통해 전 세계 AI 연구자들을 위한 클라우드를 제공함과 더불어 AI가 도입되는 다양한 분야에서 표준과 정의를 수립하는 데 주력한다. 예를 들어 비전 인식 분야에서는 개인 안면 인식 등의 표준화를 만들고, 자율주행 측면에서는 도덕적 딜레마 등의 원칙을 세우는 것이다.

11월 2일, 윤석열 대통령이 영국에서 열린 제 1차 AI 안전 정상회의에 화상으로 참석했다 / 출처=대한민국 대통령실

EU AI법은 블레츨리 선언보다 훨씬 더 면밀하고 정확하며, 처벌 규정까지 담고 있다. 합의된 초안은 향후 시스템 위험을 초래할 수 있는 영향력이 큰 범용 AI 모델, 그리고 고위험 AI 시스템에 대한 규칙을 수립하며, EU 수준에서 운영 차원에 집행 권한을 갖는다. 또 금지 목록을 만들고, 공공장소에서 법 집행 기관이 원격 생체 인식을 사용할 수 있도록 허용한다. 또한 고위험 AI 개발사는 기본권 영향 평가를 의무적으로 수행해 대상사 권리를 보호한다.

대신 민감 데이터의 적절한 취급, 업무 능력의 보존 등의 내용을 담은 적합성 평가를 통과했을 경우 문제없이 사용할 수 있고, 이를 위해 투명성 의무를 준수해야 할 것을 주문한다. 만약 AI 법을 위반할 경우 글로벌 연간 매출액의 7% 또는 3500만 유로(약 495억 원)의 벌금을 내게 된다. 유럽의회는 표결 이후 약 2년 뒤부터 해당 법안을 발효할 예정이다.

GDPR 절차 밟는 EU AI법, 우리나라는 지지부진해

EU AI법은 유럽 일반 개인정보 보호법(GDPR)과 동일한 절차를 밟을 것으로 보인다. GDPR은 EU 내에서 사업하는 조직 및 기관이 EU 시민의 데이터와 개인정보를 저장 및 전송 등을 규제하는 법안이며, 매출의 4% 또는 2000만 유로(283억 원)를 벌금으로 납부하는 강제력이 있다. 이로 인해 전 세계 모든 기업들이 GDPR에 맞는 개인정보 보호 방안 절차를 마련했고, 자연스레 취급 방안이 표준화됐다. EU AI법은 더 큰 강제력을 갖췄으며, 소수의 개발 기업들을 겨냥한 입법이어서 더 강력하게 작용할 것이다.

국회의사당 전경 / 출처=국회자료실

문제는 우리나라다. 우리 국회는 2021년 이루다 사태 등 개인정보 보호 위반 사례를 계기로 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률’로 규제안을 마련했지만, 지난 2월 과방위 법안 소위 통과 이후 지지부진한 상황이다. 심지어 신뢰성 검증과 사전 적정성 검토제가 제대로 논의되지 않아 법안 자체의 허점이 큰 상황이다. 전 세계적으로 AI에 대한 강력한 규제가 마련되고 있는 만큼, 무분별한 AI 개발을 막기 위해서라도 대책이 시급하다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 출장지 날씨 예상부터 미팅 제안 글까지 작성하는 ‘자율 AI’ 선보인 ‘라이너’▶ 샘 올트먼 복귀로 끝난 오픈AI 쿠데타…'AI 개발론'에 무게추 ▶ 'AI 철학' 갈등이 쿠데타로…오픈AI서 무슨 일이 있었나

고정닉 1

원본 첨부파일 3본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	비난 여론에도 뻔뻔하게 잘 살 것 같은 스타는?	운영자	24/06/03	-	-
3355	2016년형 차량까지? 현대∙기아 내비 업데이트 ‘무더기’ 중단 예고 [18]	IT동아	01.16	1254	9
3354	[혁신스타트업 in 홍릉] 크리모 “스마트 토이, 교육에서 디지털 치료까지”	IT동아	01.16	342	0
3353	[신차공개] 지프, 더 뉴 2024 랭글러·토요타, 5세대 프리우스 출시	IT동아	01.15	110	0
3352	[주간투자동향] 어니스트펀드, 50억 원 규모의 전략적 투자 유치	IT동아	01.15	92	0
3351	PC로 스마트폰을 제어하려면 이렇게![이럴땐 이렇게!] [3]	IT동아	01.15	1040	1
3350	[리뷰] 넷기어 프로 라우터 PR60X, 네트워크 복잡성과 보안위협 대응하는 올인원 솔루션 [1]	IT동아	01.15	473	0
3349	[CES 2024] 전기차 시대 준비하는 소재·부품·에너지 기업	IT동아	01.12	113	0
3348	[리뷰] QLED+144Hz 게이밍 TV의 매력, 2024년형 더함 스마트 65 QLED	IT동아	01.12	150	0
3347	신진영 건국대학교병원 교수 “고령환자 DB, 질병 예방 시대 마중물” [2]	IT동아	01.12	870	1
3346	[CES 2024] BMW 첨단 기술 집약한 CES 체험존 살펴보니	IT동아	01.12	100	0
3345	[리뷰] 크기는 줄이고 청소 성능은 높였다, 에코백스 디봇 X2 옴니 [2]	IT동아	01.12	834	0
3344	[CES 2024] 현대차·기아, ‘수소·SW 중심·맞춤형 PBV 활용’ 청사진 제시	IT동아	01.12	126	0
3343	[CES 2024] CES 달군 대한민국의 인공지능 기업들 [1]	IT동아	01.12	164	0
3342	[CES 2024] 새 시장 만드는 국내 라이프스타일 가전들은? [2]	IT동아	01.12	298	0
3341	SEC, 비트코인 현물 ETF 승인···투자자 유입 기대감에 시세 급등	IT동아	01.12	101	0
3340	[CES 2024] IFEZ 홍보관 전시한 인천시, '세계 초일류 스마트시티 도약' 선언	IT동아	01.11	95	0
3339	펫나우 반려견 비문인증, 보험료 할인 열쇠로 [2]	IT동아	01.11	2845	1
3338	[CES 2024] 제이디솔루션 “지향성 음향 보급 원년으로”	IT동아	01.11	97	0
3337	[CES 2024] IT 기자가 본 '디지털 헬스'의 4가지 트렌드	IT동아	01.11	166	0
3336	[마인드테크 시대가 온다] 7. 마인드테크의 주요 기술	IT동아	01.11	150	0
3335	[CES 2024] 국내 주요 대기업 부스에 전 세계인 시선 몰렸다	IT동아	01.11	260	0
3334	[CES 2024] 스타트업의 요람 '유레카 파크', 한국 기업 참여 현황은?	IT동아	01.11	155	1
3333	[KTVF] 뉴로클 이홍석 대표, “우리는 딥러닝계의 어도비를 꿈꿉니다” [2]	IT동아	01.10	439	0
3332	[CES 2024] MSI, ‘크리에이터·비즈니스 사용자 겨냥’ 신제품 CES서 선봬	IT동아	01.10	89	0
3331	인텔 프로세서 브랜드, ‘코어 i’에서 ‘코어 울트라’, ‘코어’로 개편 본격화	IT동아	01.10	137	0
3330	[CES 2024] MSI, CES서 인텔 최신 CPU 탑재 ‘신작 게이밍 라인업’ 대거 공개 [6]	IT동아	01.10	826	0
3329	[CES 2024] 인텔, 소비자용 AI 칩부터 차량용 솔루션까지 대거 공개 [2]	IT동아	01.10	696	0
3328	[CES 2024] CTA가 추구하는 스타트업 트렌드는 'AI·디지털 헬스·푸드테크'	IT동아	01.10	122	0
3327	[CES 2024] 뷰티기업 로레알은 어떻게 CES의 중심에 섰나 [2]	IT동아	01.10	523	0
3326	[CES 2024] MSI 첫 고성능 휴대용 게임기 ‘클로’ CES서 데뷔	IT동아	01.09	105	0
3325	[혁신스타트업 in 홍릉] 이센 “센서·헬스케어로 모두가 아프지 않도록 관리”	IT동아	01.09	96	0
3324	[CES 2024] LG, '애정있는 AI' 앞세워 소비자 경험 끌어올린다	IT동아	01.09	77	0
3323	다음주 공개될 갤럭시 S24, AP와 AI가 관전포인트 [5]	IT동아	01.09	1024	2
3322	캐릭터·일러스트 작가 “나의 이야기 담은 ‘내 것’을 만들고 있습니다”	IT동아	01.09	88	0
3321	[CES 2024] CES 전야제 '언베일드'에 참가한 국내 기업은? [2]	IT동아	01.09	377	0
3320	가상자산법 규제 공백 존재, 가이드라인·하위규제 필요	IT동아	01.09	75	0
3319	지향성·공간·입체…첨단 음향 기술 CES 달군다	IT동아	01.08	119	0
3318	보낸 문자, 카카오톡, 이메일 회수하려면 이렇게![이럴땐 이렇게!] [5]	IT동아	01.08	1440	0
3317	[CES 2024] CTA가 선정한 올해 IT 업계의 6가지 유행은? [2]	IT동아	01.08	878	0
3316	[리뷰] 최상위급 스펙에 개성까지, 에이수스 제피러스 M16 게이밍 노트북 [33]	IT동아	01.05	4195	1
3315	[시승기] 돋보이는 정숙성과 효율…혼다 6세대 CR-V 하이브리드	IT동아	01.05	124	0
3314	2024 스마트폰에 탑재될 인공지능은? [4]	IT동아	01.05	988	1
3313	[CES 2024] 기조연설부터 세션, 전시까지 'AI'가 대세	IT동아	01.05	169	0
3312	가상자산 회계처리 감독지침 시행 ‘가상자산 회계·공시 규율 강화’ [2]	IT동아	01.05	807	0
3311	[주간투자동향] 클로봇, 110억 원 규모의 프리-IPO 투자 유치	IT동아	01.05	167	0
3310	이기욱 중앙대 교수 “100m 7초 주파 로봇슈트 위해 각 분야 전문가가 협력합니다”	IT동아	01.05	126	0
3309	새해 달라지는 자동차 관련 제도 살펴보니 [3]	IT동아	01.04	564	0
3308	[IT애정남] 겨울철 스마트폰 배터리 소모가 빠른 이유?	IT동아	01.04	123	0
3307	[CES 2024] 개막 전 짚어보는 올해 '테크 트렌드'는? [2]	IT동아	01.04	902	0
3306	[뉴스줌인] 튀어야 팔리는 게이밍 PC 시장, 4K 화면 달린 PC케이스 등장 [13]	IT동아	01.04	1590	1