MS, 얼굴 표정에서 감정 읽어주던 AI 서비스 종료…이유는?

IT동아

2022.06.22 18:30:37

조회 175 추천 0 댓글 0

[IT동아 권택경 기자] 마이크로소프트가 클라우드 서비스로 제공하던 얼굴 인식 기능 중 일부를 더 이상 제공하지 않겠다고 밝혔다. 문제가 된 기능은 얼굴 인식을 바탕으로 감정, 성별, 나이 등을 유추하는 기능이다.

이번 결정은 인공지능을 안전하고 윤리적인 방향으로 개발하고 이용할 수 있게 하겠다는 마이크로소프트 정책에 따른 것이다. 마이크로소프트는 지난 2019년 이같은 정책을 규범화한 ‘책임 있는 인공지능’ 기준을 처음으로 제시한 바 있다. 지난 21일에는 최신 연구 결과를 반영해 더욱 발전시킨 개정판을 공개했다. 마이크로소프트는 지난 1년간 연구원, 엔지니어, 정책 전문가 등 다양한 전문가와 함께 이 기준을 만들었다고 밝혔다. 새 기준 발표와 동시에 당장 일부 기능 제공을 중단한 건 이 기능들이 기준에 부합하지 않는다고 판단했기 때문이다.

애저의 페이스 API는 얼굴 표정에서 감정을 읽는 기능을 제공해왔다. 출처=깃헙

마이크로소프트는 클라우드 서비스 애저의 ‘페이스 API’ 등에서 얼굴 표정으로 감정을 읽거나 성별, 나이, 메이크업, 미소, 수염, 머리카락 등의 속성을 판단하는 기능을 제공해왔다. 이중 페이스 API의 감정 인식 기능은 기업 고객이 아닌 누구라도 이용할 수 있도록 공개하기도 했다.

그러나 이를 놓고 과학적 근거가 부족하고 사회적 편견과 오남용 가능성이 크다는 비판이 꾸준히 제기됐었다. 미국 심리학회가 노스이스턴 대학 리사 펠드먼 바렛 교수 등에 의뢰한 연구 결과에 따르면 얼굴 표정과 감정 사이에는 큰 연관성이 없었다. 연구에 따르면 사람은 감정을 다양한 방식으로 표현하기 때문에 표정만으로 감정을 추론하는 건 정확도가 떨어진다. 예컨대 화가 났을 때 사람들이 얼굴을 찡그리는 경우는 평균 30% 미만이다. 다시 말해 찡그린 얼굴만으로 ‘화남’이란 감정을 판별하는 건 무리가 있다는 것이다.

얼굴 인식을 기반으로 성별, 나이, 수염, 머리카락, 메이크업 등 정체성과 관련된 민감한 속성을 유추하는 기능도 고정관념이나 차별을 강화하고 부당한 서비스 거부로 이어질 수 있다는 우려가 제기됐다.

마이크로소프트가 이러한 내외부 문제 제기를 수용함하고 '책임 있는 인공지능' 기준에 반영함에 따라 해당 기능들은 더 이상 신규 고객들에게 제공되지 않는다. 다만 기존 고객들에게는 내년 6월 30일까지 일종의 유예 기간을 주기로 했다. 또한 마이크로소프트의 시각장애인용 음성 안내 앱인 씨잉 AI(Seeing AI)처럼 오남용 위험성보다 유익성이 큰 활용 분야에 한해서는 예외를 뒀다.

출처=마이크로소프트

이와 별개로 마이크로소프트는 앞으로 얼굴 인식을 이용하려는 고객들에게 접근 권한을 허용받도록 하는 절차도 추가한다. 얼굴 인식 기능이 마이크로소프트가 제시한 기준에 부합하고, 사용자와 사회적 이익에 기여하는 방향으로 활용되는지 확인하겠다는 의도다. 대상은 페이스 API, 컴퓨터 비전, 비디오 인덱서 등에서 얼굴 인식 기능을 이용하고자 하는 고객들이다. 이들은 1년 단위로 승인을 새로 받아야 한다. 기존 고객들은 2023년 6월 30까지 승인받도록 했다. 다만 얼굴 인식이 아닌 얼굴 감지 기능은 이러한 절차 없이 계속 사용할 수 있다. 단순히 얼굴을 감지해 흐리게 처리하거나, 얼굴 방향을 인식하는 등의 기능이 이에 해당한다.

나타샤 크램프턴 마이크로소프트 ‘책임 있는 AI’ 최고 책임자는 “더 나은, 공평한 미래를 위해서는 인공지능을 위한 새로운 가드레일이 필요할 것”이라며 “마이크로소프트의 책임 있는 AI를 위한 기준은 이 목표를 향한 기여 중 하나”라고 말했다.

글 / IT동아 권택경 (tk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ [IT하는법] 아이폰 메모 앱, 윈도에서 이용하는 방법은?▶ 센서, 드론에 자동차까지…소니, 모빌리티 사업 전개에 속도 ▶ [IT애정남] 지원 끝난 IE 11, 실행되는데 그냥 써도 되나요?

고정닉 0

원본 첨부파일 2본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	연예인 안됐으면 어쩔 뻔, 누가 봐도 천상 연예인은?	운영자	24/06/17	-	-
1490	[IT신상공개] LG의 폼팩터 실험은 계속 된다, 이동형 모니터 '리베로' 출시 [8]	IT동아	22.07.18	747	0
1489	나날이 교묘해지는 해킹 앱, 아이폰도 안심은 금물 [2]	IT동아	22.07.18	3464	8
1488	유럽연합 ESG 공급망 실사법 추진...수출기업 '비상' [1]	IT동아	22.07.18	168	1
1487	[주간투자동향] 라인 넥스트, 1,000만 달러 규모의 전략적 투자 계약 [1]	IT동아	22.07.18	693	0
1486	정부, 산업단지 내 탄소배출 저감 ‘박차’	IT동아	22.07.15	91	0
1485	[리뷰] 친환경+보냉 만족 포장재, 칼렛바이오 전분패드 보냉박스	IT동아	22.07.15	122	2
1484	[기고] IT서비스의 정상 운영, 고객 만족도와 직결된다	IT동아	22.07.15	85	0
1483	[IT애정남] 중저가 모니터의 HDR 기능, 의미 있을까?	IT동아	22.07.15	135	0
1482	[김 소장의 ‘핏(FIT)’] “아빠, 화장실에서 찍은 제 사진 좀 지워주시면 안되요?” [6]	IT동아	22.07.15	1669	1
1481	틱톡 송제승 SMB 총괄 “중소기업 광고주와 동반 성장, 지속가능성을 위해 꼭 필요” [3]	IT동아	22.07.15	497	0
1480	[리뷰] 새 드라이어와 양방향 배럴로 혁신, 다이슨 에어랩 멀티 스타일러	IT동아	22.07.15	102	0
1479	[농업이 IT(잇)다] 헬씨코 “남녀노소 모두 쉽게, 맛있게 먹는 한방 식품”	IT동아	22.07.15	92	0
1478	UAM부터 최신 전기차까지…4년 만에 돌아온 ‘부산모터쇼’	IT동아	22.07.15	77	0
1477	몇 만 원짜리 IP카메라, 센서만 있어도 여름철 매장∙가정 보안 ‘든든’	IT동아	22.07.14	113	0
1476	하이브리드 근무는 사라지지 않는다...줌 "관건은 하이브리드 방식의 효율화" [1]	IT동아	22.07.14	105	0
1475	[혁신스타트업 in 홍릉] 우당네트웍 “성공으로 이끄는 맞춤형 연구·실험 서비스”	IT동아	22.07.14	94	0
1474	[모빌리티 인사이트] 무한한 공간, 저 너머로! 우주 탐사 모빌리티	IT동아	22.07.14	94	0
1473	센서부터 인공지능까지 총동원, 스포츠에 녹아든 IT 기술들 [10]	IT동아	22.07.14	1617	3
1472	콘텐츠스텝업, IP를 무기로 글로벌 콘텐츠 전쟁에서 살아남는 비결은?	IT동아	22.07.14	86	0
1471	전통 금융권이 동남아 시장을 두드리는 이유	IT동아	22.07.13	112	0
1470	[리뷰] 그로구, 딘 자린, 보바 펫이 함께하길, 씨게이트 스타워즈 외장하드 3종 [3]	IT동아	22.07.13	1026	1
1469	액셀러레이터 10년 경력 스파크랩 김유진 대표의 스타트업 'He스토리'	IT동아	22.07.13	110	0
1468	[기고] 글로벌 기업이 하이브리드 클라우드 환경에 주목하는 이유	IT동아	22.07.13	82	0
1467	경직된 스마트폰 시장에 새 바람 불까··· 英 낫싱, Phone (1) 정식 출시 [23]	IT동아	22.07.13	2822	1
1466	제임스 웹 우주 망원경 “제 2의 지구, 별의 탄생과 죽음, 첫 우주의 단서 포착” [5]	IT동아	22.07.13	1019	8
1465	[성공의 키, 인스타그램 마케팅] 5부 - 인스타그램으로 비즈니스 성공하기	IT동아	22.07.12	89	0
1464	[르포] 인공지능 인재 육성의 일선 현장을 가다…'서울 우신고등학교' [1]	IT동아	22.07.12	132	0
1463	[이제는 SaaS 시대] 고객 기술 지원을 위해 후지필름이 선택한 ‘비디오헬프미’	IT동아	22.07.12	73	0
1462	KDA "정부는 가상자산 산업을 육성하고, 이용자를 보호할 책임이 있다"	IT동아	22.07.12	89	0
1461	‘코인’ 열풍 시들, 그래픽카드 가격 정상화 단계 [33]	IT동아	22.07.12	4230	12
1460	[뉴스줌인] X-밸런스드에 라인 디퓨저가 무슨 말? 소니 SRS-XE200·300 스피커	IT동아	22.07.12	68	0
1459	[IT 강의실] 스마트폰 카메라 성능·화질 볼 때 눈여겨볼 숫자는?	IT동아	22.07.12	107	0
1458	[뉴스줌인] OLED 탑재 노트북 대거 출시한 에이수스, 뭐가 다르길래? [11]	IT동아	22.07.11	1350	1
1457	호텔업계, 휴가철 맞아 '펫팸족' 사로잡기 분주 [5]	IT동아	22.07.11	1240	1
1456	[IT애정남] 네이버 지도의 즐겨찾기 한도는 2천 개, 늘릴 방법 없나요?	IT동아	22.07.11	107	0
1455	재협상? 계약 파기? 혼돈에 빠진 머스크와 트위터	IT동아	22.07.11	98	0
1454	[리뷰] LG 윈퀵 시리즈, 회의실부터 거실까지 ‘열일’하는 올인원 디스플레이	IT동아	22.07.11	127	0
1453	창작자들의 새로운 시도... "NFT로 크라우드펀딩 나섭니다" [4]	IT동아	22.07.11	1532	0
1452	[주간투자동향] FCMT, 61억 원 규모의 시리즈A 투자 유치	IT동아	22.07.11	60	0
1451	날씨를 조작하는 기술, 어디까지 가능할까? [9]	IT동아	22.07.08	1839	5
1450	[스타트업人] "어려운 미술세계, 쉽고 재밌게 설명해야 모두가 즐길 수 있어요" 테사 에셋 큐레이터 이야기	IT동아	22.07.08	133	0
1449	[농업이 IT(잇)다] 메디프레소 “건강 차도 캡슐 머신으로 빠르고 편리하게 내려 드세요”	IT동아	22.07.08	104	0
1448	[IT강의실] 에어컨, 전기요금 조금이라도 아끼며 시원하게 쓰려면? [20]	IT동아	22.07.08	8725	13
1447	[리뷰] 전문가용 모니터를 이식한 노트북, 에이수스 프로아트 스튜디오북 16 OLED	IT동아	22.07.08	225	0
1446	[김 소장의 ‘핏(FIT)’] 고인의 모습과 고인의 목소리, 당신의 추억 방법은? [1]	IT동아	22.07.08	1531	0
1445	넷기어 오르비 시리즈, 유선+무선 구성으로 활용도 높이기	IT동아	22.07.08	151	0
1444	포스코 “11돌 아이디어마켓플레이스, 스타트업 대표 등용문으로”	IT동아	22.07.08	89	0
1443	유류비 폭등에 전기차 가격까지 상승...울상인 소비자 [4]	IT동아	22.07.07	1785	0
1442	[IT애정남] 외장 SSD는 데이터 보관용으로는 부적합?	IT동아	22.07.07	190	0
1441	그래프코어, ETRI와 손잡고 국내 AI 산업 효율화·상용화 돕는다	IT동아	22.07.07	105	0