죽은 가족 목소리 들려주면 그대로 복제하는 아마존 AI 알렉사 신기능

아마존 알렉사 인공지능 스피커 / Unsplash

[인사이트] 강유정 기자 = 아마존이 인공지능(AI) 음성인식 서비스 알렉사의 놀라운 새 기능을 공개해 화제다.

지난 23일(현지 시간) 영국 일간 데일리메일의 보도에 따르면 최근 아마존(Amazon)은 전날 미국 라스베이거스에서 열린 '리: 마스(Re: Mars)' 콘퍼런스에서 사망한 목소리를 되살리는 기능을 공개했다.

이 기능은 알렉사에 1분 미만의 음성 샘플을 들려주면 그 목소리를 그대로 따라 하는 기능이다.

예를 들어 알렉사에 영화배우 사무엘 잭슨의 목소리나 돌아가신 할머니의 생전 목소리를 들려주면 그대로 목소리를 복제해 말을 한다.

기사와 관련 없는 자료 사진 / gettyimagesBank

이는 곧 사랑하는 사람의 음성을 녹음해두거나 영상을 촬영해두면 이후 사망했을 때 다시 그의 목소리와 대화를 할 수 있다는 의미다.

이날 콘퍼런스를 통해 공개된 시연 영상에서는 한 어린이가 알렉사를 향해 "알렉사, 할머니가 읽어주던 '오즈의 마법사' 책을 끝낼 수 있어?"라고 물었다.

잠시 후 알렉사는 명령을 확인하고 목소리를 변경했다. 놀랍게도 알렉사는 할머니의 목소리로 책을 읽기 시작했다.

기사와 관련 없는 자료 사진 / gettyimagesBank

로히트 프라사드(Rohit Prasad) 알렉사 수석 부사장은 "팬데믹 기간 동안 많은 사람들이 사랑하는 사람을 잃었다. 그래서 우리는 추억을 오래도록 남기는 것을 목표로 하고 기능을 만들었다"라고 밝혔다.

이어 "우리는 의심할 여지 없이 우리의 꿈과 공상과학 소설이 현실이 되는 AI의 황금시대에 살고 있다"라고 말했다.

그러면서 "우리는 음성 생성 경로가 아니라 음성 변환 작업으로 프레임화해 단 1분 만의 연설만으로 고품질 오디오를 생성하는 기능을 개발했다"라고 덧붙여 설명했다.

아마존은 알렉사의 음성 모방 기능이 언제 출시될 것인지에 대해서는 언급하지 않았다.

Unsplash

하지만 일각에서는 알렉사의 새로운 기능에 이점도 있지만 악용될 수 있다고 우려하고 있다.

음성 모방 기능은 사랑하는 사람을 잃은 이들에게 위안을 주고 언어 장애 또는 기타 문제가 있는 사람을 도울 수도 있지만 일부 전문가들은 이것이 범죄에 악용될 수 있다고 지적했다.

미국의 온라인 보안 서비스 업체 소셜프루프시큐리티(SocialProof Security)의 CEO 레이첼 토백(Rachel Tobac) 미국 워싱턴포스트와의 인터뷰에서 "세상은 아직 사용자 친화적인 음성 복제 기술을 받아들일 준비가 되지 않았다"라면서 "알렉사의 신기능이 사이버 범죄에 악용될 수 있다"라면서 "사이버 범죄자가 음성 샘플을 사용해 다른 사람의 목소리를 복제해낸다면 이는 사기와 데이터 탈취, 계정 도용 등으로 이어질 수 있다"라고 경고했다.

호주 커틴대학(Curtin University)의 타마 리버(Tama Leaver) 인터넷학 교수는 "숨진 사람의 목소리를 흉내 내는 기술이 사람과 기계 사이의 경계를 모호하게 만드는 위험이 있다"라면서 "죽은 사람의 데이터를 사용하는 것은 섬뜩하고 비윤리적"이라고 비판했다.

한편 아마존의 인공지능 비서 알렉사는 전 세계에 무려 1억 명에 달하는 이용자를 보유한 것으로 알려졌다.