자료검색
이슈엔북스(Issue & Books)
혹시 딥페이크에 대해 들어보셨나요?
최근 인터넷에서 유명 인플루언서가 황당한 뉴스를 말하거나 엉뚱한 행동을 하는 영상을 본 적 있으신가요? 아니면 연예인이 투자를 권유하는 영상은요? 아마도 그 영상은 딥페이크 영상일 가능성이 높습니다.
딥페이크(Deepfake)는 AI 딥러닝 기술을 기반으로 특정 인물의 얼굴, 목소리, 행동뿐만 아니라 이미지, 텍스트 등을 교묘하게 조작하여 만들어진 가짜 디지털 미디어 콘텐츠입니다. 핵심은 바로 ‘가짜이지만 진짜처럼 보이는’ 콘텐츠라는 점입니다. 드라마 <카지노>에서 나왔던 배우 최민식의 30대 시절 모습이나, <살인자ㅇ난감>에 나온 배우 손석구의 어린 시절도 딥페이크를 활용해 만들었습니다.
초기에는 딥페이크가 유명인의 가짜 영상이나 음성으로 가볍게 소비되는 콘텐츠로 취급되었지만, AI 기술의 발전과 대중화로 누구나 쉽게 가짜 영상을 제작할 수 있게 됨에 따라 우리 사회에 미치는 영향력이 점차 커지고 있습니다.
-
(왼쪽) 젊은 시절의 차무식(이규형 분). (오른쪽) 30대 차무식(최민식 분).
-
(왼쪽) 어린 시절의 장난감(강지석, 장지안 분). (오른쪽) 극중 장난감(손석구 분).
우리 생활 곳곳에 숨은 딥페이크, 알고 보면 든든한 조력자
딥페이크는 단순한 가짜 영상이 아닙니다. 상상을 현실로 만들고, 영화 및 엔터테인먼트, 연구, 마케팅과 광고 등 다양한 분야에서 혁신을 이끄는 마법 같은 기술과 콘텐츠입니다.
• 교육과 번역
교과서에서만 보던 역사 속 인물이 눈앞에서 생생하게 움직인다면 어떨까요? 미국의 ‘달리 미술관’을 방문하면 딥페이크로 재현된 살바도르 달리와 관객이 직접 대화할 수 있다고 합니다. 딥페이크 기반의 더빙 기술을 활용하여 축구 선수 ‘데이비드 베컴’이 9개 언어로 말라리아 퇴치 캠페인을 홍보하는 영상이 공개돼 화제가 된 적도 있습니다. 언어의 장벽을 넘어 자유롭게 소통하는 미래가 점차 현실로 다가오고 있습니다.
• 지능형 의료
의료 분야에서는 환자들의 고통을 덜어줄 수 있는 수단인 딥페이크에 대해 적극적으로 연구하고 있습니다. 수많은 의료 영상과 사진을 학습한다면 딥페이크로 실제 환자와 유사한 가상 환경에서 수술을 연습하거나 다양한 질병의 증상을 학습할 수 있기 때문입니다. 특히 딥페이크 기술을 응용해 원본 영상과 구별할 수 없을 정도로 정확한 딥페이크 의료영상을 만들어 암을 탐지하는 시스템을 개발한 사례도 있습니다.
• 고인 추모
광복이 되기 전 감옥에서 순국하신 독립운동가들에게 죄수복 대신 한복을 입혀드리는 프로젝트 영상을 보신다면 누구라도 마음이 뭉클해질 것 같습니다. 딱딱하게 굳은 표정으로 남은 유관순 열사와 윤봉길 의사의 사진을 토대로 딥페이크를 만들면, 유관순 열사와 윤봉길 의사가 웃는 모습도 볼 수 있습니다.(한경닷컴 (2021.3.4.). 생전 유관순 열사 모습은…딥페이크의 좋은 예) 고인이 된 가족의 얼굴 사진과 음성 데이터를 제공하면 유족에게 다시 한번 추모할 기회도 주어집니다.(AI 타임스. (2024.1.22.). 딥브레인AI, AI 추모 서비스 '리메모리2' 출시)
이처럼 딥페이크는 다양한 분야에서 우리의 든든한 조력자로 활약하고 있습니다.
내 일상을 파고드는 딥페이크의 위험한 그림자
화려한 조명 뒤에는 항상 짙은 그림자가 있는 것처럼, 딥페이크의 매력 뒤에도 위험한 그림자가 있습니다. 딥페이크를 악용하면 새로운 범죄가 생겨나고, 기존의 범죄도 더욱 악랄해집니다.
• 정치적 선전
딥페이크의 위험성이 범죄에만 적용되는 것이 아닙니다. 최근에는 정치적 선전 영상 제작에 악용되기도 했습니다. 해외에서는 이미 딥페이크로 정치인의 연설 장면이나 인터뷰를 조작하여 가짜 정보를 퍼뜨리는 사례가 여럿 발생했습니다.
• 금융 사기
유명인의 얼굴과 목소리를 도용한 금융 사기 콘텐츠로 거액을 가로채려는 시도 또한 여러 번 있었습니다. 대표적으로 홍콩에서 기업 CEO뿐만 아니라, 피해자의 주변 직원들까지 전부 딥페이크 영상으로 만들어서 손쉽게 거액을 훔친 사례가 있습니다. 한국에서도 조인성이나 송혜교처럼 유명 연예인들이 투자를 권유하는 영상이 유행해서 논란이 되었습니다.
• 디지털 성범죄
작년에는 다른 사람의 얼굴이나 목소리를 합성한 딥페이크 음란물을 제작한 대규모 디지털 성범죄가 사회에 큰 충격을 주기도 했습니다. 딥페이크 음란물은 만들기는 쉬워도 삭제나 유포 경로 추적이 어려워 피해가 장기간 지속될 수 있습니다. 가장 심각한 부분은 피해자 중 아동이나 청소년도 많다는 점입니다.
점점 발전하는 딥페이크, 어떻게 대응해야 할까요?
• 국가와 법
2024년 9월, 대한민국 국회는 딥페이크 기술로 인한 피해를 줄이기 위해 「딥페이크 처벌법」(성폭력처벌법 개정안)을 마련했습니다. 이 법안은 디지털 성범죄 예방법의 일환으로, 딥페이크를 이용한 명예훼손 및 성폭력적 영상 유포에 대한 처벌을 강화하는 내용을 담고 있습니다. 또한 과학기술정보통신부는 딥페이크 탐지를 고도화하기 위해 올해 20억 원을 기술개발 예산으로 편성하는 등 국가 차원에서도 딥페이크의 악용을 막기 위해 노력하고 있습니다.
• 기업과 기술
글로벌 기업들도 딥페이크 탐지 기술 등 관련 기술개발을 통해 딥페이크 악용에 적극적으로 대응하고 있습니다. 구글과 OpenAI는 이미지 생성 AI에 워터마크를 삽입해서 AI가 만든 콘텐츠라는 것을 판별할 수 있도록 했습니다. 마이크로소프트는 딥페이크를 탐지할 수 있는 시스템을 발표했고, 메타에서는 인스타그램, 페이스북에서 AI가 생성한 콘텐츠를 식별하기 위한 시스템을 구축할 예정이라고 밝혔습니다.
• 개인과 교육
진짜와 가짜가 뒤섞인 혼란스러운 정보 속에서 디지털 리터러시는 우리의 판단력을 지켜줄 수 있습니다. 디지털 리터러시란 단순히 컴퓨터나 스마트폰을 잘 사용하는 능력이 아니라, 디지털 정보를 비판적으로 이해하고, 분석하며, 평가하고, 활용하는 능력을 의미합니다. 미국, 영국, 호주 등 해외에서는 디지털 리터러시를 필수 교육 과정으로 지정한 사례가 늘어나고 있습니다.
진짜? 가짜? 헷갈리는 딥페이크, 현명하게 구별하는 능력 키우기
국회도서관. (2021.9.14.). 미디어 리터러시 교육 관련 미국·프랑스 입법례. 최신외국입법정보, 제173호, p.1
디지털 리터러시의 첫걸음은 정보를 있는 그대로 믿지 않고 의심하는 습관을 만드는 것입니다. 팩트 체크 사이트를 통해 정보를 객관적으로 판단하는 능력을 키우는 것도 중요합니다. 정보를 접했을 때는 반드시 아래의 세 가지 질문에 답해보세요.
① 이 정보는 어디에서 온 걸까?(출처 확인)
② 누가 왜 이 정보를 제공하는 걸까?(정보 제공자 및 의도 파악)
③ 다른 정보들과 일치하는 걸까?(정보 교차 검증)
이메일 서비스가 대중화된 2000년대 초반, 스팸메일은 사회적인 문제였습니다. 대중이 스팸메일에 쉽게 속지 않게 된 이유는 바로 메일 서비스가 보편화되면서 반복적인 노출을 통해 스팸메일의 특성을 ‘학습’했기 때문입니다. 가짜 정보로 넘쳐나는 디지털 시대에서, 디지털 리터러시는 이제 선택이 아닌 필수입니다.
디지털 세상에서 길을 잃지 않도록 나침반이 되어줄 책
현대 사회에서 AI 기술 사용을 통제하기란 불가능에 가깝습니다. 무작정 통제하는 대신, 앞으로 기술이 나아가야 할 방향성에 대해 국회부산도서관과 함께 고민해보는 건 어떨까요?
* 도서 이미지를 클릭하면 국회전자도서관으로 연결됩니다.
-
딥페이크의 얼굴
-
AI 상식사전 = 인공지능, 전공은 아니지만 궁금했어요
-
범죄와 AI
-
도덕적인 AI : 딥페이크부터 로봇 의사까지, 인공지능 윤리를 위한 일곱 가지 물음
-
이상한 나라의 위험한 가짜뉴스 : 가짜뉴스와 혐오, 사이버 폭력으로부터 나를 지키는 법
-
가짜뉴스의 사회학
-
이대로 속고만 살 수 없다 : 진짜와 가짜를 가려내는 미디어 리터러시
-
정치뉴스 리터러시
-
(디지털 소양을 위한) 미디어 리터러시 교육
-
미디어 리터러시 : 챗GPT 인공지능 시대 철저 대비법
-
SNS와 스마트폰 중독 어떻게 해결할까? : 디지털 리터러시를 통한 소셜미디어의 올바른 사용과 과몰입 방지
-
디지털 교육의 이해
Copyright (c) National Assembly Busan library. All Rights Reserved.
