딥페이크, 도대체 뭘까요?

딥페이크는 Deep + Fake가 조합된 신조어로 컴퓨터 인공지능 (AI: Aertificial Intelligence) 기술의 하나인 딥러닝으로 만들어진 ‘진짜같이 보이는’ 가짜 사진, 음성, 영상 을 의미합니다. 백문이 불여일견 이라고, 열 마디 설명보다 한 번 경험해보시면 아 이게 딥페이크구나! 이해가 되실 겁니다. 다음 중 딥페이크에 해당하는 보기를 모두 골라주세요!

01/10

딥페이크의 종류을 알아봅시다!

딥페이크는 다양한 방식으로 만들어지고 있습니다. 다음 중 딥페이크로 만들 수 있는 미디어 종류를 골라보세요.

02/10

조금 더 ‘딥’ 하게 알아보면…

딥페이크는 인공지능 기술을 사용한다고 말씀 드렸는데요. 칩페이크 (Cheapfake, ‘싸구려 조작’) 내지 샬로우페이크 (Shallowfake, Deepfake의 반댓말) 는 조작 기술의 또 다른 형태를 의미합니다. 다음 중 칩페이크 에 해당하지 않는 보기를 골라볼까요?

03/10

자 이제 딥페이크를 찾아봅니다.

딥페이크를 식별할 수 있을까요? 사진 속 얼굴에서 뭔가 자연스럽지 않은 부분을 한 번 살펴보세요.

  • 이미지1번
  • 이미지2번
  • real image
  • fake image
04/10

조금 더 어려운 사진을 골라볼까요.

이번에는 사람 얼굴이 아닌 고양이 사진입니다. 다음 사진 중에 딥페이크로 만들어진 고양이를 한 번 찾아보세요!

  • 이미지1번
  • 이미지2번
  • real image
  • fake image
05/10

왜 딥페이크가 만들어질까?

딥페이크를 구분하는 한 가지 전략은 미디어가 만들어지는 목적을 생각해 보는 것입니다. 다음의 사진 중에는 업무용 관계 맺기에 주로 사용되는 링크드인에서 발견된 러시아 스파이의 딥페이크 가 포함되어 있습니다. 러시아 스파이 Katie Jones를 한 번 찾아보세요.

  • 이미지1번
  • 이미지2번
  • 이미지3번
  • fake image
  • real image
  • real image
06/10

딥페이크의 영향은 무엇일까요?

딥페이크의 맥락을 이해하기 위해, 의도되거나 그렇지 않은 결과를 유추해보는 것이 도움이 됩니다. 러시아 스파이 Katie Jones의 사진이 딥페이크라고 말할 수 있을까요? 여기 진짜가 하나 있습니다. 한 번 찾아보세요.

  • 이미지1번
  • 이미지2번
  • 이미지3번
  • fake image
  • fake image
  • real image
07/10

충분히 믿을만 할까?

여러분이 신뢰하는 언론을 통해 소식을 접하고 최신 정보를 유지한다고 생각해보세요. 딥페이크로 인한 부정적인 영향을 줄이려면 우리는 무엇을 할 수 있을까요?

08/10

합리적으로 살펴보기

여러분이 전에 접한 기억이 없는 사진이나 영상을 우연히 발견한다고 상상해보세요. 사진이나 영상을 더 비판적으로 생각해보도록 하는 단서는 무엇일까요? 다음의 보기 중 해당하는 모든 경우를 골라보세요.

09/10

자, 이제 여러분이 하실 일은?

딥페이크로 의심되는 미디어를 발견했을 때 가장 먼저 하실 일은: 잠시 멈추고 생각하는 것입니다. 그리고 하실 일은 무엇일까요?

10/10

힌트

‘딥페이크’는 지난 2017년말 미국의 온라인 커뮤니티 Reddit 에서 연예인의 얼굴과 포르노 영상물에 합성한 작성자가 처음 사용한 것으로 알려졌습니다.

hint decoration image

힌트

가장 일반적인 딥페이크는 사람 얼굴 자체를 만들어내거나, 일부를 바꿔버리기도 합니다. 다른 예에서는 사진이나 영상 속 사물을 추가하거나 지우기도 하고, 날씨나 빛을 바꾸기도 하며, 심지어 목소리를 똑같이 흉내내기도 합니다. 이러한 기술로 조작되는 딥페이크는 어느 한 종류에 한정되지 않습니다.

hint decoration image

힌트

미디어 조작은 새로운 기술이 아닙니다! 인공지능은 진화된 기술을 지원하지만, 기존의 편집 소프트웨어는 여전히 매우 효과적이고, 딥페이크보다 더 그럴듯한 가짜 미디어를 만들어낼 수 있습니다.

hint decoration image

힌트

어딘가 이상해보이는 부분을 찾아낼 수 있다면 딥페이크를 찾는데 도움이 됩니다. 여기서 보여드리는 예제에서 머리카락, 안경 주변에 주목해보세요. AI로 만들어진 딥페이크 사진 속 인물의 눈썹, 안경, 눈동자와 옷 끝자락에서는 시각적 결함이 자주 만들어집니다.

hint decoration image

힌트

두 사진 속 고양이 털 주변과 눈동자 부위를 잘 관찰해보세요.

hint decoration image

힌트

여러분이 딥페이크로 의심되는 사진이나 영상을 발견하게 되면, 제작자가 취할 수 있는 이익이 무엇일지 한 번쯤 생각해 보시기 바랍니다.

hint decoration image

힌트

딥페이크는 의도되거나 그렇지 않은 결과 모두를 가져올 수 있다는 것을 기억하시기 바랍니다. 여러분이 어딘가 수상한, 딥페이크로 의심되는 미디어를 접하게 되면 어떤 영향이 있을지 생각해보세요: 단순히 흥미를 위한 것인지, 아니면 잠재적 위험을 가져다 줄 지 말이죠.

hint decoration image

힌트

앞서 말씀드린 대로, 딥페이크 기술은 점점 더 정교해지고 발전하고 있습니다. 따라서, 여러분들이 믿는 출처의 정보에 대해 가끔 비판적으로 생각해 보는 것도 필요합니다. 가장 좋은 방법은 미디어 제작자의 동기, 그 미디어를 만들어서 얻게 되는 이익, 그리고 그것이 널리 전해진다면 어떤 영향이 있을지를 생각해보는 것입니다. 과거에 정확한 정보를 전달했던 경험이 있다고 해서 미래에도 그럴 것이라는 보장은 없습니다.

hint decoration image

힌트

딥페이크를 구분하는 일반적인 규칙이 존재하지는 않습니다. 하지만 여러분을 속이려고 하는 딥페이크가 있다면 이를 평가하기에 좋은 방법이 있습니다. 일반적으로, 딥페이크 제작자는 부정적이거나 긍정적으로 보는 이들의 감정을 자극하려고 합니다. 특정 사진이나 영상에 대해 강한 감정적인 반응을 느낀다면 주의하시기 바랍니다. 어딘가 너무 좋거나, 나쁘거나, 평범하지 않은 사진을 볼 수도 있죠. 이것이 여러분이 접하는 미디어와 그것이 진짜인지, 가짜인지에 대해 더 비판적으로 생각해봐야 할 이유 입니다.

hint decoration image

힌트

이 퀴즈를 풀어보기 전까지, 재미있거나 뭔가 그럴듯해 보이는 사진을 별 생각 없이 SNS에서 공유해 왔다면 이제 잠깐 멈춰보는 겁니다. 그리고 해당 사진이나 영상에 대해 인터넷을 검색해 보는 것입니다. 조금만 관심을 가지고 찾아보면 진짜가 아니라는 결과를 찾을 수도 있거든요.

hint decoration image
answer icon

정답입니다!

보기 1, 2, 3 모두 해당합니다!

딥페이크 기술은 특히 SF 영화와 교육, 그리고 역사 및 포렌식 분야에서 발달해 왔습니다. 다음 퀴즈 부터는 딥페이크가 악용될 경우 얼마나 위험할 수 있는지를 알아보겠습니다.

fact icon

팩트!

사실 모든 딥페이크가 위험하지는 않답니다. 미국 플로리다주의 달리 박물관에는 사망한 예술가를 부활시켜 방문자와 상호 작용이 가능하도록 제작된 살바도르 달리 멀티미디어가 있습니다. 여기에 사용된 기술도 딥페이크 로 볼 수 있답니다.

answer icon

정답입니다!

보기 1, 2, 3 모두 해당합니다!

가장 널리 알려진 딥페이크는 사진 조작인데요. 일반적으로 트위터나 페이스북 등에서 세상에 존재하지 않는 사용자의 프로파일 사진에 사용되기도 합니다.

fact icon

팩트!

어느 기업의 대표이사 목소리를 흉내낸 딥보이스 (‘딥페이크로 만들어낸 음성’) 에 속아 24만 3천 유로를 엉뚱한 곳에 송금한 피해 사례가 보고되었습니다. (‘19년, 월스트리트 저널) 알려지지 않은 피해는 훨씬 클 것으로 추측됩니다.

answer icon

정답입니다!

4번이 정답입니다!

딥페이크 기술은 상대적으로 새로운 기술이지만 사진, 영상과 음성 편집은 사실 오래되었습니다. 이전 기술들과 딥페이크를 구분하는 것은 인공지능을 사용해서 훨씬 빠르고 그럴듯한 결과물을 만들어낼 수 있다는 점이죠. 한 편, 칩페이크는 인공지능을 사용하지 않다 보니 단순한 편집에 그치는 경향이 있습니다.

fact icon

팩트!

딥페이크는 또한 재미있게 사용될 수도 있습니다. YouTube ‘ctrl shift face’ 채널에서는 헐리우드 배우 탐 크루즈, 빌 해더 등의 딥페이크 영상을 영화의 중요 장면에 추가하여 보여주고 있습니다.

answer icon

정답입니다!

1번이 진짜 이미지입니다!

2번 사진의 눈과 머리카락의 특이함을 찾으셨나요? 현존하는 딥페이크 기술은 눈동자 색상이나 안경테를 정확히 만들어내지 못하는 한계를 보이고 있습니다. 하지만 주의하세요! 더 많은 딥페이크 사진들에서는 안경을 쓰지 않고 있거든요.

fact icon

팩트!

딥페이크 사진들은 온라인의 가짜 인물을 만드는 데 많이 사용되었습니다. 2020년 7월 로이터의 라파엘 새터 기자는 팔레스타인 인권운동가를 비난하는 글을 수 차례 기고한 ‘올리버 테일러’의 사진을 분석하여 딥페이크 사진으로 밝혀내기도 했습니다. 이는 누군가에 의해 온라인 여론을 왜곡하려 딥페이크를 사용한 사례로 기록되었습니다.

answer icon

정답입니다!

1번이 진짜 이미지입니다!

어떠셨나요? 사람 얼굴 비교보다 더 힘들었나요? 딥페이크 기술은 지금 이 순간에도 나날이 발전하고 있다 보니, 이전 퀴즈에서 제시한 방법은 쓸모 없는 경우가 있습니다.

fact icon

팩트!

전문가들조차 정교한 딥페이크 사진을 구별하는 데 어려움을 겪고 있습니다. AI 기술이 발달하면서 보다 자연스럽고 실제 같은 딥페이크가 계속해서 만들어지고 있습니다.

answer icon

정답입니다!

1번이 딥페이크 이미지입니다!

러시아는 존재하지 않는 여성의 계정을 만들고, 아름다운 여성의 딥페이크 사진을 내세워 미국 국방부 연구원, 상원의원의 비서 등과 일촌 관계를 맺고 주요 정보를 빼돌리려고 시도한 것으로 알려졌습니다. 이 사진은 딥페이크다! 라고 즉시 판단하기 어렵더라도 이걸 만든 목적이 뭘까 를 생각해보면 구분에 도움이 될 수 있습니다.

fact icon

팩트!

딥페이크는 한편 보다 많은 청중을 설득하는데 본격적으로 쓰이기도 했습니다. 2020년 2월, 바라티야 자나타 당 (인도 인민당) 마노즈 티와리 당수는 각각 영어와 힌디어 방언으로 된 딥페이크 연설 영상을 만들어서 유권자들에게 제공했는데, 사실 티와리는 힌디어 방언을 유창하게 하지 못한다고 합니다.

answer icon

정답입니다!

3번이 진짜 이미지입니다!

answer icon

정답입니다!

4번이 정답입니다!

기술의 발전은 딥페이크를 매우 분간하기 어렵도록 만들고 있습니다. 신뢰하는 정보의 출처를 믿는 것은 좋지만 여러분의 생각을 더하는 것을 잊지 마셔야 해요! ‘저 사진은 진짜일까?’

answer icon

정답입니다!

정답은 1, 2, 3 모두에 해당합니다.

딥페이크 제작자들과 다양한 매체들은 종종 논리적 생각보다는 감정적 반응을 자극하려고 힘씁니다. 가장 바람직한 방법 중 하나는 사진이나 영상에 어떻게 감정적으로 반응하는지 살펴보는 것입니다. 만약 여러분이 강렬한 감정을 느끼는 사진이나 영상이 있다면, 여러분이 그렇게 느끼기를 원하는 이유가 무엇일까를 스스로 물어보시기 바랍니다.

answer icon

정답입니다!

정답은 3번입니다!

여러분이 딥페이크 사진에 강한 감정을 느낀다는 것을 인지하신 다음에는 잠깐 흥분을 가라앉혀보세요. 그리고 그 사진의 원본으로 사용되었을 법한 소스를 한 번 검색해보는 것도 좋습니다.

fact icon

팩트!

2019년 아프리카 가봉에서는 오랜 병환을 앓고 카메라 앞에 나선 대통령의 영상을 보고 딥페이크라고 생각한 군 수뇌부에서 쿠데타를 일으킨 적이 있답니다. 믿겨 지시나요?!

wrong answer icon

오답입니다.

보기 1, 2, 3 모두 해당합니다!

딥페이크 기술은 특히 SF 영화와 교육, 그리고 역사 및 포렌식 분야에서 발달해 왔습니다. 다음 퀴즈 부터는 딥페이크가 악용될 경우 얼마나 위험할 수 있는지를 알아보겠습니다.

fact icon

팩트!

사실 모든 딥페이크가 위험하지는 않답니다. 미국 플로리다주의 달리 박물관에는 사망한 예술가를 부활시켜 방문자와 상호 작용이 가능하도록 제작된 살바도르 달리 멀티미디어가 있습니다. 여기에 사용된 기술도 딥페이크 로 볼 수 있답니다.

wrong answer icon

오답입니다.

보기 1, 2, 3 모두 해당합니다!

가장 널리 알려진 딥페이크는 사진 조작인데요. 일반적으로 트위터나 페이스북 등에서 세상에 존재하지 않는 사용자의 프로파일 사진에 사용되기도 합니다.

fact icon

팩트!

어느 기업의 대표이사 목소리를 흉내낸 딥보이스 (‘딥페이크로 만들어낸 음성’) 에 속아 24만 3천 유로를 엉뚱한 곳에 송금한 피해 사례가 보고되었습니다. (‘19년, 월스트리트 저널) 알려지지 않은 피해는 훨씬 클 것으로 추측됩니다.

answer icon

오답입니다.

4번이 정답입니다!

딥페이크 기술은 상대적으로 새로운 기술이지만 사진, 영상과 음성 편집은 사실 오래되었습니다. 이전 기술들과 딥페이크를 구분하는 것은 인공지능을 사용해서 훨씬 빠르고 그럴듯한 결과물을 만들어낼 수 있다는 점이죠. 한 편, 칩페이크는 인공지능을 사용하지 않다 보니 단순한 편집에 그치는 경향이 있습니다.

fact icon

팩트!

딥페이크는 또한 재미있게 사용될 수도 있습니다. YouTube ‘ctrl shift face’ 채널에서는 헐리우드 배우 탐 크루즈, 빌 해더 등의 딥페이크 영상을 영화의 중요 장면에 추가하여 보여주고 있습니다.

answer icon

오답입니다.

1번이 진짜 이미지입니다!

2번 사진의 눈과 머리카락의 특이함을 찾으셨나요? 현존하는 딥페이크 기술은 눈동자 색상이나 안경테를 정확히 만들어내지 못하는 한계를 보이고 있습니다. 하지만 주의하세요! 더 많은 딥페이크 사진들에서는 안경을 쓰지 않고 있거든요.

fact icon

팩트!

딥페이크 사진들은 온라인의 가짜 인물을 만드는 데 많이 사용되었습니다. 2020년 7월 로이터의 라파엘 새터 기자는 팔레스타인 인권운동가를 비난하는 글을 수 차례 기고한 ‘올리버 테일러’의 사진을 분석하여 딥페이크 사진으로 밝혀내기도 했습니다. 이는 누군가에 의해 온라인 여론을 왜곡하려 딥페이크를 사용한 사례로 기록되었습니다.

answer icon

오답입니다.

1번이 진짜 이미지입니다!

어떠셨나요? 사람 얼굴 비교보다 더 힘들었나요? 딥페이크 기술은 지금 이 순간에도 나날이 발전하고 있다 보니, 이전 퀴즈에서 제시한 방법은 쓸모 없는 경우가 있습니다.

fact icon

팩트!

전문가들조차 정교한 딥페이크 사진을 구별하는 데 어려움을 겪고 있습니다. AI 기술이 발달하면서 보다 자연스럽고 실제 같은 딥페이크가 계속해서 만들어지고 있습니다.

answer icon

오답입니다.

1번이 딥페이크 이미지입니다!

러시아는 존재하지 않는 여성의 계정을 만들고, 아름다운 여성의 딥페이크 사진을 내세워 미국 국방부 연구원, 상원의원의 비서 등과 일촌 관계를 맺고 주요 정보를 빼돌리려고 시도한 것으로 알려졌습니다. 이 사진은 딥페이크다! 라고 즉시 판단하기 어렵더라도 이걸 만든 목적이 뭘까 를 생각해보면 구분에 도움이 될 수 있습니다.

fact icon

팩트!

딥페이크는 한편 보다 많은 청중을 설득하는데 본격적으로 쓰이기도 했습니다. 2020년 2월, 바라티야 자나타 당 (인도 인민당) 마노즈 티와리 당수는 각각 영어와 힌디어 방언으로 된 딥페이크 연설 영상을 만들어서 유권자들에게 제공했는데, 사실 티와리는 힌디어 방언을 유창하게 하지 못한다고 합니다.

answer icon

오답입니다.

3번이 진짜 이미지입니다!

answer icon

오답입니다.

4번이 정답입니다!

기술의 발전은 딥페이크를 매우 분간하기 어렵도록 만들고 있습니다. 신뢰하는 정보의 출처를 믿는 것은 좋지만 여러분의 생각을 더하는 것을 잊지 마셔야 해요! ‘저 사진은 진짜일까?’

answer icon

오답입니다.

정답은 1, 2, 3 모두에 해당합니다.

딥페이크 제작자들과 다양한 매체들은 종종 논리적 생각보다는 감정적 반응을 자극하려고 힘씁니다. 가장 바람직한 방법 중 하나는 사진이나 영상에 어떻게 감정적으로 반응하는지 살펴보는 것입니다. 만약 여러분이 강렬한 감정을 느끼는 사진이나 영상이 있다면, 여러분이 그렇게 느끼기를 원하는 이유가 무엇일까를 스스로 물어보시기 바랍니다.

answer icon

오답입니다.

정답은 3번입니다!

여러분이 딥페이크 사진에 강한 감정을 느낀다는 것을 인지하신 다음에는 잠깐 흥분을 가라앉혀보세요. 그리고 그 사진의 원본으로 사용되었을 법한 소스를 한 번 검색해보는 것도 좋습니다.

fact icon

팩트!

2019년 아프리카 가봉에서는 오랜 병환을 앓고 카메라 앞에 나선 대통령의 영상을 보고 딥페이크라고 생각한 군 수뇌부에서 쿠데타를 일으킨 적이 있답니다. 믿겨 지시나요?!