"딥페이크의 그늘, 불법 합성물로부터의 예방과 규제"

딥페이크의 불법 합성물 제작과 유포는 최근 미국에서도 큰 이슈로 부상하고 있습니다. "테일러 트위프트를 보호하라"라는 운동이 트위터를 중심으로 확산되며 백악관까지 이 문제에 개입했습니다. 딥페이크란 인공지능(AI) 기술이 기존 데이터를 학습하여 이미지나 음성을 진짜와 구별할 수 없게 만드는 기술을 말합니다.

그러나 아직 이 문제는 완전히 해결되지 않았습니다. 딥페이크는 온라인에서 다양한 문제를 야기하고 있으며, 챗GPT와 같은 생성형 AI의 등장으로 이미지와 영상 제작이 더욱 쉬워져 문제가 더 커지고 있습니다. 특히 전 세계적으로 예정된 76개 선거로 인해 딥페이크로 인한 피해가 늘어날 것으로 경고되고 있습니다.

미국에서는 이미 딥페이크로 가짜 목소리를 사용하여 유권자들에게 투표하지 말라는 전화를 하는 등의 사례가 나오고 있습니다. 이로써 시민들이 신뢰하는 공적 정보마저 의심받을 수 있어 민주주의에 해를 끼칠 우려가 있습니다.

세계적으로는 지난 11월 AI 규제를 위한 정상회의가 열려 미국, 중국, 유럽연합 등 28개 나라와 세계 빅테크 기업이 모여 "AI 피해 예방"을 다짐했습니다. 또한, 오는 5월에는 우리나라에서 2차 정상회의를 개최하여 이 문제에 대한 협력 방안을 논의할 예정입니다.

미국에서는 이미 딥페이크를 만들 때 당사자 동의 없이 만들면 안 되는 법이 일부 주에서 시행 중이나, 전체를 규제할 수 있는 법이 필요하다는 지적이 있습니다. 한편, 우리나라는 2020년 6월에 딥페이크로 만든 성착취물을 제작하거나 유포하는 행위에 대한 처벌을 강화한 법을 시행했지만, 여전히 범죄는 늘어나고 있으며, 피해자가 온라인에서 불법 이미지를 삭제하는 것은 한계가 있다는 우려가 있습니다. 이에 대한 사전 예방이 더 강화되어야 할 것으로 지적되고 있습니다.