인공지능 기술의 발전으로 실제와 거의 구별하기 어려운 이미지와 영상이 손쉽게 생성될 수 있게 되었습니다. 그 결과, 타인의 얼굴이나 신체 이미지를 동의 없이 사용해 AI 딥페이크(deepfake)를 제작하고, 이를 가짜 누드·음란물, 사칭, 협박, 명예 훼손 등의 목적으로 악용하는 사례가 점점 증가하고 있습니다.
이러한 행위는 단순히 불쾌하거나 비윤리적인 문제에 그치지 않습니다. 많은 경우 형사 처벌 대상이 되거나 법적으로 책임을 물을 수 있는 행위에 해당합니다. 이 칼럼은 AI 딥페이크 이미지 악용이 언제 범죄가 되는지, 그리고 뉴저지·뉴욕 및 연방법상 피해자가 현실적으로 어떤 법적 보호를 받을 수 있는지를 설명합니다.
AI 기술이 이미지 악용을 쉽게 만든 이유
불과 최근까지만 해도, 사실처럼 보이는 가짜 이미지를 제작하려면 상당한 수준의 기술적 숙련도와 많은 시간, 그리고 복잡한 편집 과정을 거쳐야 했습니다. 그러나 현재는 스마트폰 하나만 있어도 사진을 업로드해 몇 분 만에 얼굴 합성이나 조작된 영상을 만들어낼 수 있는 AI 도구들이 널리 사용되고 있습니다.
이러한 기술은 본래 오락이나 창작을 목적으로 개발되었지만, 실제로는 딥페이크 음란물, 사칭 사기, 온라인 괴롭힘, 협박 등 범죄적 목적으로 악용되는 경우가 늘고 있습니다.
한번 온라인에 게시된 이미지는 빠르게 복제·재게시되며, 인터넷 상의 모든 사본을 완전히 삭제하는 것은 현실적으로 매우 어렵습니다. 법은 이미지를 “완전히 지워주는” 역할을 하지는 못하지만, 책임을 묻고 추가 피해를 막기 위한 수단은 제공합니다.
AI 이미지 악용이 범죄 또는 법적 책임으로 이어지는 경우
뉴저지 법
2025년 뉴저지는 AI 딥페이크를 직접 규율하는 법률을 제정했습니다. 이 법은 타인의 얼굴이나 신체를 이용해 기만적인 AI 음성·영상물을 제작하거나 유포하여 범죄를 목적으로 사용하는 행위를 3급 범죄로 규정합니다. 해당 법은 동의 없이 조작된 이미지나 영상, 특히 음란물이나 성적 이미지를 명시적으로 포함하고 있으며, 형사 처벌과 민사적 구제를 모두 허용합니다.
또한 딥페이크 전용 법률 외에도, 뉴저지에는 다음과 같은 기존 형사법 조항들이 AI 이미지 악용 사례에 적용될 수 있습니다.
- 동의 없는 사적·성적 이미지 유포에 대한 사생활 침해 범죄
- 반복적·위협적 행위를 처벌하는 괴롭힘 및 사이버 괴롭힘
- 이미지 공개를 빌미로 금품이나 행위를 요구하는 공갈·협박
- 타인의 신원을 사칭하거나 속이는 신분 도용 및 사칭 범죄
어떤 죄명이 적용되는지는 기술 자체가 아니라 행위의 목적과 결과에 따라 결정됩니다.
뉴욕 법
뉴욕주는AI로 생성된 음란 이미지 (딥페이크 음란물)를 당사자의 동의 없이 유포하는 행위를 불법으로 규정하고 있습니다. 실제 사진이 아니라 AI로 생성된 이미지라 하더라도, 성적으로 노골적인 내용이라면 형사 처벌 대상이 될 수 있습니다.
이와 함께 뉴욕 형법은 다음과 같은 행위를 폭넓게 처벌합니다.
- 이미지 공개를 통한 강요·공갈
- 가중 괴롭힘
- 형사상 사칭 및 신원 오용
또한 허위 이미지가 특정 인물을 사실과 다르게 묘사해 사회적 평가를 훼손한 경우, 명예 훼손이나 사생활 침해에 대한 민사 책임도 검토될 수 있습니다.
연방법
연방 차원에서 딥페이크만을 포괄적으로 규율하는 단일 법률은 아직 없습니다. 그러나 다음과 같은 연방법이 적용될 수 있습니다.
- 주 경계를 넘는 명예 훼손 협박을 처벌하는 연방 공갈죄
- 전자 통신을 이용한 스토킹·협박 범죄
- AI 이미지를 이용해 금융 사기나 신분 사칭을 한 경우의 신원 도용 범죄
딥페이크가 주 경계를 넘거나 다수의 주에 있는 피해자를 대상으로 사용된 경우, 연방 관할이 문제될 수 있습니다.
법이 할 수 있는 것과 할 수 없는 것
현실적인 한계를 이해하는 것이 중요합니다.
법이 보장하지 않는 것:
- 인터넷 상 모든 이미지의 완전한 삭제
- 익명 가해자의 즉각적인 특정
- 자동적 또는 확정적인 금전 보상
반면, 법이 제공할 수 있는 것:
- 특정 딥페이크 행위에 대한 형사 책임
- 추가 유포를 제한하는 법적 조치
- 민사상 손해배상 청구의 근거
어떤 구제가 가능한지는 이미지의 성격, 사용 목적, 피해 범위 등 사안별 사실관계에 따라 크게 달라집니다.
금전적 보상이 가능한가
일부 경우에는 보상이 가능하지만, 모든 사건에서 보상이 보장되지는 않습니다.
법원이 고려할 수 있는 손해에는 다음이 포함될 수 있습니다.
- 정신적 고통 및 치료 비용
- 명예 훼손으로 인한 수입 손실
- 상담·치료 비용
- 평판 손상에 따른 경제적 피해
그러나 가해자 특정 가능성, 고의성, 실질적 손해 입증 여부, 가해자의 지급 능력 등에 따라 결과는 크게 달라집니다. 일부 사건은 형사 절차로 종결되고, 민사 보상 없이 끝나는 경우도 있습니다.
권리를 아는 것이 첫걸음입니다
AI 딥페이크를 이용한 이미지 악용은 더 이상 가상의 문제가 아닙니다. 몇 번의 클릭만으로 개인의 명예와 사생활을 심각하게 침해할 수 있습니다. 중요한 점은, 이러한 행위가 법적으로 처벌 가능하며 무력하게 받아들일 필요는 없다는 것입니다.
다만 법적 조치에는 명확한 증거, 기한, 현실적인 기대가 필요합니다. 법이 할 수 있는 범위와 한계를 이해한 상태에서 대응하는 것이 무엇보다 중요합니다.
법적 검토가 필요하신가요?
AI 딥페이크, 사칭 이미지, 음란물 생성·유포 등으로 피해를 입었다면, 사안에 따라 형사 또는 민사적 대응이 가능할 수 있습니다.
구체적인 상황에 대해 법적 검토가 필요하시다면 아래로 연락하시기 바랍니다.
전화: 201-461-0031
이메일: mail@songlawfirm.com
면책조항: 이 칼럼은 참고용이며 법적 조언을 제공하지 않습니다. 본인의 상황에 맞는 구체적인 법률 상담이 필요하신 경우, 201-461-0031로 전화하시거나 이메일 mail@songlawfirm.com 또는 WeChat: songlawfirm을 통해 상담을 예약해 주시기 바랍니다.
