오늘날 거의 모든 “AI 이미지 감지기”에 사진을 업로드하면, "인간 94%" 또는 "AI 88%"와 같은 확신에 찬 판정을 받습니다. 이 숫자는 권위 있어 보이고 측정치처럼 느껴집니다. 하지만 이는 실험복을 입은 추측에 가깝습니다. 사후 탐지(AI 생성 이미지를 사후에 식별하도록 분류기를 훈련하는 방식)는 아무리 많은 엔지니어링으로도 완전히 해결할 수 없는 구조적인 문제를 가지고 있습니다. 탐지하려는 대상은 계속 변하며, 이미지를 생성하는 사람들은 항상 앞서나가려는 동기가 있기 때문입니다.
이는 단순한 호기심을 넘어 중요한 문제입니다. 콘텐츠 무결성은 팀들이 제품에 직접 연동하는 기능이 되고 있습니다. 예를 들어, 조작된 이미지를 거부하는 업로드 엔드포인트, 합성 미디어를 플래그하는 검수 파이프라인, 방어 가능한 감사 추적이 필요한 규정 준수 확인 등이 있습니다.
요약
사후 AI 이미지 감지(업로드된 이미지를 "AI" 또는 "인간"으로 평가하는 분류기)는 단독 방어선으로는 신뢰할 수 없습니다. 이는 군비 경쟁에 밀리고, 이전에 본 적 없는 생성기에 대한 일반화 능력이 떨어지며, 실제 사람들에게 부당하게 불이익을 주는 오탐(false positive)을 생성하고, 간단한 자르기나 재압축에도 무력화됩니다. 더 강력한 기반은 출처(provenance)입니다. 이는 서명된 원본 메타데이터(C2PA Content Credentials)와 생성 시점에 내장된 워터마크(Google SynthID)이며, 단일 분류기를 여러 약한 신호 중 하나로 간주하는 심층 방어에 의해 뒷받침됩니다. 감지는 여전히 제한적인 용도로 사용되지만, 출처를 기반으로 구축해야 합니다.
사후 탐지가 계속 실패하는 이유
감지가 전혀 무가치한 것은 아닙니다. 좋은 분류기는 명백한 합성 이미지를 표시하고, 검수 대기열을 분류하거나, 낮은 노력으로 만든 가짜 이미지를 잡아낼 수 있습니다. 문제는 그 출력을 최종 판정으로 취급하는 것입니다. 다음은 그것이 왜 실패하는지에 대한 설명입니다.
끝없는 군비 경쟁
모든 AI 이미지 감지기는 생성된 이미지 예시를 기반으로 훈련됩니다. 특정 생성기가 남기는 통계적 특징(주파수 아티팩트, 색상 분포의 특이점, 확연한 노이즈 패턴)을 학습합니다. 그 감지기가 출시되는 순간, 그것은 이미 과거를 설명하는 것입니다. 몇 주 안에 출시되는 다음 세대 모델과 오픈소스 미세 조정 모델들은 더 실제 같은 이미지를 생성하도록 명시적으로 최적화되며, 이는 바로 그런 특징들이 더 적은 이미지를 생성한다는 것을 의미합니다.
분류기는 보지 못한 모델에 대해 일반화하지 못합니다
특정 생성기 계열의 이미지로 훈련된 감지기는 훈련되지 않은 다른 계열의 이미지에는 성능이 좋지 않은 경향이 있습니다. 오래된 GAN 출력을 인식하도록 조정된 모델은 확산 모델 이미지를 놓칠 수 있습니다. 작년의 확산 체크포인트로 훈련된 모델은 올해의 모델에 대해 제대로 작동하지 않을 수 있습니다. 분류기는 훈련 세트의 특징을 학습했으며, 이전에 본 적 없는 생성기는 다른 특징을 남기거나, 학습된 신호가 더 이상 활성화되지 않을 만큼 잘 숨깁니다.
이것이 바로 일반화 격차(generalization gap)이며, 새로운 이미지 모델이 끊임없이 등장하기 때문에 실제로 매우 잔혹합니다. 감지기 공급업체가 데이터셋을 수집하고, 훈련하고, 검증하고, 출시할 때쯤이면, 훈련 데이터에 없었던 여러 유능한 생성기들이 이미 대중에게 공개된 상태입니다. 공급업체의 벤치마크에서 볼 수 있는 정확도는 그들이 테스트한 모델에 대해 측정된 것입니다. 내일 사용자가 업로드하는 이미지는 아무도 벤치마크하지 않은 모델에서 나온 것일 수 있습니다. 독립적인 테스트는 광고된 정확도(때로는 98% 이상이라고 주장됨)와 실제 측정된 성능 사이에 상당한 격차가 있음을 계속해서 발견하고 있습니다. 실제 성능은 이전에 본 적 없는 생성기와 편집된 이미지를 포함하면 훨씬 더 낮아집니다.
오탐(False positive)은 실제 인간의 작업을 잘못 플래그합니다
감지기는 두 가지 종류의 오류를 만듭니다. 위음성(false negative)은 AI 콘텐츠를 놓치는 것입니다. 성가시긴 하지만, 합성 이미지가 감지기가 전혀 없는 경우처럼 그냥 통과될 뿐입니다. 위양성(false positive)은 더 나쁩니다. 이는 진짜 인간의 작업을 기계가 만든 것으로 플래그합니다. 이제 당신은 가짜를 잡아내지 못하는 것이 아니라, 무고한 사람을 적극적으로 비난하는 것입니다.
가장 명확한 증거는 AI 텍스트 감지기 분야에서 나옵니다. 여기서 위양성은 문서화된 피해를 일으켰습니다. 학생들은 자신의 독창적인 에세이가 AI가 작성한 것으로 플래그되어 부정행위로 고발당했으며, 언론 보도에 따르면 대학에서 학생들이 초안으로 증명할 수 있는 자신의 작업이 기계가 생성한 것으로 평가된 사례도 있었습니다. 널리 인용된 스탠포드 연구에 따르면 AI 텍스트 감지기는 비원어민 영어 작가에게 강한 편향을 보여, 원어민 작가보다 훨씬 높은 비율로 그들의 실제 작업을 플래그했습니다. 이미지 감지 또한 동일한 통계적 기반 위에 있습니다. 감지기를 업로드 흐름에 연결하고 "AI"로 점수가 매겨지는 모든 것을 자동으로 거부할 때, 모든 위양성은 실제 사진작가, 디자이너 또는 고객에게 그들의 진정한 작업이 가짜라고 말하는 것입니다. 의미 있는 규모에서는 몇 퍼센트의 위양성률이라 할지라도 수천 건의 잘못된 비난으로 이어집니다.
개발자들에게 주는 교훈은 명확합니다. 감지 점수는 부수적인 피해를 감수하지 않고는 자동으로 행동할 수 있는 사실이 아닙니다. 구축하기 전에 실제 정확도 상한선을 이해하고 싶다면, AI 생성 이미지 확인 방법에 대한 저희 가이드에서 이러한 도구가 무엇을 알려줄 수 있고 무엇을 알려줄 수 없는지 상세히 설명합니다.
가벼운 자르기나 재압축으로도 많은 감지기가 무력화됩니다
감지기는 미묘한 픽셀 수준의 통계적 패턴에 의존합니다. 이러한 패턴은 취약합니다. 이미지를 약간 더 압축된 JPEG로 다시 저장하면 압축 과정에서 감지기가 읽고 있던 고주파 세부 정보가 정확히 다시 쓰여집니다. 가장자리 10%를 자르고, 크기를 조정하고, 약간의 노이즈를 추가하고, 스크린샷을 찍고, 소셜 플랫폼의 처리 파이프라인을 거치게 하면 분류기가 의존했던 신호는 저하되거나 사라집니다.
이것은 이례적인 공격이 아닙니다. 일반적인 공유 과정에서 이미지에 일어나는 일입니다. AI 생성 이미지 감지기에 대한 적대적 공격 연구에 따르면, JPEG 압축, 블러, 노이즈와 같은 일상적인 후처리만으로도 감지기의 출력을 뒤집을 수 있으며, 의도적인 적대적 교란은 이미지를 시각적으로 변경하지 않으면서도 높은 성공률로 감지기를 무력화시킵니다. 압축되고 해상도가 낮은 이미지는 깨끗한 원본보다 일관되게 분류하기 어렵습니다. 따라서 감지기는 생성기에서 바로 나온 원본 파일에 가장 잘 작동하고, 인터넷에서 실제로 유통되는 대부분의 이미지인 지저분하고 재압축되고 스크린샷된 이미지에는 가장 제대로 작동하지 않습니다. 이는 잘못된 방향입니다. 어려운 경우가 바로 흔한 경우입니다.
시각적 '징후'는 계속 사라집니다
한동안은 여섯 손가락, 간판의 알아볼 수 없는 글자, 녹아내린 배경, 피부에 융합된 장신구 등 시각적으로 AI 이미지를 알아볼 수 있었습니다. 많은 조언들이 여전히 "이상한 손을 찾아라"라고 말합니다. 하지만 그 조언은 실시간으로 효력을 잃고 있습니다. 각 모델 세대는 이전 세대의 명백한 아티팩트를 수정합니다. 손은 더 나아졌고, 텍스트는 더 나아졌으며, 반사와 조명도 개선되었습니다.
인간의 눈과 동일한 아티팩트를 학습한 분류기 모두 줄어드는 목표물을 쫓고 있습니다. 특정 시각적 오류에 묶인 감지 방법은 내재된 유효 기간이 있습니다. 왜냐하면 오류는 버그이고 버그는 수정되기 때문입니다. 아티팩트에 검증 전략을 거는 것은 이미지 모델이 개선을 멈출 것이라고 베팅하는 것과 같습니다. 하지만 모델은 멈추지 않을 것입니다.
잘못 판단했을 때의 실제 비용
감지기의 부정확성을 사소한 품질 문제, 즉 조정할 숫자로 취급하고 싶은 유혹이 있습니다. 실제 제품에서는 이는 책임의 영역입니다.
AI로 플래그된 업로드를 자동으로 거부하는 스톡 사진 마켓플레이스를 생각해 보세요. 모든 위양성은 진정한 사진을 거부당한 유료 기여자이며, 이제 지원 티켓을 발행하고, 환불을 요청하며, 떠날 이유를 가지게 됩니다. 이미지가 "진짜"임을 확인하기 위해 감지기를 신뢰하는 뉴스 또는 보험 워크플로우를 생각해 보세요. 모든 위음성은 자체 도구에 의해 진짜로 인정된 합성 이미지이며, 이는 녹색 체크 표시가 잘못된 확신을 주었기 때문에 아무런 검사도 하지 않는 것보다 더 나쁠 수 있습니다. 포트폴리오를 AI가 만든 것으로 플래그하는 채용 또는 학술 플랫폼을 생각해 보세요. 이제 당신은 재압축 시에도 뒤바뀔 수 있는 확률적 점수를 기반으로 특정 인물에 대해 비난을 한 것입니다.
더 조용한 비용도 있습니다. 자주 틀리지만 권위 있는 것처럼 제시되는 감지기는 팀과 사용자에게 그것을 과신하거나 무시하도록 훈련시킵니다. 둘 다 좋지 않습니다. 솔직한 표현은 감지기 출력이 증거이지 증명이 아니라는 것입니다. 그 자체로 약한 증거이며, 이미지가 편집되거나 감지기가 본 적 없는 모델에서 나온 순간에는 더 약해집니다. 단일 분류기 점수를 판정으로 취급하는 모든 시스템은 단일 실패 지점을 가지며, 조용히 실패합니다.
대신 무엇을 사용할까: 출처 우선
감지가 "이 이미지가 생성된 것처럼 보이는가?"라고 묻는다면, 출처는 더 나은 질문을 합니다. "이 이미지의 문서화된 이력은 무엇이며, 암호학적으로 검증할 수 있는가?" 픽셀에서 거꾸로 추측하는 대신, 출처는 생성 또는 편집 시점에 검증 가능한 정보를 앞으로 첨부합니다. 이는 모델을 포렌식 추론에서 확인할 수 있는 기록으로 전환시킵니다.
C2PA 콘텐츠 자격 증명: 서명된 원본 메타데이터
콘텐츠 출처 및 진위 확인 연합(C2PA)은 어도비, 마이크로소프트, 구글, BBC, 카메라 제조사 등이 지원하는 개방형 표준으로, 미디어에 변조 방지 출처를 첨부하는 데 사용됩니다. 실제로는 C2PA "매니페스트"가 파일과 함께 이동하며, 어디서 왔는지, 어떤 도구가 만들거나 편집했는지, 무엇이 변경되었는지 등을 암호학적으로 서명된 형태로 기록합니다. 누군가 매니페스트를 업데이트하지 않고 이미지를 변경하면, 서명이 더 이상 유효하지 않게 되어 변조 사실이 명백해집니다. 최종 사용자들은 이를 콘텐츠 자격 증명이라고 부르며, 이미지의 이력으로 확장되는 작은 "CR" 표시로 나타납니다.
장점은 방향성입니다. 다음 모델이 지워버릴 아티팩트에서 원본을 추론하는 것이 아니라, 콘텐츠가 생성될 때 만들어진 서명된 진술을 읽는 것입니다. 확산 모델의 개선이 암호화 서명을 약화시키지 않습니다. 이는 분류기보다 훨씬 더 견고한 기반입니다.
출처는 마법이 아니며, 그렇지 않다고 가장하는 것은 그 자체로 실패입니다. C2PA는 옵트인 방식입니다. 즉, 생성 도구와 편집 도구가 실제로 매니페스트를 작성할 때만 도움이 됩니다. 그리고 메타데이터는 제거될 수 있습니다. 대부분의 소셜 플랫폼은 CDN을 통해 업로드를 재압축하며, 이 재압축은 C2PA 매니페스트를 담고 있는 컨테이너를 일상적으로 파괴합니다. 인스타그램, X, 링크드인, 메시징 앱 등에서 업로드 시 임베디드 자격 증명을 제거하는 것이 관찰되었으며, 이는 때때로 EXIF GPS 데이터도 제거되는 것과 마찬가지로 합리적인 프라이버시 이유 때문이기도 합니다. 따라서 출처가 가장 필요한 콘텐츠인 바이럴 이미지는 종종 전송 중에 출처를 잃을 가능성이 가장 높은 콘텐츠입니다. 이것이 실제 격차입니다. 또한 출처가 전체 건물이 아닌 기반인 이유이기도 합니다.
SynthID: 생성 시점 워터마킹
구글 딥마인드의 SynthID는 이미지가 생성될 때 눈에 보이지 않지만 기계가 탐지할 수 있는 신호를 이미지에 삽입합니다. 이는 사람들에게는 인지할 수 없도록 설계되었으며, 스크린샷, 자르기, 색상 조정, 재압축 등 C2PA 메타데이터를 제거하고 사후 분류기를 망가뜨리는 일반적인 변환에서도 살아남도록 고안되었습니다.
워터마킹과 출처 메타데이터는 경쟁하는 것이 아니라 상호 보완적입니다. C2PA는 살아남는 한 풍부하고 상세하며 서명된 컨텍스트를 전달합니다. SynthID는 실제 배포 과정의 거친 처리에도 지속되는 작고 더 견고한 신호를 전달합니다. 함께 읽으면 우아하게 성능이 저하됩니다. 즉, 메타데이터를 잃더라도 워터마크는 여전히 복구할 수 있습니다. SynthID는 C2PA와 동일한 옵트인 제한을 가집니다. 즉, 이를 통합한 모델의 이미지에만 표시되지만, 참여하는 생성기의 콘텐츠의 경우 아티팩트 발견보다 훨씬 더 견고한 검사를 제공합니다.
서명된 캡처 및 인증된 파이프라인
출처는 AI 질문보다 더 일찍 시작될 수 있습니다. 일부 카메라와 휴대폰 캡처 앱은 이제 캡처 순간에 사진에 서명하여 센서에서 파일까지의 관리 연속성을 확립합니다. C2PA를 준수하는 편집 도구는 이미지가 워크플로우를 거치면서 매니페스트를 업데이트하므로, 이력이 재설정되지 않고 지속됩니다.
자체 시스템에도 동일한 아이디어가 적용됩니다. 서비스가 이미지를 생성, 변환 또는 수집하는 경우, 생성한 것에 서명하고 수신한 것을 기록할 수 있습니다. 즉, 누가, 언제, 어떤 인증된 계정에서, 어떤 엔드포인트를 통해 업로드했는지 등입니다. 이미지가 당신을 떠난 후 무슨 일이 일어날지는 통제할 수 없지만, 파이프라인의 자체 세그먼트를 검증 가능하게 만들 수 있습니다. 이는 실제적이고 출시 가능한 제어이며, API 계약으로 설계하고 검증하는 종류의 동작입니다. 이러한 엔드포인트를 신중하게 구축하는 것은 일반적인 좋은 위생 관행과도 겹칩니다. 클라이언트 코드 및 확장 기능에서 API 키를 안전하게 유지하는 것에 기울이는 것과 동일한 주의가 출처 파이프라인이 의존하는 모든 서명 키 주변에도 필요합니다. 왜냐하면 서명 키가 유출되면 "검증됨"이 "검증된 것처럼 보임"으로 변하기 때문입니다.
업계는 이 접근 방식에 수렴하고 있습니다
이것은 비주류적인 입장이 아닙니다. 2026년 5월, OpenAI는 콘텐츠 출처를 위해 C2PA와 SynthID를 채택한다고 발표했습니다. ChatGPT, Codex 및 OpenAI API의 이미지는 이제 C2PA 메타데이터와 SynthID 워터마크를 모두 포함하며, OpenAI는 업로드된 이미지에서 이러한 출처 신호를 확인하는 Verify라는 검증 도구를 출시했습니다. 주목할 만한 부분은 아키텍처입니다. 가장 주목받는 AI 회사는 더 나은 사후 분류기를 출시하고 문제가 해결되었다고 말함으로써 감지 문제에 대응하지 않았습니다. 대신 서명된 메타데이터와 견고한 워터마크를 계층화하고, 이러한 신호 위에 검증 기능을 구축했습니다. 이것이 바로 출처 우선, 심층 방어 사고방식이며, 이 분야가 나아가는 방향입니다.
심층 방어: 약한 신호들을 결합하고, 어떤 것도 단독으로 신뢰하지 마라
솔직한 결론은 "출처가 모든 것을 해결한다"는 것이 아닙니다. "이 이미지가 AI인가?"에 대한 단일하고 신뢰할 수 있는 해답은 없다는 것입니다. 실행 가능한 전략은 심층 방어입니다. 즉, 개별적으로는 불완전한 여러 독립적인 신호들을 하나에만 의존하기보다 수집하여 결합하는 것입니다.
계층화된 파이프라인은 대략 다음과 같습니다.
- 출처 확인 (존재할 때 가장 강력함). 유효한 C2PA 콘텐츠 자격 증명을 찾으십시오. 검증된 매니페스트는 고품질의 증거입니다. 메타데이터는 전송 중에 제거될 수 있으므로, 그 부재가 어떤 것의 증거도 되지는 않습니다.
- 워터마크 확인. SynthID 또는 유사한 워터마크를 테스트하십시오. 편집을 거쳐도 견고하므로, 메타데이터가 사라지는 경우에도 종종 남아 있습니다. 역시 부재는 결정적이지 않습니다. 모든 생성기가 참여하는 것은 아니기 때문입니다.
- 약한 신호로서의 분류기. 원한다면 감지기를 실행하되, 그 점수를 낮은 가중치의 입력 중 하나로만 취급하고 절대 최종 판정으로 삼지 마십시오. 이는 분류 및 명백한 경우에 가장 유용하며, 편집된 이미지나 이전에 보지 못한 모델에 대한 명확한 판단에는 가장 덜 유용합니다.
- 컨텍스트 및 계정 신호. 업로드 이력, 계정 연령 및 평판, 장치 및 캡처 메타데이터, 시간 및 위치 일관성, 동일한 이미지가 다른 곳에 나타나는지 여부 등. 단독으로는 결정적이지 않지만, 함께 보면 상황이 더욱 명확해집니다.
- 고위험 결정에 대한 인간 검토. 사람에게 실제 결과를 초래하는 모든 것, 즉 거부, 비난, 지불, 삭제 등은 모델 출력에 자동으로 반응하기보다는 인간의 개입이 필요합니다.
사고방식의 전환이 핵심입니다. 마침내 정확한 단 하나의 감지기를 찾는 것을 멈추십시오. 모든 신호가 부분적이라고 가정하고, 단일 실패가 치명적이지 않도록 시스템을 설계하며, 재압축 시 "신뢰"에서 "오류"로 완전히 뒤바뀌는 대신 우아하게 성능이 저하되도록 만드십시오.
두 가지 접근 방식을 나란히 비교한 표입니다.
| 차원 | 사후 탐지 (분류기) | 출처 및 워터마킹 |
|---|---|---|
| 핵심 질문 | "이것은 AI가 생성한 것처럼 보이는가?" | "이 이미지의 서명되고 검증 가능한 이력은 무엇인가?" |
| 시간 경과에 따른 신뢰성 | 감소; 새로운 생성기가 나올 때마다 약화됨 | 안정적; 모델이 개선되어도 암호화 서명은 약화되지 않음 |
| 새로운 모델에 대한 일반화 | 불량; 일반화 격차는 구조적임 | 가능; 특정 생성기를 인식하는 데 의존하지 않음 |
| 협력해야 하는 주체 | 없음, 이것이 유일한 실질적 장점 | 생성 및 편집 도구가 자격 증명 또는 워터마크를 작성해야 함 |
| 무엇이 무력화하는가 | 자르기, 재압축, 스크린샷, 노이즈, 적대적 조작, 또는 보지 못한 모든 모델 | 업로드 시 메타데이터 제거 (C2PA); 워터마크 제거는 더 어렵지만 불가능하지는 않음 |
| 오탐 위험 | 높음; 진정한 인간의 작업을 잘못 플래그함 | 낮음; 누락되거나 유효하지 않은 자격 증명은 "알 수 없음"으로 보고되며 "가짜"로 보고되지 않음 |
| 실패 모드 | 자신감 넘치지만 틀림 | 결론 없음, 그러나 정직함 ("출처를 찾을 수 없음") |
| 최적의 역할 | 계층화된 시스템 내에서 분류 및 약한 신호 | 존재할 때 기본적이고 신뢰할 수 있는 계층 |
| 업계 동향 | 단독 해결책으로서 의존도 감소 | 활발한 채택 (C2PA, SynthID, OpenAI의 2026년 행보) |
마지막 행을 함께 읽어보십시오. 감지의 솔직한 역할은 분류 및 낮은 가중치의 입력입니다. 출처는 그 위에 구축하는 계층입니다. 어느 쪽도 완전하지 않으며, 바로 그렇기 때문에 둘 다, 그리고 컨텍스트와 인간 검토를 함께 사용하는 것입니다.
프로세스 및 정책 제어
도구는 절반에 불과합니다. 나머지 절반은 불확실성 주변에서 팀과 제품이 어떻게 행동하는가입니다.
- "알 수 없음"을 일급 상태로 설계하십시오. 대부분의 시스템은 이진법적(진짜 또는 가짜)으로 강제합니다. 실제 검증은 세 가지 결과를 가집니다. 검증됨, 모순됨, 그리고 알 수 없음. 공개 인터넷에 있는 대부분의 이미지는 "알 수 없음" 상태가 될 것이며, 당신의 UX, API 응답 및 정책은 이를 덮어쓸 오류가 아니라 정상적인 정보로 취급해야 합니다.
- 반응을 위험도에 맞추십시오. 위험도가 낮은 흐름은 빠른 자동 검사를 허용할 수 있습니다. 지불, 출판, 금지, 비난 등 위험도가 높은 결정은 출처 확인과 함께 인간 검토가 필요합니다. 하나의 아키텍처가 두 가지 모두를 처리하도록 하지 마십시오.
- 신뢰도에 대해 투명하십시오. 사용자에게 결과를 보여줄 때, 그 결과가 무엇을 기반으로 하는지 표시하십시오. "콘텐츠 자격 증명 확인됨"은 "저희 분류기는 70% 확률로 AI라고 추정합니다"와는 다른 진술이며, 사용자는 자신이 보고 있는 것이 무엇인지 알 권리가 있습니다. 이들을 혼동하는 것은 잘못된 확신을 만들어내며, 이는 단순 감지를 위험하게 만든 원죄입니다.
- 자신의 출력물에 출처를 기록하십시오. 플랫폼이 이미지를 생성하거나 편집한다면, 출하하는 것에 콘텐츠 자격 증명과 워터마크를 첨부하십시오. 감지는 모든 다운스트림 사용자가 영원히 지불해야 하는 세금이며, 출처는 한 번 주는 선물입니다. 더 많은 생산자가 이렇게 할수록, 전체 생태계는 추측 대신 기록에 더 많이 의존할 수 있습니다.
- 표준이 변화할 것에 대비하여 계획하십시오. C2PA, SynthID, 그리고 OpenAI의 Verify와 같은 도구들은 계속 발전하고 있습니다. 검증 계층을 모듈화하여 모든 것을 다시 연결할 필요 없이 새로운 출처 또는 워터마크 감지기를 추가할 수 있도록 하십시오. 출처 확인을 다른 타사 종속성처럼 버전 관리된 API 통합으로 취급하면 유지보수가 용이해집니다.
결론
사후 AI 이미지 감지는 사기가 아니며, 쓸모없는 것도 아닙니다. 이는 혼자서는 신뢰할 수 있게 수행할 수 없는 작업을 요구받는 좁은 도구입니다.
개발자를 위한 실용적인 권장 사항: 이미지 무결성 검사를 추가한다면, 출처 우선으로 구축하십시오. C2PA 자격 증명을 검증하고, 워터마크를 확인하며, 감지기는 낮은 가중치를 가진 분류 힌트로만 사용하고, 실제 사람에게 영향을 미치는 결정에 대해서는 분류기 점수에 자동으로 행동하지 마십시오. 이러한 검사를 깔끔하고 버전 관리되며 잘 테스트된 API 계약으로 설계하여 표준이 변화함에 따라 발전시킬 수 있도록 하십시오.