이미지에 책임을 지우는 도구를 만듭니다

저희가 존재하는 이유

2019년만 해도 조작된 사진을 찾아낸다는 것은 대체로 복제 도장의 번진 가장자리나 방향이 어긋난 그림자를 살피는 일이었습니다. 오늘날에는 일어난 적 없는 사건의 설득력 있는 이미지를 누구나, 무료로, 약 4초 만에 만들 수 있습니다. 합성 미디어를 만드는 도구는 앞서 달려 나갔지만, 그것을 확인하는 도구는 그러지 못했습니다.

등장한 검증 서비스 대부분에는 함정이 있었습니다. 바로 그 의심스러운 파일을 넘기고, 이름조차 알 수 없는 관할의 서버로 업로드한 뒤, 출처에 대한 설명 없이 단 하나의 신뢰도 백분율을 받아들이라는 것이었습니다. 유출된 사진을 손에 쥔 기자, 사건 증거를 가진 변호사, 신고를 검토하는 모더레이터에게 그런 거래는 받아들일 수 없습니다.

그래서 저희는 정반대의 것을 만들었습니다. Fake Images Detector는 전적으로 여러분의 브라우저 안에서 동작합니다. 이미지는 어디로도 이동하지 않으며, 모든 점수는 그것을 만들어 낸 측정값으로 분해됩니다.

실제로 하는 일

엔진은 각 이미지에 대해 네 개의 독립적인 포렌식 분석을 수행하고 서로 견주어 가중합니다.

• 포렌식 메타데이터 분석 — 치수 서명, 종횡비 무결성, 포맷 지문, 픽셀당 비트 밀도.
• 노이즈 패턴 인식 — 색상 채널이 실제 센서처럼 무질서하게 변하는지, 아니면 생성 모델이나 리터칭 파이프라인처럼 매끄럽게 변하는지 측정합니다.
• 압축 아티팩트 분석 — 통제된 재압축에 대한 반응을 프로파일링해 이전 편집 세대를 드러냅니다.
• 오류 수준 분석 — 화면 전체의 압축 오류를 히트맵으로 그려, 접합되거나 붙여 넣어진 영역이 손대지 않은 배경과 시각적으로 구분되도록 합니다.

이 중 어느 하나도 단독으로 결정적이지 않습니다. 오히려 서로 어긋나는 지점이 가장 많은 것을 알려 주는 신호인 경우가 많습니다. 그래서 저희는 네 가지를 모두 보여 드리며, 하나의 숫자로 평균 내고 나머지를 감추지 않습니다.

저희의 생각

검증은 무료여야 합니다

유료 장벽 뒤의 진실 확인은 비용을 감당할 수 있는 이들만 보호합니다. 분석이 저희가 아니라 여러분의 하드웨어에서 실행되므로 회수할 한계비용이 없습니다. 그래서 이 도구는 개인용이든 업무용이든 무제한이고 무료이며, 계정도 속도 제한도 없습니다.

확신보다 설명이 낫습니다

근거 없는 백분율은 맹목적인 신뢰를 요구하는 것에 지나지 않습니다. 검증할 수 없는 단호한 결과보다, 근거가 보이는 판단 보류 결과를 드리고자 합니다. 모든 검사는 계층별 수치와 함께, 여러분의 기록에 첨부할 수 있는 내려받기용 보고서를 제공합니다.

한계에 대한 정직함

포렌식 휴리스틱이 측정하는 것은 흔적이고, 흔적은 지워질 수 있습니다. 위조본의 스크린샷, 여러 번 재저장된 소셜미디어 다운로드, 과하게 업스케일된 렌더링은 모두 저희가 의지하는 신호 자체를 약화시킵니다. 저희는 이를 덮지 않고 있는 그대로 말씀드립니다.

누가 사용하나요

• 게재 전에 제보 이미지와 통신사 이미지를 선별하는 뉴스룸과 팩트체커.
• 신고된 콘텐츠를 대량으로 검토하는 신뢰·안전 팀.
• 사건 자료를 제3자 서버로 전송할 수 없는 법률 및 eDiscovery 전문가.
• 피해와 사고 사진을 검토하는 보험 및 손해 조사 담당자.
• 공개 출처의 시각 증거를 교차 확인하는 OSINT 연구자.
• 이미지 포렌식이 실제로 어떻게 작동하는지 배우는 교수자와 학생.

앞으로의 방향

생성 모델은 매달 바뀌고, 새로운 아키텍처마다 고유한 지문을 남깁니다. 저희 로드맵은 그 현실을 따릅니다. 생성기별 아티팩트 탐지 범위 확대, C2PA 및 출처 메타데이터 판독, 팀을 위한 일괄 분석, 그리고 대량 선별이 필요한 조직을 위한 프로그램 연동 인터페이스입니다.

검증 업무를 하시면서 있었으면 하는 점검 항목이 있다면 알려 주세요. 저희가 만든 것 대부분은 누군가의 구체적이고 소박한 문제에서 시작되었습니다.