Tải ảnh lên hầu hết các "trình phát hiện hình ảnh AI" ngày nay và bạn sẽ nhận được một phán quyết tự tin: 94% do con người tạo ra, hoặc 88% do AI. Con số này trông rất đáng tin cậy. Nó có vẻ như một phép đo. Thực tế nó giống một phỏng đoán được khoác áo choàng phòng thí nghiệm hơn. Phát hiện hậu kỳ (post-hoc detection), thực hành huấn luyện một bộ phân loại để nhận diện hình ảnh do AI tạo ra sau khi chúng đã được tạo, có một vấn đề về cấu trúc mà không kỹ thuật nào có thể loại bỏ hoàn toàn. Thứ nó cố gắng phát hiện liên tục thay đổi, và những người tạo ra hình ảnh luôn có mọi động lực để đi trước một bước.
Điều này quan trọng hơn nhiều so với sự tò mò. Tính toàn vẹn của nội dung là điều mà các nhóm ngày càng tích hợp trực tiếp vào sản phẩm của họ: các điểm cuối tải lên từ chối hình ảnh bị thao túng, các quy trình kiểm duyệt gắn cờ phương tiện tổng hợp, các kiểm tra tuân thủ yêu cầu một nhật ký kiểm toán có thể bảo vệ được.
TL;DR
Phát hiện hình ảnh AI hậu kỳ, bộ phân loại chấm điểm một hình ảnh được tải lên là "AI" hay "do con người tạo ra", không đáng tin cậy khi được dùng làm tuyến phòng thủ duy nhất. Nó thua trong cuộc chạy đua vũ trang, hoạt động kém hiệu quả với các trình tạo chưa từng thấy, tạo ra dương tính giả làm sai người thật, và bị phá vỡ chỉ với một thao tác cắt hoặc nén lại đơn giản. Nền tảng vững chắc hơn là xuất xứ (provenance): siêu dữ liệu gốc có chữ ký (C2PA Content Credentials) và hình mờ được nhúng vào thời điểm tạo (Google SynthID), được hỗ trợ bởi chiến lược phòng thủ nhiều lớp coi bất kỳ bộ phân loại nào cũng chỉ là một tín hiệu yếu trong số nhiều tín hiệu. Phát hiện vẫn có những công dụng hạn chế, nhưng hãy xây dựng dựa trên xuất xứ.
Tại sao phát hiện hậu kỳ liên tục thất bại
Phát hiện không phải là vô giá trị. Một bộ phân loại tốt có thể gắn cờ các hình ảnh tổng hợp rõ ràng, phân loại hàng đợi kiểm duyệt, hoặc bắt những hình ảnh giả mạo ít công phu. Vấn đề là coi kết quả của nó như một phán quyết. Dưới đây là lý do tại sao điều đó thất bại.
Cuộc chạy đua vũ trang không có vạch kết thúc
Mọi trình phát hiện hình ảnh AI đều được huấn luyện dựa trên các ví dụ về hình ảnh được tạo ra. Nó học các dấu vân tay thống kê mà một tập hợp các trình tạo cụ thể để lại: các hiện tượng tần số, các đặc điểm phân bố màu sắc, các mẫu nhiễu nhận dạng. Ngay khi trình phát hiện đó được phát hành, nó đã mô tả quá khứ. Thế hệ mô hình tiếp theo, và các phiên bản tinh chỉnh mã nguồn mở theo sau trong vòng vài tuần, được tối ưu hóa rõ ràng để tạo ra hình ảnh trông thật hơn, điều đó có nghĩa là tạo ra hình ảnh với ít chính xác những dấu vân tay đó.
Bộ phân loại không tổng quát hóa được cho các mô hình mà chúng chưa từng thấy
Một trình phát hiện được huấn luyện trên hình ảnh từ một nhóm trình tạo thường hoạt động kém hiệu quả với một nhóm mà nó chưa từng được huấn luyện. Một mô hình được tinh chỉnh để nhận dạng đầu ra GAN cũ có thể bỏ sót hình ảnh của mô hình khuếch tán. Một mô hình được huấn luyện trên các điểm kiểm tra khuếch tán của năm trước có thể gặp khó khăn với các điểm kiểm tra của năm nay. Bộ phân loại đã học các dấu vân tay của tập dữ liệu huấn luyện, và một trình tạo mà nó chưa từng thấy để lại các dấu vân tay khác, hoặc che giấu chúng đủ tốt đến mức tín hiệu đã học không còn được kích hoạt nữa.
Đó là khoảng cách tổng quát hóa, và nó rất khắc nghiệt trong thực tế vì các mô hình hình ảnh mới liên tục xuất hiện. Đến khi một nhà cung cấp trình phát hiện thu thập dữ liệu, huấn luyện, xác thực và phát hành, một số trình tạo có khả năng mà không có trong dữ liệu huấn luyện đã nằm trong tay công chúng. Độ chính xác mà bạn thấy trong thử nghiệm của nhà cung cấp đã được đo lường dựa trên các mô hình mà họ đã kiểm tra. Hình ảnh mà người dùng tải lên vào ngày mai có thể đến từ một mô hình mà không ai từng thử nghiệm. Các thử nghiệm độc lập liên tục tìm thấy một khoảng cách thực sự giữa độ chính xác được quảng cáo, đôi khi được tuyên bố trên 98%, và hiệu suất thực tế được đo lường, vốn thấp hơn nhiều khi bạn bao gồm các trình tạo chưa từng thấy và hình ảnh đã chỉnh sửa.
Dương tính giả gắn cờ sai tác phẩm thật của con người
Một trình phát hiện mắc hai loại sai lầm. Âm tính giả bỏ sót nội dung AI. Điều này gây khó chịu, nhưng hình ảnh tổng hợp cứ thế lọt qua như thể không có trình phát hiện nào cả. Dương tính giả còn tệ hơn: nó gắn cờ tác phẩm thật của con người là do máy tạo ra. Giờ đây, bạn không chỉ không bắt được hàng giả; bạn đang tích cực buộc tội một người vô tội.
Bằng chứng rõ ràng nhất đến từ thế giới liền kề của các trình phát hiện văn bản AI, nơi các dương tính giả đã gây ra những tổn hại được ghi nhận. Học sinh đã bị gắn cờ bài luận gốc là do AI viết và phải đối mặt với cáo buộc gian lận; các báo cáo đã đề cập đến các trường hợp tại các trường đại học mà tác phẩm của chính học sinh, với bản nháp để chứng minh, đã bị chấm điểm là do máy tạo ra. Một nghiên cứu của Stanford được trích dẫn rộng rãi cho thấy các trình phát hiện văn bản AI có sự thiên vị mạnh mẽ đối với những người viết tiếng Anh không phải là người bản xứ, gắn cờ tác phẩm chân thực của họ với tỷ lệ cao hơn nhiều so với người bản xứ. Phát hiện hình ảnh cũng dựa trên cùng một nền tảng thống kê. Khi bạn tích hợp một trình phát hiện vào quy trình tải lên và tự động từ chối bất kỳ thứ gì nó chấm điểm là "AI", mỗi dương tính giả là một nhiếp ảnh gia, nhà thiết kế, hoặc khách hàng thực sự bị nói rằng tác phẩm chân thực của họ là giả mạo. Ở bất kỳ khối lượng đáng kể nào, tỷ lệ dương tính giả vài phần trăm cũng đồng nghĩa với hàng ngàn cáo buộc sai lầm.
Đối với các nhà phát triển, bài học là rõ ràng: điểm phát hiện không phải là một sự thật mà bạn có thể tự động hành động mà không chấp nhận những thiệt hại phụ. Nếu bạn muốn hiểu giới hạn độ chính xác thực tế trước khi xây dựng, hướng dẫn của chúng tôi về cách kiểm tra xem hình ảnh có phải do AI tạo ra hay không sẽ giải thích những gì các công cụ này có thể và không thể cho bạn biết.
Cắt nhẹ hoặc nén lại có thể đánh bại nhiều trình phát hiện
Các trình phát hiện dựa vào các mẫu thống kê tinh vi ở cấp độ pixel. Những mẫu này rất mong manh. Lưu lại hình ảnh dưới dạng JPEG nén nhẹ hơn một chút và việc nén sẽ ghi đè chính xác các chi tiết tần số cao mà trình phát hiện đang đọc. Cắt bớt 10% các cạnh, thay đổi kích thước, thêm nhiễu nhẹ, chụp màn hình, chạy nó qua quy trình xử lý của một nền tảng xã hội, và tín hiệu mà bộ phân loại phụ thuộc vào sẽ bị suy giảm hoặc biến mất.
Đây không phải là một cuộc tấn công lạ lùng. Đây là những gì việc chia sẻ thông thường làm với một hình ảnh. Nghiên cứu về các cuộc tấn công đối kháng chống lại các trình phát hiện hình ảnh do AI tạo ra cho thấy rằng các xử lý hậu kỳ hàng ngày như nén JPEG, làm mờ và nhiễu có thể đủ để làm thay đổi đầu ra của trình phát hiện, và các nhiễu loạn đối kháng có chủ đích đánh bại các trình phát hiện với tỷ lệ thành công cao trong khi vẫn giữ nguyên hình ảnh về mặt thị giác. Hình ảnh nén và độ phân giải thấp luôn khó phân loại hơn so với bản gốc sạch. Vì vậy, trình phát hiện hoạt động tốt nhất trên một tệp gốc không bị chỉnh sửa trực tiếp từ trình tạo, và tệ nhất trên các hình ảnh lộn xộn, đã nén lại, được chụp màn hình mà tạo nên phần lớn những gì thực sự di chuyển trên internet. Đó là cách sai lầm. Các trường hợp khó khăn lại là các trường hợp phổ biến.
Các "dấu hiệu nhận biết" hình ảnh tiếp tục biến mất
Trong một thời gian, bạn có thể nhận ra hình ảnh AI bằng mắt thường: bàn tay sáu ngón, văn bản bị bóp méo trên biển báo, nền bị chảy, trang sức hòa vào da. Rất nhiều lời khuyên vẫn nói "hãy tìm những bàn tay kỳ lạ". Lời khuyên đó đang lỗi thời theo thời gian thực. Mỗi thế hệ mô hình đều sửa chữa các lỗi rõ ràng của thế hệ trước. Bàn tay trở nên tốt hơn. Văn bản trở nên tốt hơn. Phản xạ và ánh sáng trở nên tốt hơn.
Cả mắt người và các bộ phân loại đã học các hiện tượng tương tự đều đang đuổi theo một mục tiêu ngày càng thu hẹp. Một phương pháp phát hiện gắn liền với các lỗi thị giác cụ thể có một ngày hết hạn tích hợp, vì các lỗi là bug và bug thì được sửa. Đặt cược chiến lược xác minh của bạn vào các hiện tượng là đặt cược rằng các mô hình hình ảnh sẽ ngừng cải thiện. Chúng không ngừng lại.
Chi phí thực tế khi làm sai điều này
Thật cám dỗ khi coi sự thiếu chính xác của trình phát hiện là một vấn đề chất lượng nhỏ, một con số để điều chỉnh. Trong một sản phẩm thực tế, nó là một bề mặt trách nhiệm pháp lý.
Hãy xem xét một thị trường ảnh chứng khoán tự động từ chối các tải lên bị gắn cờ là AI. Mỗi dương tính giả là một người đóng góp trả phí mà bức ảnh chân thực của họ bị từ chối, người đó giờ đây có một yêu cầu hỗ trợ, một yêu cầu hoàn tiền, và một lý do để rời đi. Hãy xem xét một quy trình làm việc tin tức hoặc bảo hiểm tin tưởng vào một trình phát hiện để xác nhận một hình ảnh là "thật". Mỗi âm tính giả là một hình ảnh tổng hợp được công cụ của bạn đóng dấu là thật, điều này có thể nói là tệ hơn việc không kiểm tra gì cả, bởi vì dấu kiểm màu xanh lá cây đã tạo ra sự tin tưởng sai lầm. Hãy xem xét một nền tảng tuyển dụng hoặc học thuật gắn cờ một danh mục đầu tư là do AI tạo ra. Giờ đây bạn đã đưa ra một cáo buộc về một người cụ thể dựa trên một điểm xác suất có thể thay đổi chỉ với một thao tác nén lại.
Cũng có một chi phí thầm lặng hơn. Một trình phát hiện thường xuyên sai, nhưng được trình bày như một thẩm quyền, sẽ huấn luyện nhóm của bạn và người dùng của bạn hoặc là quá tin tưởng nó hoặc là bỏ qua nó. Cả hai đều không tốt. Cách nhìn nhận trung thực là đầu ra của trình phát hiện là bằng chứng, không phải là chứng cứ; bằng chứng yếu khi đứng một mình, và yếu hơn nữa ngay khi hình ảnh đã được chỉnh sửa hoặc đến từ một mô hình mà trình phát hiện chưa từng thấy. Bất kỳ hệ thống nào coi một điểm của bộ phân loại là một phán quyết đều có một điểm thất bại duy nhất, và nó thất bại một cách âm thầm.
Nên sử dụng gì thay thế: ưu tiên xuất xứ
Nếu phát hiện hỏi "hình ảnh này trông có vẻ được tạo ra không?", thì xuất xứ hỏi một câu hỏi tốt hơn: "lịch sử được ghi lại của hình ảnh này là gì, và tôi có thể xác minh nó bằng mật mã không?" Thay vì đoán ngược từ các pixel, xuất xứ gắn thông tin có thể xác minh về phía trước, vào thời điểm tạo hoặc chỉnh sửa. Nó chuyển đổi mô hình từ suy luận pháp y sang các bản ghi mà bạn có thể kiểm tra.
C2PA Content Credentials: siêu dữ liệu gốc có chữ ký
Liên minh về Xuất xứ và Tính xác thực của Nội dung (C2PA) là một tiêu chuẩn mở, được hỗ trợ bởi Adobe, Microsoft, Google, BBC, các nhà sản xuất máy ảnh và các đơn vị khác, nhằm gắn xuất xứ có bằng chứng về sự giả mạo vào phương tiện. Trên thực tế, một "bản kê khai" của C2PA đi kèm với tệp và ghi lại nguồn gốc của nó, công cụ nào đã tạo hoặc chỉnh sửa nó, và những gì đã thay đổi, tất cả đều được ký bằng mật mã. Nếu ai đó thay đổi hình ảnh mà không cập nhật bản kê khai, chữ ký sẽ không còn hợp lệ và sự giả mạo sẽ hiển nhiên. Người dùng cuối xem điều này là Content Credentials, một dấu "CR" nhỏ mở rộng thành lịch sử của hình ảnh.
Lợi thế là định hướng. Bạn không suy luận nguồn gốc từ các hiện tượng mà mô hình tiếp theo sẽ xóa bỏ; bạn đang đọc một tuyên bố có chữ ký được tạo ra khi nội dung được sản xuất. Một cải tiến khuếch tán không làm suy yếu một chữ ký mật mã. Đó là một nền tảng bền vững hơn nhiều so với một bộ phân loại.
Xuất xứ không phải là phép thuật, và giả vờ khác đi sẽ là thất bại của chính nó. C2PA là tùy chọn tham gia: nó chỉ hữu ích khi công cụ tạo và chỉnh sửa thực sự ghi bản kê khai. Và siêu dữ liệu có thể bị tước bỏ. Hầu hết các nền tảng xã hội nén lại các tệp tải lên thông qua CDN của họ, và việc nén lại đó thường xuyên phá hủy thùng chứa bản kê khai C2PA. Instagram, X, LinkedIn và các ứng dụng nhắn tin đều được quan sát thấy đã loại bỏ các thông tin xác thực được nhúng khi tải lên, đôi khi một phần vì lý do quyền riêng tư chính đáng, vì cùng một quá trình xử lý lại sẽ tước bỏ dữ liệu GPS EXIF. Vì vậy, nội dung cần xuất xứ nhất, hình ảnh lan truyền, thường là nội dung có khả năng cao nhất đã bị mất nó trong quá trình truyền tải. Đó là một khoảng trống thực sự. Đó cũng là lý do tại sao xuất xứ là nền tảng chứ không phải toàn bộ công trình.
SynthID: đánh dấu bản quyền bằng hình mờ tại thời điểm tạo
Trong khi siêu dữ liệu C2PA có thể tách rời, hình mờ lại nằm bên trong các pixel. SynthID của Google DeepMind nhúng một tín hiệu vô hình, có thể phát hiện được bằng máy móc vào một hình ảnh ngay khi nó được tạo ra. Nó được thiết kế để không thể nhận biết được bằng mắt người và để tồn tại qua các chuyển đổi phổ biến, bao gồm chụp màn hình, cắt, điều chỉnh màu sắc và nén lại, chính xác là các thao tác tước bỏ siêu dữ liệu C2PA và phá vỡ các bộ phân loại hậu kỳ.
Đánh dấu bản quyền bằng hình mờ và siêu dữ liệu xuất xứ bổ sung cho nhau, không cạnh tranh. C2PA mang theo ngữ cảnh phong phú, chi tiết, có chữ ký nơi nó tồn tại. SynthID mang theo một tín hiệu nhỏ hơn, bền vững hơn, tồn tại qua quá trình xử lý khắc nghiệt trong phân phối thực tế. Đọc cùng nhau, chúng xuống cấp một cách nhẹ nhàng: mất siêu dữ liệu và bạn vẫn có thể khôi phục hình mờ. SynthID có cùng hạn chế về tùy chọn tham gia như C2PA, vì nó chỉ đánh dấu hình ảnh từ các mô hình tích hợp nó, nhưng đối với nội dung từ một trình tạo tham gia, nó cung cấp một kiểm tra bền vững hơn nhiều so với việc phát hiện hiện tượng.
Chụp ảnh có chữ ký và các quy trình xác thực
Xuất xứ có thể bắt đầu sớm hơn câu hỏi về AI. Một số máy ảnh và ứng dụng chụp ảnh điện thoại hiện nay ký ảnh ngay tại thời điểm chụp, thiết lập một chuỗi giám sát từ cảm biến đến tệp. Các công cụ chỉnh sửa tuân thủ C2PA cập nhật bản kê khai khi hình ảnh di chuyển qua một quy trình làm việc, vì vậy lịch sử vẫn liên tục thay vì được đặt lại.
Đối với hệ thống của riêng bạn, ý tưởng tương tự cũng được áp dụng. Nếu dịch vụ của bạn tạo, chuyển đổi hoặc tiếp nhận hình ảnh, bạn có thể ký những gì bạn tạo ra và ghi lại những gì bạn nhận được: ai đã tải lên, khi nào, từ tài khoản được xác thực nào, thông qua điểm cuối nào. Bạn sẽ không kiểm soát những gì xảy ra sau khi hình ảnh rời khỏi bạn, nhưng bạn có thể làm cho phân đoạn quy trình của riêng bạn có thể xác minh được. Đó là một kiểm soát thực sự, có thể triển khai được, và đó là loại hành vi bạn thiết kế và xác thực như các hợp đồng API. Xây dựng các điểm cuối đó một cách cẩn thận cũng trùng khớp với các thực hành tốt thông thường; sự cẩn trọng tương tự mà bạn áp dụng để giữ các khóa API khỏi mã máy khách và tiện ích mở rộng cũng cần được áp dụng cho bất kỳ khóa ký nào mà quy trình xuất xứ của bạn phụ thuộc, bởi vì một khóa ký bị rò rỉ sẽ biến "đã xác minh" thành "trông có vẻ đã xác minh".
Ngành công nghiệp đang hội tụ theo phương pháp này
Đây không phải là một quan điểm ngoài lề. Vào tháng 5 năm 2026, OpenAI đã công bố rằng họ đang áp dụng C2PA và SynthID cho xuất xứ nội dung: hình ảnh từ ChatGPT, Codex và OpenAI API hiện mang siêu dữ liệu C2PA cộng với hình mờ SynthID, và OpenAI đã phát hành một công cụ xác minh tên là Verify để kiểm tra hình ảnh được tải lên tìm các tín hiệu xuất xứ đó. Phần đáng chú ý là kiến trúc. Công ty AI được theo dõi nhiều nhất đã không giải quyết vấn đề phát hiện bằng cách phát hành một bộ phân loại hậu kỳ tốt hơn và tuyên bố nó đã được giải quyết. Họ đã xếp lớp siêu dữ liệu có chữ ký và một hình mờ bền vững, và xây dựng xác minh dựa trên những tín hiệu đó. Đó là tư duy ưu tiên xuất xứ, phòng thủ chiều sâu, và đó là hướng mà lĩnh vực này đang di chuyển.
Phòng thủ chiều sâu: kết hợp các tín hiệu yếu, không tin tưởng tín hiệu nào đơn lẻ
Kết luận trung thực không phải là "xuất xứ giải quyết mọi thứ." Mà là không có một phương pháp đáng tin cậy duy nhất nào để xác định "hình ảnh này có phải là AI không." Chiến lược khả thi là phòng thủ chiều sâu: thu thập một số tín hiệu độc lập, không hoàn hảo riêng lẻ và kết hợp chúng, thay vì đặt cược vào một cái duy nhất.
Một quy trình phân lớp trông đại khái như sau:
- Kiểm tra xuất xứ (mạnh nhất, khi có). Tìm kiếm C2PA Content Credentials hợp lệ. Một bản kê khai đã được xác minh là bằng chứng chất lượng cao. Việc thiếu nó không phải là bằng chứng cho bất cứ điều gì, vì siêu dữ liệu bị tước bỏ trong quá trình truyền tải.
- Kiểm tra hình mờ. Kiểm tra SynthID hoặc hình mờ tương đương. Bền vững qua chỉnh sửa, vì vậy nó thường tồn tại ngay cả khi siêu dữ liệu không còn. Một lần nữa, việc thiếu nó không đưa ra kết luận: không phải mọi trình tạo đều tham gia.
- Bộ phân loại như một tín hiệu yếu. Chạy một trình phát hiện nếu bạn muốn, nhưng hãy coi điểm của nó là một đầu vào có trọng số thấp, không bao giờ là phán quyết. Nó hữu ích nhất cho việc phân loại và các trường hợp rõ ràng, ít hữu ích nhất cho các đánh giá rõ ràng về hình ảnh đã chỉnh sửa hoặc các mô hình chưa từng thấy.
- Ngữ cảnh và tín hiệu tài khoản. Lịch sử tải lên, tuổi và danh tiếng tài khoản, siêu dữ liệu thiết bị và chụp, tính nhất quán về thời gian và địa điểm, liệu cùng một hình ảnh có xuất hiện ở nơi khác không. Không tín hiệu nào quyết định một mình; cùng nhau chúng làm rõ bức tranh.
- Đánh giá của con người cho các quyết định có rủi ro cao. Bất cứ điều gì mang lại hậu quả thực sự cho một người, một sự từ chối, một cáo buộc, một khoản thanh toán, một hành động gỡ bỏ, nên có sự tham gia của con người thay vì tự động hành động dựa trên đầu ra của mô hình.
Sự thay đổi tư duy là điểm mấu chốt. Ngừng tìm kiếm một trình phát hiện duy nhất cuối cùng chính xác. Hãy giả định rằng mỗi tín hiệu là một phần, thiết kế sao cho không có thất bại đơn lẻ nào là thảm họa, và làm cho hệ thống giảm cấp một cách nhẹ nhàng thay vì chuyển từ "đáng tin cậy" sang "sai" chỉ với một lần nén lại.
Dưới đây là so sánh song song hai phương pháp.
| Khía cạnh | Phát hiện hậu kỳ (bộ phân loại) | Xuất xứ và đánh dấu bản quyền bằng hình mờ |
|---|---|---|
| Câu hỏi cốt lõi | “Cái này trông có vẻ do AI tạo ra không?” | “Lịch sử được ký, có thể xác minh của hình ảnh này là gì?” |
| Độ tin cậy theo thời gian | Suy giảm; mỗi trình tạo mới làm suy yếu nó | Ổn định; chữ ký mật mã không suy yếu vì các mô hình cải thiện |
| Tổng quát hóa cho các mô hình mới | Kém; khoảng cách tổng quát hóa là có tính cấu trúc | Có; nó không phụ thuộc vào việc nhận dạng một trình tạo cụ thể |
| Ai phải hợp tác | Không ai, đó là lợi thế thực sự duy nhất của nó | Các công cụ tạo và chỉnh sửa phải ghi thông tin xác thực hoặc hình mờ |
| Điều gì đánh bại nó | Một lần cắt, nén lại, chụp màn hình, nhiễu, điều chỉnh đối kháng, hoặc bất kỳ mô hình chưa từng thấy nào | Tước bỏ siêu dữ liệu khi tải lên (C2PA); loại bỏ hình mờ khó hơn nhưng không phải là không thể |
| Rủi ro dương tính giả | Cao; gắn cờ sai tác phẩm thật của con người | Thấp; thông tin xác thực bị thiếu hoặc không hợp lệ được báo cáo là “không rõ”, không phải “giả mạo” |
| Chế độ thất bại | Tự tin và sai | Không có kết luận và trung thực (“không tìm thấy xuất xứ”) |
| Vai trò tốt nhất | Phân loại và một tín hiệu yếu trong một hệ thống phân lớp | Lớp chính, đáng tin cậy khi có mặt |
| Hướng đi của ngành | Giảm dần sự phụ thuộc như một câu trả lời độc lập | Áp dụng tích cực (C2PA, SynthID, động thái của OpenAI năm 2026) |
Đọc hàng cuối cùng cùng nhau. Chỗ đứng trung thực của phát hiện là phân loại và một đầu vào có trọng số thấp. Xuất xứ là lớp bạn xây dựng dựa vào. Cả hai đều không hoàn chỉnh, đó chính xác là lý do tại sao bạn sử dụng cả hai, cộng thêm ngữ cảnh và đánh giá của con người.
Kiểm soát quy trình và chính sách
Công cụ chỉ là một nửa của vấn đề. Nửa còn lại là cách đội ngũ và sản phẩm của bạn ứng xử trước sự không chắc chắn.
Thiết kế cho trạng thái "không rõ" là trạng thái hạng nhất. Hầu hết các hệ thống đều ép buộc một kết quả nhị phân, thật hoặc giả. Xác minh thực tế có ba kết quả: đã xác minh, bị mâu thuẫn và không rõ. Hầu hết hình ảnh trên internet công cộng sẽ rơi vào trạng thái "không rõ", và UX, phản hồi API, cũng như các chính sách của bạn nên coi đó là thông tin bình thường chứ không phải là lỗi cần che đậy.
Điều chỉnh phản hồi phù hợp với rủi ro. Một quy trình có rủi ro thấp có thể chấp nhận một kiểm tra tự động nhanh chóng. Một quyết định có rủi ro cao, một khoản thanh toán, một ấn phẩm, một lệnh cấm, một cáo buộc, nên yêu cầu xuất xứ cộng với đánh giá của con người. Đừng để một kiến trúc phục vụ cả hai.
Minh bạch về độ tin cậy. Nếu bạn hiển thị kết quả cho người dùng, hãy cho thấy nó dựa trên cơ sở nào. “Content Credentials đã được xác minh” là một tuyên bố khác với “bộ phân loại của chúng tôi ước tính 70% có thể là AI,” và người dùng của bạn xứng đáng biết họ đang xem cái nào. Việc trộn lẫn chúng tạo ra sự tự tin sai lầm, đó là tội lỗi ban đầu khiến việc phát hiện đơn thuần trở nên nguy hiểm.
Ghi xuất xứ vào các đầu ra của riêng bạn. Nếu nền tảng của bạn tạo hoặc chỉnh sửa hình ảnh, hãy gắn Content Credentials và hình mờ vào những gì bạn xuất bản. Phát hiện là một loại thuế mà mọi người dùng cuối phải trả mãi mãi; xuất xứ là một món quà bạn tặng họ một lần. Càng nhiều nhà sản xuất làm điều này, toàn bộ hệ sinh thái càng có thể dựa vào các bản ghi thay vì phỏng đoán.
Lên kế hoạch cho sự thay đổi của các tiêu chuẩn. C2PA, SynthID và các công cụ như Verify của OpenAI đang phát triển. Giữ lớp xác minh theo mô-đun để bạn có thể thêm một nguồn xuất xứ mới hoặc trình phát hiện hình mờ mà không cần phải cài đặt lại mọi thứ. Xử lý các kiểm tra xuất xứ như các tích hợp API có phiên bản, giống như cách bạn xử lý bất kỳ phụ thuộc bên thứ ba nào, giúp duy trì được điều này.
Kết luận
Phát hiện hình ảnh AI hậu kỳ không phải là một trò lừa đảo, và nó không vô dụng. Nó là một công cụ hẹp đang được yêu cầu thực hiện một công việc mà nó không thể làm một mình một cách đáng tin cậy.
Khuyến nghị thực tế cho các nhà phát triển: nếu bạn đang thêm các kiểm tra tính toàn vẹn của hình ảnh, hãy xây dựng ưu tiên xuất xứ. Xác minh C2PA credentials, kiểm tra hình mờ, chỉ giữ một trình phát hiện như một gợi ý phân loại với trọng số thấp, và không bao giờ tự động hành động dựa trên điểm số của bộ phân loại cho các quyết định ảnh hưởng đến một người thật. Thiết kế các kiểm tra này như các hợp đồng API sạch, có phiên bản, được kiểm thử tốt để bạn có thể phát triển chúng khi các tiêu chuẩn thay đổi.