圖像是信息的主要載體之一。近年來，基于虛假圖片產(chǎn)生的欺詐事件對(duì)社會(huì)造成了惡劣的影響，圖像內(nèi)容安全在計(jì)算機(jī)視覺領(lǐng)域的重要性日益突出。合合信息圖像算法研發(fā)總監(jiān)郭豐俊博士受邀分享了合合信息在智能圖像處理及圖像內(nèi)容安全方面的最新研究成果和應(yīng)用實(shí)踐。
AI“慧眼”讓證照造假無所遁形
證件圖像是造假的“重災(zāi)區(qū)”，即便是一張小小的行駛證，也可延伸出多種花式造假方法。在《生成式Al時(shí)代的內(nèi)容安全與系統(tǒng)構(gòu)建加速》主題分享中，郭豐俊提到，在汽車交易、運(yùn)輸?shù)葮I(yè)務(wù)中，涉及大量駕駛證、行駛證真實(shí)性核查需求。以二手車交易為例，行駛證涉及車輛買賣合法性，不法分子通過偽造、變?cè)燔囕v登記證、行駛證號(hào)牌號(hào)碼、發(fā)動(dòng)機(jī)號(hào)碼等的方式實(shí)施合同詐騙，從中牟利，給相關(guān)企業(yè)造成了高額的經(jīng)濟(jì)損失。
合合信息圖像篡改檢測(cè)技術(shù)定位行駛證造假位置
除上述局部篡改手段外，AIGC技術(shù)的普及，讓“無中生有”成為了一種新的造假形式。今年5月，上海市寶山區(qū)人民法院審結(jié)了一起偽造國(guó)家機(jī)關(guān)證件案：為幫助違章駕駛?cè)舜鄯謥慝@取利益，被告人開發(fā)“行駛證美化”模塊。使用者上傳行駛證照片后，模塊自動(dòng)生成帶有行駛證版式、各省市交通部門印章的“新”行駛證。多位“黃牛”使用該模塊生成假證20萬張，交給代扣分駕駛員用以違章處理，獲利超過30萬。
“由于篡改手段的多樣性、篡改文本的隱蔽性，檢測(cè)任務(wù)目前存在篡改痕跡微弱、篡改文本與鄰近文本高度相似等難點(diǎn)，對(duì)檢測(cè)方法的精度和泛化性提出了挑戰(zhàn)。”據(jù)郭豐俊介紹，面對(duì)復(fù)制粘貼、拼接、擦除及混合造假形式，合合信息圖像篡改檢測(cè)技術(shù)能夠捕捉圖像在篡改過程中留下的細(xì)微痕跡，在保持極低誤檢率的同時(shí)，準(zhǔn)確識(shí)別并定位圖片中文本的篡改行為；面對(duì)生成式圖像造假，合合信息圖像篡改檢測(cè)技術(shù)可基于空域與頻域關(guān)系建模，利用多維度特征以鑒別圖像是否由 AI 生成，并給出相應(yīng)的警告或提示。
現(xiàn)階段，合合信息圖像篡改檢測(cè)技術(shù)已被應(yīng)用于卡證篡改檢測(cè)中，不僅在駕駛證、行駛證檢測(cè)中實(shí)現(xiàn)了良好的鑒偽效果，也在銀行移動(dòng)開戶、信用卡申辦、保險(xiǎn)理賠，財(cái)務(wù)報(bào)銷審批及其他商業(yè)消費(fèi)場(chǎng)景中廣泛落地，為機(jī)構(gòu)、企業(yè)規(guī)避圖像偽造帶來的經(jīng)濟(jì)風(fēng)險(xiǎn)。
合合信息圖像篡改檢測(cè)技術(shù)定位財(cái)務(wù)報(bào)銷材料造假位置
產(chǎn)學(xué)研攜手共筑圖像安全防線
在大模型飛速發(fā)展的背景下，需要更高級(jí)別的技術(shù)手段來應(yīng)對(duì)偽造技術(shù)的不斷進(jìn)步。本次大會(huì)期間，譚鐵牛院士《大模型背景下的數(shù)字內(nèi)容取證》主旨報(bào)告廣受矚目。報(bào)告針對(duì)虛假信息帶來的嚴(yán)峻挑戰(zhàn)，指出了包括視覺偽造檢測(cè)、AIGC檢測(cè)在內(nèi)的數(shù)字內(nèi)容取證技術(shù)的重要性，為在大模型背景下保障數(shù)字內(nèi)容的真實(shí)性和可信性提供了重要方法和思路。
用科技手段應(yīng)對(duì)日益復(fù)雜的信息偽造和濫用問題，是全社會(huì)共同關(guān)注并為之努力的“大課題”，也亟須建立起可靠、可信的專業(yè)標(biāo)準(zhǔn)，為行業(yè)發(fā)展指引方向。今年9月，由中國(guó)圖象圖形學(xué)學(xué)會(huì)、中國(guó)信息通信研究院、合合信息、中國(guó)科學(xué)技術(shù)大學(xué)等高校、公司聯(lián)合編制，中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)發(fā)布的《文本圖像篡改檢測(cè)系統(tǒng)技術(shù)要求》圍繞“細(xì)粒度”視覺差異偽造圖像鑒別、生成式圖像判別等行業(yè)焦點(diǎn)議題，建立了統(tǒng)一的評(píng)估框架，將助力文檔圖像處理技術(shù)安全、有序發(fā)展。