報告指出，隨著人工智能技術的快速發展，在全球范圍內的不同應用場景中，AI正在逐步替代人類，承擔起越來越多的分析、決策等重要工作。而在傳統的人工智能技術中，由于因果關系、推導過程的不清晰，使得AI的分析、決策結果難以完全獲得人類的信賴。決策者采用人工智能技術做出的判斷，甚至可能引發公眾對公平性的質疑。不僅如此，由黑產發起的、針對AI的攻擊，還可能誤導模型算法得出錯誤的決策結果。因此對于“AI魯棒性“、”AI可解釋性”、“AI公平性”的研究成為了人工智能下一步廣泛應用的關鍵環節。

同時，作為人工智能技術的重要資源，為了實現數據的合理利用和保護，探索如何借助技術手段，避免數據的過度采集、濫用盜用，既是行業研究的責任，也是用戶權益保護的基礎。而針對當前多數據所有權、地區法律法規差異大的現狀，探索借助技術手段、在保護隱私的前提下實現計算服務，也將進一步驅動和放大數據價值。

作為數字時代“抵御風險”的關鍵能力，AI安全可信技術的研究和應用，將被廣泛地應用于反欺詐、反洗錢、反賭博、數字身份識別、企業聯合風控等領域，極大地助力企業提升風險控制能力。

值得關注的是，報告中指出，專利申請主體對“專利目標市場”的選擇和布局，體現了企業或研究機構的市場需求和技術自信?？紤]到高額的專利申請和維護成本，單純以技術研究為目的的高校研究機構，缺少大規模應用需求、或是國際化程度較低的企業，往往不會選擇在多地區進行專利申請和布局。由于“AI安全可信關鍵技術”是人工智能技術應用落地保障的關鍵，此次的專利檢索統計發現，微軟、NTT、IBM等國際科技企業均在大力全球范圍大力推動關鍵技術布局，而螞蟻集團以17個“專利目標市場”的覆蓋布局數居首位，表現搶眼。