新壹代信創規則引擎平臺
隨著經濟全球化的不斷發展,非結構化數據的種類和應用場景越來越多,據不完全統計,非結構化數據現已占各類企業數據的80%以上,並且以每年55%-65%的速度增長。高益科技所服務的不少客戶中,就有不少客戶存在這類問題,他們對於客戶非結構化資料的管理分散在各個業務系統中,管理及調閱難度較大。特別是壹些全球化的公司,分支機構遍布全球,隨著公司發展,各區域數據量快速增大,跨區域數據調度頻繁,並且隨著數據豐富性,各類音視頻、圖片、文檔等在線調閱,加工編輯需求加劇。此時,他們需要有人為他們提供壹整套管理平臺,實現全球附件數據的共享、調度、預覽、加工為壹體的解決方案。
隨後,該公司引入高益科技內管管理平臺整體解決方案,實現分區域分集群的附件資源管理。通過網絡層面實現就近訪問,各區域均實現高效文件讀寫、下載。非結構化內容管理平臺作為企業客戶影像資料與內容存儲系統,為企業提供統壹的影像數據采集、影像調閱、影像傳輸、影像存儲等功能,實現企業級影像數據的集中管理和存儲,對外提供統壹的影像服務。
高益科技為其提供非結構化內容管理平臺,其高可用、高性能、非結構化的分布式索引服務,通過內容檢索、替換現有75+的索引庫,實現數據共享,業務靈活支撐,標準化預覽、調閱組建,實現文件調閱豐富體驗。提供異步化調度,各區域數據實現同步。通過內容存儲,兼顧支持各類存儲系統,如雲存儲、對象存儲、文件系統等,數據讀寫通過內容管理平臺直接訪問存儲介質,避免了多處緩存及搬運;同時分布式對象存儲實現數據的高可用和數據訪問的高性能。高低搭配,實現冷熱數據的合理分布,自動歸檔。
本項目包括以下內容:按客戶號存儲、多種接入方式、離線數據管理功能、批量接口能力、渠道控制能力、架構橫向擴展支持等。各功能模塊具體說明如下:
1、按客戶號存儲
各業務系統上傳影像時,如涉及客戶信息,必須上傳客戶號,同步根據業務種類上傳對應的影像類型,如客戶身份信息類、賬戶類、交易類等,支持按客戶號、影像類型、流水號、賬號等多緯度實現影像精準查詢。
2、多種接入方式
支持API接口、Web端、控件、移動端(SDK、H5)等多種接入方式,方便業務系統接入非結構化平臺,支持影像的采集、加工、展現,支持JPEG、PNG、DOC、PDF等多種影像和文件格式。具體影像處理功能如圖2所示:
影像掃描:能夠驅動主流廠商的各類中高低速掃描儀將紙質憑證采集為電子影像,支持分散掃描和集中掃描兩種模式,允許業務員手工將不同套號的單據綁定在壹筆交易中,在掃描過程中如掃描錯誤或不清晰的影像,能夠提供重掃的功能,並確保重掃後數據仍歸入同壹批次交易。
影像導入:支持影像文件TIF、JPG、PDF文件導入內容管理平臺,同時支持非影像文件word文件等導入。能夠支持多種圖像格式的顯示,多版本的保存。
影像處理:支持圖像增強、去底紋、去黑邊、去斑點、糾偏、順序調整,影像文件的影像文件的插入、添加、替換、刪除、旋轉功能。
影像展現:以縮略圖方式支持查詢、調閱影像文件。
影像壓縮:支持照片類和公文類圖像的壓縮,支持快速壓縮和高壓縮比,降低存儲的開銷和網絡傳輸的成本。
影像識別:支持自定義識別模板、支持二維碼、條形碼識別功能。
影像安全:主要通過添加水印,防止圖像被非法攥改,防止影像信息泄密,防止前臺通過非正常途徑采集圖像。提供全面的管理工具,對內容的訪問和使用能夠進行多層次的許可、控制和監督;對於保存在平臺中的同壹內容,不同的用戶可以配置不同的權限;根據其擁有的權限的不同,可以限制不同用戶對同壹平臺對象的操作能力;提供用戶、組、對象級別的安全控制;具備日誌管理功能,對敏感操作進行跟蹤與記錄;支持用戶身份認證、加密傳輸等安全管理功能。
影像對比:實現多個影像分區域展現,對比,在同壹屏幕下實現多張影像的比對識別功能。
影像標註:能夠對影像進行標註,對標註的影像,下壹環節能夠看到上壹環節的標註;系統能自動記錄標註人、標註時間、標註內容(包括:字體、顏色)等。
3、離線數據管理功能
為了保證非結構化平臺具備足夠高的整體性能,合理利用系統資源,需要開發離線數據管理功能。接入的非結構化數據可按業務類型或業務流水設置有效期,到期後平臺批量將結構化數據遷移至歷史表,非結構化數據離線處理,並提供離線內容的管理和查詢功能。
4、批量接口能力
針對部分數據量大、時效性要求低或歸檔備份類業務,平臺提供批量上傳的接口,系統空閑時自動觸發入庫處理,實現單次交互完成多筆流水數據提交,與實時處理通道隔離,不影響實時提交業務,保證個貸、信貸等重要系統的重要業務優先處理。並提供批量任務的查詢和管理能力。
5、渠道控制能力
平臺接入時具備渠道概念,可按接入系統或業務類型劃分渠道。按渠道分配處理資源(處理線程數、每天最大批次數等),且支持動態配置。渠道具有隔離功能,單壹渠道出現異常後,可及時隔離,不波及到其他渠道。渠道具有權限控制能力,包括查詢,下載,API上傳、掃描上傳等權限控制,支持動態配置。
創新點
非結構化內容管理平臺,實現以客戶為中心的影像存儲,多緯度檢索能力支持。架構上實現橫向擴展,處理能力可按需擴展。對平臺級功能進行優化,接入渠道上增加移動端的影像操作支持,滿足PAD,手機等移動端接入需求,豐富企業的業務解決方案。最終提升企業對非結構化數據的管理能力,更好地服務於各部門業務系統。
1、實現以客戶為中心的非結構化數據的統壹管理,支持按客戶號查詢該客戶在企業各系統內的所有影像資料,同步支持按系統、資料類型、賬號、業務流水號、客戶名稱、證件號碼等多條件查詢影像信息,並分批逐步完成存量影像補上傳客戶號、資料類型等工作,為企業管理體系的建設提供非結構化數據支撐。
2、影像全生命周期管理,新平臺中增加回收站和圖片拖拽功能,在指定業務提交前由有權人負責審核影像資料,對於上傳錯誤或重復的影像提供拖拽功能,有權人可將錯誤的影像拖至回收站內,提高影像存儲的準確性;增加影像標記和影像軌跡查詢,在指定環節由有權人對已審核通過的影像進行標記,如已驗印、已確認、已核驗等,審核人員可根據影像標記進行選擇性調閱影像,滿足不同崗位審核人員的需求,提升審核人員工作效率。
3、實時傳輸、數據共享,打破信息孤島,通過批次自定義查詢接口可以查看全行身份類、賬戶類、交易類影像,通過文件自定義查詢接口可以查看指定類型文件的影像,為全行影像共享提供查詢接口。
4、支持多渠道上傳和在線查看功能,支持API接口、Web端、控件、移動端(SDK、H5)等多種接入方式,方便業務系統接入非結構化平臺,支持影像的采集、加工、在線查看,支持JPEG、PNG、DOC、PDF等多種影像和文件格式。
5、支持視頻音頻在線播放:對於部分業務如面簽核保等需要上傳和在線查看視頻音頻,在新非結構化內容管理平臺項目中得以實現在線播放視頻音頻。
項目成效
非結構化內容管理平臺,實現客戶緯度影像存儲、檢索能力支持。架構上實現橫向擴展,處理能力可按需擴展。平臺級功能進行優化,增加接入渠道豐富了企業業務解決方案。最終提升企業對非結構化數據的管理能力,更好地服務於各業務系統。
經驗總結
項目啟動前征集總分行各業務部門的需求和痛點,並在平臺開發過程中進行實現業務系統對於非結構化資料上傳及查閱的要求,形成以客戶為中心的非結構化數據的統壹管理,為企業以客戶為中心反洗錢管理體系的建設提供非結構化數據支撐。加強影像全生命周期管理,提高影像存儲的準確性,根據影像標記進行選擇性調閱影像,滿足不同崗位審核人員的需求,提升審核人員工作效率。平臺上線運行後持續收集用戶意見及建議,不斷優化系統功能,提升用戶體驗。
以內容管理平臺構建了全公司內部附件共享平臺,實現了非結構化文檔資源的統壹化管理。針對跨區域文件調度能力,實現整體服務資源有效調度、優化,提升內部工作效率。通過豐富的附件處理能力對文檔進行深度處理,如剪裁、水印、縮略圖等,有效控制了文件的安全性和便利性。高益科技以專業化能力和場景化應用,為客戶提供更加專業的服務。



