文檔解析技術(shù)是從這些海量且復(fù)雜的數(shù)據(jù)中高效準(zhǔn)確地提取有價值信息的關(guān)鍵。它從輸入文檔圖像開始,經(jīng)過圖像處理、版面分析、內(nèi)容識別和語義理解等流程,最終輸出結(jié)構(gòu)化電子文檔或語義信息。通過文檔解析技術(shù),我們能夠深入理解文檔的結(jié)構(gòu)、內(nèi)容和主題,使得信息更易于檢索、分析和利用。其中:

image

1.2、LLM + 文檔解析技術(shù)挑戰(zhàn)

現(xiàn)如今,以ChatGPT為代表的先進(jìn)大語言模型(LLM)已經(jīng)能夠勝任復(fù)雜的自然語言處理任務(wù)。將LLM與文檔解析技術(shù)相結(jié)合,不僅能夠顯著提升文檔解析的準(zhǔn)確性和效率,還能挖掘出更廣闊的應(yīng)用場景,降低文檔理解的門檻,從而有力推動自然語言處理領(lǐng)域的蓬勃發(fā)展。盡管當(dāng)前國內(nèi)外的大模型紛紛加入了文檔解析功能,然而,在對照文檔解析的四個關(guān)鍵步驟(圖像處理、版面分析、內(nèi)容識別、語義理解)時,這些大模型并未展現(xiàn)出無懈可擊的解決能力。

image

它們在實(shí)際應(yīng)用中仍然面臨著一定的挑戰(zhàn)和限制,下面我們使用LLM對文檔解析中的一些經(jīng)典問題進(jìn)行分析:

二、TextIn文檔解析實(shí)測流程

針對以上痛點(diǎn),合合信息憑借其強(qiáng)大的研發(fā)實(shí)力,成功自研出TextIn文檔解析技術(shù)。該技術(shù)深度融合了文字識別、計(jì)算機(jī)圖形圖像技術(shù)以及智能圖像處理引擎,使得紙質(zhì)文檔或圖片中的文字信息能夠迅速、精準(zhǔn)地轉(zhuǎn)化為計(jì)算機(jī)易于處理的文本格式。目前,TextIn平臺已經(jīng)開放了通用文檔解析的試用權(quán)限和API調(diào)試接口,任何開發(fā)者都可以注冊賬號并開通使用。

2.1、網(wǎng)頁在線調(diào)用效果

首先進(jìn)入TextIn官網(wǎng):https://www.textin.com/console/recognition/robot_struct?service=pdf_to_markdown選擇1千頁的套餐進(jìn)行試用

image

點(diǎn)擊開通試用,然后進(jìn)入工作臺,找到已開通機(jī)器人-公有云API-通用文檔解析-在線使用。

image

進(jìn)入網(wǎng)頁后,上傳一份檢索報告的掃描件,可以看到,TextIn通用文檔解析能夠精準(zhǔn)地識別掃描件中的表格元素。不論是簡單的單行表格還是復(fù)雜的跨頁表格,它都能準(zhǔn)確地捕捉并創(chuàng)建出結(jié)構(gòu)清晰、布局合理的電子表格,還能將單元格的內(nèi)容一一對應(yīng)解析,確保數(shù)據(jù)項(xiàng)都被準(zhǔn)確無誤地提取。

image

不僅如此,它還能夠?qū)⒔馕鼋Y(jié)果導(dǎo)出為Markdown或JSON格式。Markdown格式的輸出具有直觀性和編輯便捷性,特別適用于解析結(jié)果的查看、修改及后續(xù)處理。而JSON格式在數(shù)據(jù)交換中具有相當(dāng)?shù)耐ㄓ眯院鸵子眯裕軌蚺c主流數(shù)據(jù)處理軟件或平臺無縫對接,確保數(shù)據(jù)的流暢交換和共享。通過這兩種格式的輸出選項(xiàng),我們可以將解析結(jié)果直接應(yīng)用于數(shù)據(jù)分析和處理,并且能夠輕松實(shí)現(xiàn)與其他系統(tǒng)的數(shù)據(jù)交換和集成。

2.2、本地API調(diào)試效果實(shí)測

除了在線調(diào)用,TextIn通用文檔解析還提供了API調(diào)試與示例代碼,首先點(diǎn)擊API集成,進(jìn)入API文檔。

image

API文檔給出了請求頭、URL參數(shù)、請求體說明、響應(yīng)體說明和錯誤碼說明,包括必要的認(rèn)證信息、內(nèi)容類型、清晰的示例和說明、字段的含義和格式。這里我使用JS設(shè)計(jì)一個簡單的demo,其中onload事件處理函數(shù)用于獲取讀取到的文件數(shù)據(jù)(ArrayBuffer),XMLHttpRequest對象向服務(wù)器發(fā)送數(shù)據(jù)后,onreadystatechange事件處理函數(shù)檢查請求的readyState屬性并對返回內(nèi)容進(jìn)行解析,主要核心代碼如下:

// 示例代碼

實(shí)際使用時,只需要點(diǎn)擊選擇文件,然后上傳需要解析的PDF或圖片,在右側(cè)就會打印出對應(yīng)的解析結(jié)果。

image

2.3、初步實(shí)踐——基于TextIn文檔解析 + Kimi的智能文檔解析助手

文檔解析技術(shù)以其精湛的技能,致力于將多樣化格式的文檔轉(zhuǎn)化為計(jì)算機(jī)易于理解和操作的文本格式。而強(qiáng)大的大型語言模型則以其卓越的能力,能夠深入理解和把握不同文本格式的上下文脈絡(luò),精準(zhǔn)捕捉文本中蘊(yùn)含的深層語義,從而生成更加貼合用戶需求的下游任務(wù)輸出。那么,我不禁思考:是否有可能將TextIn文檔解析API與LLM的語言理解能力巧妙結(jié)合,打造出一個高效且強(qiáng)大的文檔處理流程?話不多說,讓我們立即付諸實(shí)踐。

首先,我們調(diào)用TextIn文檔解析API,將原本難以直接使用的文檔(如PDF和圖片格式)轉(zhuǎn)化為計(jì)算機(jī)易于理解的信息,選擇輸出Markdown或JSON格式的文檔內(nèi)容,為后續(xù)的數(shù)據(jù)分析和處理提供清晰、結(jié)構(gòu)化的數(shù)據(jù)支持。

image

接下來,我們將TextIn API生成的Markdown數(shù)據(jù)或JSON數(shù)據(jù)作為輸入傳遞給LLM,本次實(shí)踐選用了moonshot的Kimi。通過這一步驟,我們?yōu)镵imi提供了豐富的結(jié)構(gòu)化數(shù)據(jù),使其能夠深入分析文檔內(nèi)容,并為后續(xù)處理提供更為全面和準(zhǔn)確的上下文支持。

image

最后利用LLM的能力,對輸入的JSON數(shù)據(jù)進(jìn)行處理,根據(jù)特定的業(yè)務(wù)場景和用戶需求,我們可以讓LLM執(zhí)行一系列高級任務(wù),如生成摘要、提取關(guān)鍵信息、分類總結(jié)等。以下圖的鄉(xiāng)村旅游熱度季節(jié)變化規(guī)律為例,我們可以將包含鄉(xiāng)村旅游數(shù)據(jù)的JSON文件輸入給LLM。LLM會利用其深度學(xué)習(xí)和自然語言處理的能力,分析這些數(shù)據(jù),識別出鄉(xiāng)村旅游熱度的季節(jié)性趨勢和變化規(guī)律,基于這些分析,生成一份詳盡的分析報告,包含鄉(xiāng)村旅游熱度的季節(jié)分析、未來趨勢預(yù)測以及相應(yīng)的建議或策略,從而為鄉(xiāng)村旅游的決策者提供有價值的參考,幫助規(guī)劃和管理鄉(xiāng)村旅游資源,提升游客的滿意度和體驗(yàn)。

image

通過以上體驗(yàn),可以看到,TextIn文檔解析API以其卓越的性能為我們提供了強(qiáng)大的文檔解析工具,而Kimi智能文檔助手則以其對文本深層語義的精準(zhǔn)捕捉和理解能力,進(jìn)一步提升了文檔內(nèi)容的下游任務(wù)處理水平,結(jié)合兩者,不僅打破了傳統(tǒng)文檔處理的局限,還可以實(shí)現(xiàn)對文檔更深層次的理解和處理,并且能夠應(yīng)對各種類型文檔處理需求。想象一下,當(dāng)你面對一堆繁雜的PDF文件、圖片或掃描件時,你不再需要逐頁翻閱、手動輸入或依賴低效的OCR工具,而是可以借助TextIn文檔解析 + LLM將其迅速轉(zhuǎn)化為結(jié)構(gòu)化的文本數(shù)據(jù),進(jìn)而提取關(guān)鍵信息、生成摘要、分類歸檔,甚至進(jìn)行更復(fù)雜的文本挖掘和數(shù)據(jù)分析。

image

如果你對智能圖像處理、文字表格識別、文檔內(nèi)容提取感興趣,那么我強(qiáng)烈推薦你前往TextIn的官方網(wǎng)站進(jìn)行親身體驗(yàn)。讓TextIn成為你文檔處理的得力助手,讓智能化、高效化的文檔解析成為你工作的新常態(tài)吧!

原文轉(zhuǎn)載自:https://mp.weixin.qq.com/s/J-msYAYwSymRTZvLVgHnXw

上一篇:

TorchCodec: 用于 PyTorch 的視頻解碼庫

下一篇:

生產(chǎn)級滿血版Deepseek-r1 671B部署后續(xù)問題、調(diào)優(yōu)以及壓測
#你可能也喜歡這些API文章!

我們有何不同?

API服務(wù)商零注冊

多API并行試用

數(shù)據(jù)驅(qū)動選型,提升決策效率

查看全部API→
??

熱門場景實(shí)測,選對API

#AI文本生成大模型API

對比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉(zhuǎn)化潛力

25個渠道
一鍵對比試用API 限時免費(fèi)

#AI深度推理大模型API

對比大模型API的邏輯推理準(zhǔn)確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費(fèi)