Ресурсы

Open Source Unlimited-OCR: открытие новой эры «однократного анализа длинных документов»

Напомним, что Baidu недавно выпустил новый проект Unlimited-OCR.Проектом называется «One-shot Long».

23 Июль, 2026196 прочтений9 минут чтения
Статьи

Напомним, что на днях компания Baidu выпустила новый проект OCR-модели. Unlimited - OCR。Этот проект определяется как «One-shot Long-horizon parsing (однократный анализ длинного горизонта)Цель заключается в том, чтобы преодолеть узкие места производительности традиционного OCR при обработке длинных документов, позволяя моделям понимать содержимое десятков страниц и даже более длинных документов последовательно, как это делает человек.Код проекта, вес модели и технические отчеты были опубликованы.

Адрес проекта:GitHub - baidu / Unlimited-OCR

Ограничения традиционного OCR: обработка длинных документов всегда была проблемой.

Технология OCR (Optical Character Recognition, оптическое распознавание символов) широко используется для:

  • Оцифровка PDF-документа
  • Управление корпоративными архивами
  • Идентификация счетов и контрактов
  • Анализ документов
  • Извлечение таблицы
  • Интеллектуальная база знаний

Обычно традиционные системы OCR используютОбработка на уровне страницы» Способ:

  1. Разделение файла PDF на одностраничные изображения;
  2. проверка текста на каждой странице;
  3. распознавать содержание текста;
  4. Вручную или в программе соединяются результаты.

При таком подходе возникают очевидные проблемы при работе с десятками, сотнями страниц документа:

  • потеря контекста между страницами;
  • Структура таблицы легко разрушается;
  • уменьшение скорости создания длинных текстов;
  • Загрузка графической памяти увеличивается с увеличением длины вывода.

В частности, в системах OCR, основанных на больших языковых моделях (LLM), по мере увеличения длины генерируемого текста кэш KV (кэш ключевых значений) постоянно растет, что приводит к снижению скорости рассуждения и увеличению нагрузки на память. Unlimited-OCR предлагает новое решение для этой проблемы.

Что такое Unlimited OCR?

Unlimited-OCR - это комплексная система OCR, основанная на модели визуального языка (Vision-Language Model).

Он не просто «распознает текст на изображении», а стремится:

Импорт всего документа → Однократное понимание модели → Экспорт полного структурированного содержания

По сравнению с традиционным OCR, он ближе к «пониманию чтения».

Он поддерживает:

  • Фотографии OCR
  • Анализ многостраничного документа
  • Обработка документов PDF
  • Формы понимания
  • Анализ компоновки документов
  • последовательное создание длинного текста

Официально оно определяется как:

Добро пожаловать в эру одновыстрельного анализа длинных горизонтов.

Наступает «эра одноразового анализа длинных расстояний».

Технология сдвижного ссылочного окна (Reference Sliding Window Attention, R-SWA)

Наибольшим техническим новшеством Unlimited-OCR является введение нового механизма внимания:

Сдвижное окно (R-SWA)

Традиционный Transformer при создании растущего текста:

输入内容
 ↓
生成第1个Token
 ↓
生成第2个Token
 ↓
……
 ↓
生成第N个Token

Каждый новый токен создается, нужно обращать внимание на все предыдущие токены.

По мере увеличения текста:

  • KV Cache становится все более крупным;
  • - рассуждения становятся все медленнее;
  • Расход памяти продолжает расти.

R-SWA для Unlimited-OCR оптимизирован:

  • сохранять визуальный вход в качестве долгосрочной справочной информации;
  • с помощью скользящего окна для обработки уже сформированного текста;
  • Управление длиной кэша в КВ для сохранения стабильной.

Проще понять:

Традиционные модели:

«Каждое слово, которое я пишу, напоминает всю статью».

Unlimited-OCR:

«Сохранить ключевые визуальные воспоминания и сосредоточиться только на текущем контексте».

Такая конструкция позволяет модели работать с более длинными документами без значительного снижения эффективности при увеличении объема вывода.

Масштаб и характеристики модели

Масштаб параметров модели Unlimited-OCR составляет около 3 миллиарда параметров (3B)Использование модели визуального языка.Файлы моделей выпускаются в открытом исходном виде и используются под лицензией MIT для удобства исследований и коммерческого применения.

К числу его основных характеристик относятся:

1.Раскрытие длинных документов один раз

Основные возможности Unlimited-OCR:

  • Процесс обработки нескольких десятков страниц документов за один раз;
  • избежать традиционных процессов OCR-странизации;
  • Сохранение конфиденциальности длинных документов.

В техническом отчете отмечается, что этот метод может анализировать десятки страниц документов при стандартных ограничениях длины, при этом сохраняя стабильный кэш KV. (arXiv)

2.Улучшение понимания структуры документа

Обычные OCR:

图片
 ↓
文字

Unlimited-OCR:

图片
 ↓
文字 + 布局 + 表格 + 语义关系
 ↓
结构化输出

Например:

Ввод:

年度财务报告 PDF

Выход можно понять:

  • Иерархия заголовка
  • Отношения таблицы
  • Структура пунктов
  • ассоциация номера страниц

Это очень важно для корпоративной базы знаний, системы RAG.

3.Экоподдержка с открытым исходным кодом

Unlimited-OCR поддерживает несколько режимов работы:

  • Трансформаторы лица
  • VLLM рассуждения
  • Развертывание сервисов SGLang
  • Платформа моделирования ModelScope

Официальный README предлагает методы загрузки на основе Transformers, например:

from transformers import pipeline

pipe = pipeline(
    "image-text-to-text",
    model="baidu/Unlimited-OCR",
    trust_remote_code=True
)

(Обнимая лицо)

Unlimited-OCR и традиционный OCR

Проект Традиционные OCR Unlimited - OCR
Способы ввода Одностраничная фотография Длинный документ
Способы обработки Разделение страниц Один раз анализ.
Контекст Уровень страницы Уровень документа
Формы понимания более слабые Более сильный
Создание длинного текста Чем длиннее медленнее КВ кэш стабильность
Технический маршрут ОКР Pipeline Модель визуального языка
Подходит для сцены Простой извлечение текста Понимание корпоративной документации

VI. Сценарии применения

1.Создание корпоративной базы знаний

Как правило, предприятия имеют большое количество:

  • Контракты
  • Систематический документ
  • Руководство по продукции
  • Техническая информация

Unlimited-OCR может помочь:

PDF → Markdown → Векторная база данных → ИИ Вопросы и ответы

Становить важным входом в корпоративные системы RAG.

2.Анализ академических работ

Каждый день ученым нужно читать:

  • Документ PDF
  • Отчет о экспериментах
  • Таблицы данных

Unlimited-OCR может сократить:

  • копирование вручную;
  • Формирование таблицы;
  • Преобразование документации.

3.Финансовая и юридическая сфера

Финансовые и юридические документы обычно:

  • большое количество страниц;
  • сложность формата;
  • Таблицы интенсивные.

ОКР для длинных документов может значительно улучшиться:

  • ревизия контрактов;
  • - анализ рисков;
  • Подготовка материалов по делам.

4.Умный офисный помощник

Будущий офис может:

Загрузка:

100页项目报告.pdf

Затем спросили:

总结第三季度风险

ИИ может ответить на основе полного документа, а не читать только одну страницу.

VII. Установка и опыт использования

Официально предлагается метод рассуждений на основе Python.

Основная среда:

  • Python
  • PyTorch
  • Трансформаторы
  • Окружающая среда GPU NVIDIA

Пример:

git clone https://github.com/baidu/Unlimited-OCR.git

cd Unlimited-OCR

pip install -r requirements.txt

Затем загрузить модель:

from transformers import AutoModel

model = AutoModel.from_pretrained(
    "baidu/Unlimited-OCR",
    trust_remote_code=True,
    device_map="auto"
)

VIII. Значение будущего: ОКР переходит от «грамотности» к «пониманию»

Предыдущие цели ОКР:

"Раззнайте текст на картинке".

Будущие цели ОКР:

«Понимание информации, выраженной во всем документе».

Unlimited-OCR представляет собой тенденцию:

OCR + большая языковая модель + понимание документов

Они становятся основой для интеллектуального офиса следующего поколения, управления знаниями и агентов ИИ.

Традиционный OCR - это «мозг сканера».

Unlimited-OCR больше похож на:

Эксперт по ИИ-документации, способный читать, понимать и организовывать данные.

С развитием длинных контекстуальных моделей ИИ в будущем может стать стандартной способностью обрабатывать десятки, сотни страниц и даже полные наборы корпоративной информации.

Резюме

Baidu Unlimited-OCR с помощью инновационного механизма внимания R-SWA решает давние узкие места эффективности в OCR длинных документов, реализуя «одноразовый анализ на длинную дистанцию».

Ее важное значение не только повышает точность распознавания текста, но и продвигает OCR от:

Инструменты распознавания текста → Агент для понимания документов

Это преобразования.

Для агентов ИИ, баз корпоративных знаний, интеллектуального офиса и автоматизированной обработки документов Unlimited-OCR может стать важным проектом с открытым исходным кодом на уровне инфраструктуры в будущем.