أطلس الوثائق العربية من Bayanat Labs
أطلس الوثائق العربية مجموعة موثّقة المصدر لتدريب أنظمة التعرّف البصري على الحروف العربية ولأبحاث معالجة الوثائق. يضم الإصدار الثابت v0.3.0 عدد 200,286 صورة فريدة بحسب بصمات البكسلات بعد فك الترميز عبر مجموعات الصور. وتضم مجموعة pages عدد 199,997 صورة صفحة محتفظًا بها مع نصوص مستخرجة آليًا بواسطة Apple Vision وإحداثيات تقريبية للكلمات وسجل مصدر لكل صفحة، من 679 سجلًا لكتب مختارة في المجموعات العربية على الإنترنت تستوفي تواريخ طبعاتها المسجّلة في الفهرس شرط النشر قبل عام 1931. ويميّز تقرير التغطية بين حالات المعالجة الكاملة والجزئية والخطأ؛ وقد يحتفظ سجل الكتاب بصفحات منشورة رغم تسجيل خطأ في معالجته. ويُحتفظ بثلاثة مواضع مصدر إضافية لصور مطابقة في البكسلات في مجموعة مستقلة لتتبّع المصدر، دون إضافة صور جديدة. وتوفّر مجموعة reference_pairs عدد 289 صورة صفحة من ملفّي PDF مرتبطة بنصوص المتن ذات وسوم المراجعة أو التحقّق المجتمعي، دون نصوص OCR آلية أو إحداثيات كلمات؛ ولا تمثّل هذه الروابط تحققًا مستقلًا من المطابقة. وتضم مجموعة community_text المستقلة 26,629 سجلًا من ويكي مصدر العربية ووسوم الجودة الأصلية، دون صور. والنصوص المرجعية جزء من هذه المجموعة النصية أصلًا. وتُتاح المجموعات الأربع ضمن قسم train المخصّص للتدريب.
| الترخيص | حقوق حسب المكوّن: صور ACO يؤكد مزوّدها أنها في المجال العام؛ توسيمات ووثائق CC BY 4.0؛ نصوص مجتمعية وأزواج مرجعية CC BY-SA 4.0؛ شيفرة Apache-2.0 |
|---|---|
| الإصدار | v0.3.0 · إصدار v0.3.0 ثابت للتدريب؛ تشير الأعداد وروابط التوزيع ذات الوسم إلى هذا الإصدار. ويظل الإصداران السابقان v0.1.0 وv0.2.0 متاحين عبر وسميهما الثابتين. |
| تاريخ النشر | |
| آخر تحديث | |
| لمن هذا الإصدار | تدريب أنظمة التعرّف البصري العربية، وفحص أخطاء التعرّف، وتطوير معالجة الوثائق مع إحالات إلى الصفحات وأدلة مصادرها. |
| المستوى | متقدم |
أرقام رئيسية
تُحسب آليًا من الملفات المنشورة. تُستخرج الأعداد آليًا من ملفَي إحصاءات الإصدار وتقرير التغطية المرتبطين بوسم الإصدار الثابت. وتربط قيمة SHA-256 لسجل الملفات البيانات المنشورة. ومجموع الصور هو اتحاد بحسب بصمات البكسلات بعد فك ترميز الصور؛ ولا تُعد النصوص المجتمعية أو سجلات الكلمات أو صفحات جرد المصدر صورًا إضافية.
التنزيل والمعرّفات
| المكان | المحتوى |
|---|---|
| Hugging Face | الإصدار الثابت على Hugging Face |
| Hugging Face | استكشف صور الصفحات والنصوص الآلية وأدلة المصدر |
| GitHub | الشيفرة وأدلة الإصدار على GitHub |
| huggingface.co | حقوق المكوّنات وشروط المصادر |
| huggingface.co | إحصاءات الإصدار الثابت |
| huggingface.co | سجل ملفات البيانات وقيم التحقق |
| huggingface.co | التغطية وحدود المعالجة |
| huggingface.co | تقرير التحقق من الملفات المنشورة |
| huggingface.co | نسبة المصادر والاعتمادات |
| huggingface.co | أول ملف Parquet من مجموعة pages (جزء من البيانات) |
| huggingface.co | أول ملف Parquet من مجموعة community_text (جزء من البيانات) |
| huggingface.co | ملف Parquet للأزواج المرجعية من ملف PDF مصدر واحد (جزء من المجموعة) |
| huggingface.co | ملف Parquet واحد لتتبّع الصور المكرّرة (جزء من المجموعة؛ دون صور) |
ابدأ الاستخدام
اقرأ مجموعة الصفحات المنشورة بالتدفق
from datasets import load_dataset
pages = load_dataset(
'Bayanat-Labs/arabic-document-atlas',
'pages',
split='train',
revision='v0.3.0',
streaming=True,
)
page = next(iter(pages))
# Separate text resource; contains no page images.
community_text = load_dataset(
'Bayanat-Labs/arabic-document-atlas',
'community_text',
split='train',
revision='v0.3.0',
streaming=True,
)
# Separate source-associated references; no OCR or word boxes.
reference_pairs = load_dataset(
'Bayanat-Labs/arabic-document-atlas',
'reference_pairs',
split='train',
revision='v0.3.0',
streaming=True,
)
# Source lineage for excluded exact-pixel repeats; no new images.
duplicate_occurrences = load_dataset(
'Bayanat-Labs/arabic-document-atlas',
'duplicate_occurrences',
split='train',
revision='v0.3.0',
streaming=True,
)
ما الذي يتضمنه الإصدار
| الجزء | الترخيص | ضمن الإصدار |
|---|---|---|
| صور الصفحات من ACO | Component-specific rights حقوق مصدر يؤكد مزوّده أنه في المجال العام، مع الاحتفاظ بأدلة كل سجل وشروط المكوّن. | نعم |
| تمثيل التوسيمات والوثائق من Bayanat Labs | CC BY 4.0 | نعم |
| نصوص ويكي مصدر العربية المجتمعية، دون صور | CC BY-SA 4.0 | نعم |
| صور صفحات PDF من ويكي مصدر ونصوص المتن المرجعية المرتبطة بها | CC BY-SA 4.0 | نعم |
| شيفرة الجمع والمعالجة والتحقق | Apache-2.0 | نعم |
صيغة النسبة: Bayanat Labs, Arabic Document Atlas. Source institutions and source-page attribution are retained per record. https://www.bayanatlabs.com/open/arabic-document-atlas
الاستخدامات المقصودة
- تدريب أنظمة التعرّف البصري ومعالجة الوثائق باستخدام صور صفحات حقيقية وتوسيمات آلية موضّحة.
- إبقاء إحالات الصفحات ومعرّفات المصادر وإحداثيات الكلمات مرتبطة عند بناء عارض للوثائق أو مقاطع للاسترجاع.
- تدقيق أخطاء التعرّف وتطبيق مرشحات أشد حسب المجال المستهدف.
- استخدام النصوص المجتمعية موردًا نصيًا مستقلًا وفق شروط النسبة والترخيص بالمثل.
خارج النطاق
- اعتبار النصوص المستخرجة آليًا تفريغًا موثّقًا للتقييم.
- الادعاء بأن إصدار التدريب يتضمن اختبارًا معزولًا بحسب الطبعة.
- تعميم ترخيص التوسيمات على جميع صور المصادر أو النصوص المجتمعية.
- افتراض أن صور الكتب التاريخية تمثل الفواتير والنماذج الحديثة أو جميع مجالات الوثائق العربية.
الحقوق باختصار
التدريب والعرض وإعادة التوزيع وإنشاء الأصوات الاصطناعية أذونات منفصلة.
| الاستخدام | الحالة | ملاحظة |
|---|---|---|
| التدريب | مقيَّد | اتبع مصفوفة المكوّنات: أدلة حقوق كل سجل من ACO، وتمثيل التوسيمات بترخيص CC BY، والنصوص المجتمعية بترخيص CC BY-SA. |
| العرض | مقيَّد | احتفظ بنسبة المصدر والمكوّن؛ وراجع سجل حقوق الصورة وشروط الترخيص بالمثل للنصوص المجتمعية. |
| إعادة التوزيع | مقيَّد | احتفظ بأدلة المصدر والإشعارات وشروط كل مكوّن. يقتصر ترخيص التوسيمات على مكوّنها. |
| الصوت الاصطناعي | لا ينطبق | يتضمن الإصدار صور وثائق ونصوصًا، دون إذن لاستخدام صوت مؤدٍّ. |
القيود
- يوفّر Apple Vision نصوص OCR آلية وإحداثيات تقريبية للكلمات وترتيب قراءة مفترضًا. وتكرّر درجات الكلمات درجة الثقة غير المُعايرة للسطر الذي تنتمي إليه، ولا تمثّل احتمال صحة الكلمة. ولم يُقَس معدل أخطاء الحروف أو دقة ترتيب القراءة الدلالي أو دقة الإطارات بمراجعة بشرية. وتتطلب إعادة إنتاج التعرّف الأصلي نظام macOS متوافقًا مع Apple Vision؛ ونموذج التعرّف في النظام مملوك وغير مفتوح المصدر.
- العناوين وسنوات الطبعات من فهرس المصدر. وقد يجمع المجلد الواحد أعمالًا مختلفة؛ ومرشّح الفهرس الذي يقبل ما قبل 1931 فرز أولي للحقوق، وليس تحققًا مستقلًا من تاريخ كل صفحة.
- قد تتضمن الكتب مقدمات وأختامًا وحواشي ولغات أخرى؛ ووسم العربية على مستوى الكتاب من بيانات المصدر.
- تحتفظ النصوص المجتمعية بوسوم الجودة في ويكي مصدر؛ ولم تُعِد Bayanat Labs التحقق من كل حرف. وتمثّل النصوص المجتمعية متن الصفحة بعد عرضه آليًا، مع استبعاد أقسام الترويسة والتذييل؛ وقد يكون تاريخ نسخة ملف المسح الضوئي المرتبط أحدث من تاريخ تنقيح النص.
- تصف الأعداد هذا الإصدار الثابت. لجرد صفحات المصدر والصور المنشورة والصفوف التي اجتازت الفحوص الآلية تعريفات منفصلة.
- تحتفظ الأزواج المرجعية بوسوم المراجعة الأصلية ونطاق المتن ونسخة ملف المصدر الثابتة. وقد تكون ملفات PDF رقمية المنشأ؛ ولا يعني ربط المصدر تحققًا مستقلًا من مطابقة الصورة والنص أو تفريغًا خاليًا من الأخطاء.
- يسجّل تقرير التغطية 768 سجلًا لكتب ACO: منها 389 بحالة اكتمال المعالجة، و287 بحالة المعالجة الجزئية، و92 بحالة خطأ. وقد تتضمن السجلات ذات حالة الخطأ صفحات منشورة؛ ويساهم 679 كتابًا بصور، بينما لا تضم 89 سجلًا أي موضع مصدر ناجح. وتختلف محاولات المعالجة الفاشلة عن صفحات المصدر المتميّزة وعن الصفحات التي لم تُحاول معالجتها. ولا يعني تفرد الصور بحسب البكسلات أن الأعمال أو الطبعات متميزة عالميًا.
المصادر والتراخيص
| المصدر | الترخيص | يُعاد توزيعه هنا |
|---|---|---|
| NYU Arabic Collections Online | تأكيد جامعة نيويورك أن المواد في المجال العام، مع الاحتفاظ ببيان كل سجل وأدلة النشر وسجلات المصدر. | نعم |
| Arabic Wikisource | نصوص مجتمعية بترخيص CC BY-SA 4.0 مع نسبة المصدر ووسوم الجودة؛ ولا تتضمن مجموعة community_text صورًا. | نعم |
| Wikisource reference PDF file permissions | تحتفظ مجموعة الأزواج المرجعية المنشورة بتراخيص الملفات الصريحة CC BY-SA 4.0 وأدلة تصريح صاحب الحقوق عبر VRT، بصورة مستقلة عن النصوص المجتمعية، مع شروط كل ملف ونسبته. | نعم |
يحتفظ أرشيف الجمع باستجابات المصادر وقيم التحقق ومعرّفات الصفحات الأصلية. وترتبط الصفحات المنشورة بقيمة التحقق لملف PDF وفهرس صفحته الذي يبدأ من الصفر. وتستند روابط صفحات المصدر بصفحات PDF إلى ترتيب الناشر وتساوي عدد الصفحات؛ ولم يُتحقَّق بصورة مستقلة من كل زوج من صفحة المصدر وصفحة PDF. وتحتفظ النصوص المجتمعية المستقلة بسجل مصدرها وحقوقها. وتُحفظ العناوين والتواريخ كما يذكرها الفهرس؛ ولا تُستخدم النصوص المستخرجة آليًا لتغيير بيانات الطبعة ضمنيًا. وتشترط مجموعة الصور المرجعية تراخيص ملفات صريحة وأدلة محفوظة لتصريح صاحب الحقوق عبر فريق VRT؛ وتستبعد ملفات PDF ذات إشعارات الحقوق المتعارضة المعروفة ونسخ الملفات الأحدث من تنقيح نصوصها. تفاصيل المصادر (بالإنجليزية)
طريقة الاستشهاد
صيغة الاستشهاد:
Bayanat Labs (2026). Arabic Document Atlas, v0.3.0. Bayanat Labs. https://www.bayanatlabs.com/open/arabic-document-atlas
لا يوجد معرّف DOI. استشهد بالرابط الوارد في صيغة الاستشهاد أعلاه وبتاريخ اطلاعك عليه.
@misc{bayanatlabs2026arabicdocumentatlas,
author = {{Bayanat Labs}},
title = {Arabic Document Atlas, v0.3.0},
year = {2026},
month = oct,
howpublished = {\url{https://www.bayanatlabs.com/open/arabic-document-atlas}}
}
كيف نتعامل مع الاستشهاد (بالإنجليزية)
سجل التغييرات
| التاريخ | الإصدار | التغيير |
|---|---|---|
| v0.3.0 | توسعة إصدار التدريب الثابت: اتحاد من 200,286 صورة، و679 سجل كتاب من ACO ذات صور منشورة، مع بيان حالات المعالجة الكاملة والجزئية والخطأ بصورة مستقلة. وتظل توسيمات الكلمات الآلية متميّزة عن النصوص المرجعية؛ وتوفّر مواضع المصدر الثلاثة المكرّرة المطابقة في البكسلات معلومات لتتبّع المصدر فقط. ولم تتغير مجموعتا الأزواج المرجعية والنصوص المجتمعية. | |
| v0.2.0 | توسعة إصدار التدريب الثابت بإضافة صور صفحات من ACO وتوسيمات آلية للكلمات، مع توضيح تغطية سجلات الكتب وتخصيص مجموعة مستقلة لتتبّع المواضع المكرّرة. ولم تتغير مجموعتا الأزواج المرجعية والنصوص المجتمعية. | |
| v0.1.0 | إصدار ثابت للتدريب: اتحاد الصور الفريدة، وصور ACO ونصوصها الآلية، وأزواج PDF والنصوص المرجعية ذات التراخيص المستقلة، ونصوص ويكي مصدر دون صور، وأدلة المصدر المرتبطة بقيم التحقق. |
التصحيح وطلبات الإزالة
إذا وجدت في هذا الإصدار ما لا ينبغي وجوده أو ما يحتاج إلى تصحيح، فراسلنا على hello@bayanatlabs.com. نعالج طلبات الإزالة خلال 30 يومًا، وطلبات المنصات خلال 24 ساعة. كيف تعمل طلبات الإزالة
المنتج المرتبط: Bayanat Documents