muhamparlak/turkish-law-bge-m3-embeddings

Turkish Law & Legislation BGE-M3 Embeddings

Language: English | Türkçe

---

English

This dataset contains pre-computed embeddings for Turkish legal precedents (Supreme Court/Yargıtay and Council of State/Danıştay) and statutory legislation (codes and articles). It is formatted in Parquet and specifically optimized for RAG (Retrieval-Augmented Generation) pipelines using a "Multi-Index" architecture.

📊 Data Sources & Attribution

• Precedents Subsets: Derived from the erdem-erdem/Turkish-Law-Documents-700k-clustered dataset. The original public records belong to:

  • Yargıtay (Court of Appeals): https://karararama.yargitay.gov.tr/
  • Danıştay (Council of State): https://kararara.danistay.gov.tr/

  (Special thanks to researchers of the underlying source datasets: fikriokan/ygty, fikriokan/ygty-2, fikriokan/dnsy-1, fikriokan/dnsy-2)

• Legislation Subsets: Gathered, structured, and vectorized from the following official Turkish core codes and statutory laws:

  • Anayasa (Constitution)
  • TMK (Turkish Civil Code / Türk Medeni Kanunu)
  • TBK (Turkish Code of Obligations / Türk Borçlar Kanunu)
  • TTK (Turkish Commercial Code / Türk Ticaret Kanunu)
  • TCK (Turkish Penal Code / Türk Ceza Kanunu)
  • CMK (Criminal Procedure Code / Ceza Muhakemesi Kanunu)
  • HMK (Code of Civil Procedure / Hukuk Muhakemeleri Kanunu)
  • İşK (Labor Law / İş Kanunu)

⚙️ Data Processing Pipeline

1. Legal Precedents (emsal_kararlar): Long judicial texts were split using Langchain's RecursiveCharacterTextSplitter.

   • Chunk Size: 3000 characters.
   • Chunk Overlap: 500 characters.
   • Separators: ["\n\n", "\n", ".", " "] to maintain semantic paragraphs and sentences.
   • Source fields were standardized from abbreviations like ygty or dnsy into "Yargıtay" and "Danıştay".

2. Legislation & Codes (mevzuat):

   • No chunking was applied due to the naturally concise length of law articles.
   • Metadatas were contextually enriched for better vector representations.
   • Format: {Law Name} ({Short Name}) {Article No}: {Original Text}
   • Example: "Türkiye Cumhuriyeti Anayasası (Anayasa) Madde 2: Türkiye Cumhuriyeti, toplumun huzuru..."

🧠 Model & Embedding Configuration

• Embedding Model: BAAI/bge-m3 (Multilingual)
• Vector Dimension: 1024
• Max Sequence Length: 2048 (Configured to comfortably support 3000-character text chunks).
• Hardware & Acceleration: Processed utilizing an NVIDIA A100 GPU in torch.bfloat16 precision mode.

🗂️ Dataset Schema

1. Legal Precedents (emsal_kararlar):

• doc_id (string): The original document ID.
• chunk_idx (int32): The index of the text chunk within the original document.
• text (string): The 3000-character chunked text used for embedding.
• kaynak (string): Source institution (Yargıtay or Danıştay).
• esas_no, karar_no, tarih (string): Judicial metadata regarding the specific decision.
• dokuman_tipi (string): Tagged as 'Emsal Karar' for multi-index filtering.
• vector (list[float32]): 1024-dimensional embedding vector.

2. Legislation & Codes (mevzuat):

• id (string): Systemic identifier (e.g., 'TMK_Madde_2').
• kanun_adi, kanun_kisa_ad, madde_no (string): Legislative metadata.
• orijinal_metin (string): The pure text of the law article (best for returning to the user).
• text (string): The contextually enriched text fed into the embedding model.
• dokuman_tipi (string): Tagged as 'Mevzuat' for multi-index filtering.
• vector (list[float32]): 1024-dimensional embedding vector.

🚀 How to Use (Python)

You can load specific configurations using the Hugging Face datasets library:

from datasets import load_dataset

# Load Statutory Legislation only
legislation = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "mevzuat")

# Load Legal Precedents only
precedents = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "emsal_kararlar")

---

Türkçe

Bu veri seti, Türk hukuku emsal kararları (Yargıtay ve Danıştay) ile kanun maddesi/mevzuat metinlerinin RAG (Retrieval-Augmented Generation) sistemlerinde doğrudan kullanılabilmesi için BAAI/bge-m3 modeli kullanılarak üretilmiş vektörleri (embedding) içerir. Veriler "Multi-Index" veri tabanı mimarilerine uygun olarak iki farklı alt küme halinde düzenlenmiştir.

📊 Veri Kaynakları ve Atıflar

• Emsal Kararlar: Geniş kapsamlı erdem-erdem/Turkish-Law-Documents-700k-clustered veri setinden türetilmiştir. Orijinal veriler şu kurumların kamuya açık resmi kayıtlarıdır:

  • Yargıtay: https://karararama.yargitay.gov.tr/
  • Danıştay: https://kararara.danistay.gov.tr/

  (Kaynak veri setlerinin hazırlanmasında emeği geçen fikriokan/ygty, fikriokan/ygty-2, fikriokan/dnsy-1, fikriokan/dnsy-2 veri seti sahiplerine teşekkür ederiz.)

• Mevzuat / Kanunlar: Türkiye Cumhuriyeti resmi kanun maddeleri derlenerek yapılandırılmıştır. Veri seti şu ana kanunları ve temel mevzuatları kapsamaktadır:

  • Anayasa
  • Türk Medeni Kanunu (TMK)
  • Türk Borçlar Kanunu (TBK)
  • Türk Ticaret Kanunu (TTK)
  • Türk Ceza Kanunu (TCK)
  • Ceza Muhakemesi Kanunu (CMK)
  • Hukuk Muhakemeleri Kanunu (HMK)
  • İş Kanunu (İşK)

⚙️ Veri İşleme Süreci (Data Pipeline)

1. Emsal Kararlar (emsal_kararlar): Çok uzun mahkeme kararları, anlam bütünlüğü bozulmadan Langchain RecursiveCharacterTextSplitter ile parçalanmıştır.

   • Parça Boyutu (Chunk Size): 3000 karakter.
   • Örtüşme (Overlap): 500 karakter.
   • Ayırıcılar (Separators): ["\n\n", "\n", ".", " "] (Parçalamanın paragraflardan ve cümlelerden yapılması sağlandı).
   • Kaynak adlarındaki ygty ve dnsy gibi kısaltmalar "Yargıtay" ve "Danıştay" olarak standardize edilmiştir.

2. Mevzuat ve Kanunlar (mevzuat):

   • Kanun maddeleri yapıları gereği kısa olduğundan parçalama (chunking) uygulanmamıştır.
   • Modelin bağlamı daha iyi kavrayabilmesi için metinler şu formatta zenginleştirilerek modele verilmiştir.
   • Zengin Metin Formatı: {Kanun Adı} ({Kısa Ad}) {Madde No}: {Orijinal Metin}
   • Örnek: "Türkiye Cumhuriyeti Anayasası (Anayasa) Madde 2: Türkiye Cumhuriyeti, toplumun huzuru..."

🧠 Model ve Vektör (Embedding) Detayları

• Model: BAAI/bge-m3
• Vektör Boyutu (Dimension): 1024
• Maksimum Dizi Uzunluğu (Max Sequence Length): 2048 (3000 karakterlik metin parçalarını kayıpsız işleyecek şekilde optimize edilmiştir).
• Donanım: İşlemler NVIDIA A100 GPU üzerinde torch.bfloat16 hassasiyetiyle gerçekleştirilmiştir.

🗂️ Sütun Yapısı (Dataset Schema)

1. Emsal Kararlar (emsal_kararlar):

• doc_id (string): Kararın orijinal doküman ID'si.
• chunk_idx (int32): Dokümanın kaçıncı metin parçası olduğu.
• text (string): Vektörleştirilen 3000 karakterlik metin parçası.
• kaynak (string): İlgili kurum (Yargıtay veya Danıştay).
• esas_no, karar_no, tarih (string): İlgili kararın hukuki üst verileri (metadata).
• dokuman_tipi (string): Multi-index filtreleme için 'Emsal Karar' etiketi.
• vector (list[float32]): 1024 boyutlu embedding vektörü.

2. Mevzuat ve Kanunlar (mevzuat):

• id (string): Sistemsel kimlik (Örn: 'TMK_Madde_2').
• kanun_adi, kanun_kisa_ad, madde_no (string): İlgili kanunun üst verileri.
• orijinal_metin (string): Kanunun saf hali (LLM'in kullanıcıya sunması için idealdir).
• text (string): Vektör modeline verilen zenginleştirilmiş bağlamlı metin.
• dokuman_tipi (string): Multi-index filtreleme için 'Mevzuat' etiketi.
• vector (list[float32]): 1024 boyutlu embedding vektörü.

🚀 Kullanım Örneği (Python)

Veri setini alt kümelerine göre şu şekilde projenize dahil edebilirsiniz:

from datasets import load_dataset

# Sadece Kanun Maddelerini yüklemek için:
mevzuat = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "mevzuat")

# Sadece Emsal Kararları yüklemek için:
emsal = load_dataset("muhamparlak/turkish-law-bge-m3-embeddings", "emsal_kararlar")