cibi11/turkish-content-moderation

Turkish Content Moderation Model (Türkçe İçerik Moderasyonu)

XLM-RoBERTa-large tabanlı, Türkçe metinleri 7 kategoride sınıflandıran bir içerik moderasyon modelidir.

Kategoriler

Index	Kategori	Açıklama
0	normal	Normal, zararsız içerik
1	kufur	Küfür içeren ifadeler
2	tehdit	Tehdit edici ifadeler
3	taciz	Taciz içeren ifadeler
4	nefret	Nefret söylemi
5	saka/igneleme	Şaka veya iğneleme amaçlı ifadeler
6	cinsel	Cinsel içerikli ifadeler

Performans

Sınıf	F1 Skoru
Küfür	%94.7
Normal	%85.7
Cinsel	%85.7
Nefret	%84.0
Şaka/İğneleme	%83.8
Tehdit	%80.9
Taciz	%62.7
Macro F1	%82.5
Accuracy	%83.0

Dataset

Bu model, kendi oluşturulan Türkçe içerik moderasyon veri seti ile fine-tune edilmiştir.

Kullanım

import torch
from transformers import AutoModelForSequenceClassification, AutoTokenizer

model_name = "cibi11/turkish-content-moderation"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
model.eval()

text = "Seninle konuşmak istemiyorum"
inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=128)

with torch.no_grad():
    logits = model(**inputs).logits
    probs = torch.softmax(logits, dim=-1)[0]

kategoriler = ["normal", "kufur", "tehdit", "taciz", "nefret", "saka/igneleme", "cinsel"]
for label, prob in zip(kategoriler, probs):
    print(f"{label}: %{prob.item() * 100:.1f}")

print(f"Sonuç: {kategoriler[probs.argmax()]}")

Limitations

Bu model hatalı pozitif ve hatalı negatif sonuçlar üretebilir ve tek başına moderasyon kararları için yeterli değildir. Kullanım öncesinde insan denetimi önerilir.

License

MIT

Base Model

This model is fine-tuned from xlm-roberta-large, which is released under the MIT License.