تقنية SMOTE: توليد أمثلة للفئة الأقل دون نسخها

ما المشكلة التي يعالجها هذا الحل؟

لدى فريق فحص بصري على خط تغليف 40,000 سجل لقطع سليمة مقابل 310 سجلات عيوب. رفعت أوزان الفئات الاستدعاء من الصفر، لكن النموذج ما زال يُغفل فئات عيوب كاملة، لأن 310 أمثلة موزّعة على ستة أنواع عيوب تترك بعض الأنواع بثلاثين سجلًا فقط.

الميل الغريزي هو تكرار سجلات العيوب حتى تتوازن الفئات. وهذا هو الزيادة العشوائية، وهو يعلّم النموذج حفظ تلك النقاط الـ310 بعينها بدل تعلّم شكل العيب. فيضيق حدّ الفصل حول عينات مفردة وينهار أمام أي اختلاف بسيط.

وSMOTE هي الاستجابة لهذا الإخفاق تحديدًا: توليد نقاط جديدة لكنها منطقية، تقع بين العيوب الحقيقية لا فوقها.

كيف يعمل الحل؟

لكل عينة من الفئة الأقل، تبحث SMOTE عن أقرب k جيران من الفئة نفسها (القيمة الافتراضية 5)، وتختار واحدًا منهم عشوائيًا، ثم تُنشئ نقطة جديدة في موضع عشوائي على الخط المستقيم الواصل بينهما، وتكرر ذلك حتى تبلغ نسبة الفئات الهدف المطلوب.

ولأن النقطة الصناعية تقع بين مثالين حقيقيين، فهي ترث طابعهما العام دون أن تطابق أيًا منهما. فتزداد كثافة منطقة الفئة الأقل ويستطيع المصنّف رسم حدّ حول منطقة بدل رسمه حول نقاط مفردة.

وتوجد صيغ بديلة للحالات التي تتعامل معها SMOTE الأساسية بشكل سيئ: SMOTENC للخصائص المختلطة الفئوية والمستمرة، وBorderlineSMOTE للتركيز على العينات القريبة من حدّ الفصل، وADASYN لترجيح التوليد نحو نقاط الفئة الأقل الأصعب تصنيفًا.

1. 1
   اختيار عينة من الفئة الأقل خذ مثالًا حقيقيًا واحدًا من الفئة الممثَّلة تمثيلًا ناقصًا.
2. 2
   إيجاد الجيران احسب أقرب k جيران من الفئة الأقل في فضاء الخصائص، باستخدام المسافة الإقليدية افتراضيًا.
3. 3
   اختيار جار واحد اختر واحدًا من هؤلاء الجيران عشوائيًا.
4. 4
   الاستيفاء ولّد نقطة جديدة عند x_new = x + rand(0,1) * (x_neighbour - x)، فتقع في موضع ما على القطعة الواصلة بين النقطتين.
5. 5
   التكرار حتى الهدف استمر حتى تبلغ الفئة الأقل نسبة أخذ العينات المطلوبة، ثم درّب على مجموعة التدريب الموسّعة.

البنية المرجعية

تنتمي SMOTE إلى طبقة واحدة بالضبط. ومعظم التطبيقات الخاطئة تنشأ من وضعها في موضع آخر.

خيارات النشر: مولّد العينات أثر من آثار مرحلة التدريب ولا يصاحبه أي اعتماد وقت الاستدلال. والذي يجب تسليمه هو تعريف المسار نفسه، حتى تُعيد عملية إعادة تدريب بعد ستة أشهر إنتاج البناء ذاته.

القدرات الرئيسية

التكاملات

SMOTE خطوة داخل مسار تدريب، لذا فإن سطح تكاملها هو تعريف المسار ومخزن الأدوات المنتَجة، لا واجهة برمجية وقت التشغيل.

حالات الاستخدام والقطاعات

منهجية التنفيذ

1. 1
   فحص أنواع الخصائص أي عمود فئوي أو ترتيبي أو مُرمَّز بترميز أحادي يُسقط صلاحية SMOTE الأساسية. استخدم SMOTENC أو رمّز عمدًا.
2. 2
   عدّ الفئة الأقل يجب أن تكون k_neighbors أصغر من عدد الفئة الأقل في أصغر طيّة، وإلا فشلت الملاءمة تمامًا.
3. 3
   بناء المسار استخدم Pipeline من imblearn حتى ينحصر المولّد في طيّة التدريب عند كل تقسيم.
4. 4
   المقارنة بأمانة قِس الأداء مقابل أوزان الفئات وحدها. فكثيرًا ما لا تتفوق SMOTE عليها، وهذه نتيجة صحيحة.
5. 5
   توثيق الموقف الحوكمي وثّق مصدر اشتقاق السجلات الصناعية والمواضع المسموح بتخزينها فيها.

الأمن وخيارات النشر

سجلات الفئة الأقل المولّدة من بيانات شخصية هي بيانات شخصية مشتقة. خزّنها داخل النطاق نفسه لمصدرها، واستبعدها من أي مجموعة بيانات تُشارَك لأغراض المقارنة المرجعية، واحذفها مع أدوات التدريب. وحين تكون الفئة الأقل صغيرة جدًا، قد يقترب الاستيفاء بين سجلين من شخص حقيقي بدرجة ذات أثر.

مثال عملي

سجلّا عيب يوصفان بخاصيتين مقيستين — انحراف السطح بالمليمتر ودرجة حرارة الدورة.

1. النقطة أ. عيب حقيقي عند (0.40 مم، 62 درجة).
2. النقطة ب. أقرب جار لها من الفئة الأقل، وهو عيب حقيقي عند (0.60 مم، 70 درجة).
3. سحب lambda. لنفترض أن السحب العشوائي أعطى lambda = 0.25.
4. استيفاء كل خاصية. السطح: 0.40 + 0.25 × (0.60 − 0.40) = 0.45 مم. الحرارة: 62 + 0.25 × (70 − 62) = 64 درجة.
5. النتيجة. عيب صناعي عند (0.45 مم، 64 درجة) — قطعة منطقية لم تُنتَج فعليًا قط.

والآن غيّر الخاصية الثانية إلى «رمز الوردية» بقيم 1 و2 و3. الاستيفاء بين الوردية 1 والوردية 2 يعطي الوردية 1.25، وهي غير موجودة. هذا الاستبدال وحده يفسّر سبب وجود SMOTENC، ويفسّر لماذا يكون استخدام SMOTE الأساسية على أعمدة فئوية خطأً صامتًا لا خطأً معلنًا.

مثال برمجي

المسار أدناه هو البناء الصحيح. واستخدام Pipeline من imblearn بدل sklearn مقصود: فهو يطبّق إعادة أخذ العينات على طيّة التدريب وحدها، فتبقى نتائج التحقق المتقاطع صادقة.

from sklearn.datasets import make_classification
from sklearn.model_selection import StratifiedKFold, cross_val_score, train_test_split
from sklearn.ensemble import RandomForestClassifier
from imblearn.over_sampling import SMOTE
from imblearn.pipeline import Pipeline

X, y = make_classification(
    n_samples=5000, n_features=12, n_informative=5,
    weights=[0.985, 0.015], random_state=7,
)
X_train, X_test, y_train, y_test = train_test_split(
    X, y, test_size=0.2, stratify=y, random_state=7,
)

# imblearn's Pipeline resamples the TRAIN fold only on each CV split.
# sklearn's Pipeline would leak synthetic points into the validation fold.
pipe = Pipeline([
    ("smote", SMOTE(k_neighbors=5, random_state=7)),
    ("clf", RandomForestClassifier(n_estimators=300, random_state=7)),
])

cv = StratifiedKFold(n_splits=5, shuffle=True, random_state=7)
scores = cross_val_score(pipe, X_train, y_train, cv=cv, scoring="average_precision")
print("PR-AUC per fold:", scores.round(3))
print("mean PR-AUC:", scores.mean().round(3))

# k_neighbors must be < the minority count in the SMALLEST training fold,
# otherwise fitting raises ValueError.
print("minority in train:", int((y_train == 1).sum()))

خمس قيم لـ PR-AUC لكل طيّة ومتوسطها. وإذا تباعدت الطيّات بشكل كبير، فالفئة الأقل أصغر من أن تعطي نتيجة مستقرة، والاستنتاج الأمين حينها هو الحاجة إلى مزيد من العيوب الموسومة، لا إلى مولّد عينات مختلف.

فحوصات تشخيصية

• تأكّد من وقوع المولّد داخل طيّة التحقق المتقاطع. فإذا كان PR-AUC للتحقق أعلى بكثير منه للاختبار، فهو ليس كذلك.
• افحص عينة من السجلات الصناعية يدويًا. فالقيم المستحيلة — رموز ورديات كسرية، أو مدد سالبة، أو فئات خارج النطاق — تدل على استخدام الصيغة الخاطئة.
• قارن بخط أساس موزون بأوزان الفئات. فإن لم تتفوق SMOTE عليه، فلا تُسلّم التعقيد الإضافي.
• غيّر البذرة العشوائية عبر عدة تشغيلات. فالتذبذب الكبير يعني أن الفئة الأقل أصغر من أن تعطي نتيجة مستقرة.
• تحقّق مما إذا كانت النقاط الصناعية تجسر فجوة حقيقية بين مجموعتين فرعيتين متمايزتين من الفئة الأقل، فتنشئ منطقة لا تحتوي أي مثال حقيقي.

القيود والمتطلبات المسبقة

• ترفع SMOTE كثافة الفئة الأقل لكنها لا تضيف أي معلومة جديدة عنها.
• تتجاهل الفئة الأكبر تمامًا أثناء التوليد، فقد تقع الأمثلة الصناعية داخل منطقة الفئة الأكبر وتُشوّش حدّ الفصل.
• الأداء حساس لقيمة k_neighbors ونسبة أخذ العينات والبذرة العشوائية.
• لا تستطيع إصلاح خطأ التصنيف أو ضعف الخصائص أو انحياز القياس — وستضخّم الثلاثة بأمانة.

SMOTE مقابل البدائل

المقارنة الأمينة هي مع أوزان الفئات، لا مع عدم فعل شيء.

جرّب أوزان الفئات أولًا؛ فهي معامل واحد ولا يمكن أن تُحدث تسرّبًا، وكثيرًا ما تُغلق معظم الفجوة بمفردها.

الخلاصة

• تستوفي SMOTE بين جيران حقيقيين من الفئة الأقل بدل تكرار الصفوف.
• يجب تنفيذها داخل طيّة التدريب؛ فتنفيذها قبل التقسيم يُنتج نتيجة غير صالحة.
• يتطلب الاستيفاء خصائص مستمرة ومرتبة ترتيبًا ذا معنى — والأعمدة الفئوية تحتاج SMOTENC.
• قِسها بأمانة مقابل أوزان الفئات؛ فكثيرًا ما تكفي الأوزان وحدها.
• ترث سجلات الفئة الأقل المولّدة تصنيف البيانات الخاص بالسجلات التي اشتُقّت منها.

الأسئلة الشائعة

مواضيع وحلول ذات صلة

• Class Imbalance: When 95% Accuracy Means the Model Found Nothing
• ADASYN: Generating Where the Model Is Actually Struggling
• Random Oversampling: Duplication as a Deliberate Choice
• Data Leakage: The Model That Only Works Before Deployment
• AI Products Portfolio
• تقنية ADASYN: التوليد حيث يتعثّر النموذج فعلًا
• القيم الشاذة: التمييز بين حساس معطّل ووحدة تبريد معطّلة
• تسرّب البيانات: النموذج الذي ينجح قبل النشر فقط