Дисбаланс классов в датасете, где мажоритарный класс превышает миноритарный более чем в 10 раз, неизбежно ведет к смещению границы принятия решения и ложному завышению точности (Accuracy). В реальных задачах компьютерного зрения игнорирование коэффициента недопредставленности приводит к тому, что модель игнорирует редкие, но критически важные объекты, выдавая 99% точности при полной слепоте к целевому классу.
Расчет коэффициента недопредставленности и критические пороги
Для количественной оценки дисбаланса используется Imbalance Ratio (IR), который рассчитывается как отношение количества экземпляров мажоритарного класса к миноритарному. В индустрии принято считать, что IR < 1.5 — это сбалансированный датасет, IR от 1.5 до 10 — умеренный дисбаланс, а IR > 10 — критический. Например, при подготовке данных для детекции дефектов на производстве, где брак встречается в 1% случаев (IR = 99), стандартная функция потерь Cross-Entropy заставит модель всегда предсказывать «норму», достигая точности 99% без какого-либо обучения.
Мой опыт показывает, что при IR > 5 модель начинает терять обобщающую способность на редких классах, даже если общий Loss падает. Экспертный вывод: ориентируйтесь на F1-score и Precision-Recall кривую вместо Accuracy, так как только они обнажают проблему недопредставленности.
Методы Oversampling: риски и эффективность
Простейший способ борьбы — дублирование изображений миноритарного класса (Random Oversampling) или генерация новых через SMOTE. Однако в изображениях обычный оверсэмплинг ведет к жесткому переобучению: модель запоминает конкретные пиксели редких образцов. Кейс: при увеличении выборки редкого класса с 100 до 1000 копий через дублирование, точность на валидации растет, но на реальных данных падает на 12-15% из-за переобучения.
Более эффективен синтетический подход с использованием аугментаций (повороты, изменение яркости, Mixup). Рекомендуемый диапазон увеличения выборки — до достижения IR < 3. Превышение этого порога часто приводит к тому, что мажоритарный класс начинает классифицироваться ошибочно. Вывод: используйте только геометрические и фотометрические трансформации, избегайте простого копирования файлов.
Undersampling и потеря ценной информации
Метод Undersampling предполагает удаление избыточных данных мажоритарного класса. Это оправдано только при огромных массивах (100к+ изображений), где удаление 20-30% данных не ведет к потере вариативности признаков. Если в датасете 5000 фото «кошек» и 50 «собак», удаление 4950 кошек уничтожит все признаки освещения, ракурсов и фонов, что обрушит точность всей системы.
Практика показывает, что Undersampling эффективен только в связке с кластеризацией: мы удаляем не случайные фото, а самые похожие друг на друга (дубликаты по хешу или эмбеддингам). Экспертный вывод: применять Undersampling только тогда, когда объем мажоритарного класса избыточен для памяти GPU и не несет новой семантической информации.
Весовые коэффициенты и модификация Loss-функций
Наиболее профессиональный метод — внедрение Class Weights в функцию потерь. Вес класса рассчитывается как $W_i = N / (C imes n_i)$, где $N$ — общее число образцов, $C$ — число классов, $n_i$ — число образцов в классе. Это заставляет нейросеть «штрафовать» себя сильнее за ошибку в редком классе. Например, при IR = 10 ошибка на миноритарном классе будет стоить в 10 раз дороже, чем на мажоритарном.
Альтернативой является Focal Loss, которая перераспределяет внимание модели с «легких» примеров на «сложные» за счет коэффициента γ (обычно γ=2). Это позволяет игнорировать уверенные предсказания мажоритарного класса. Вывод: для задач с высоким IR (> 10) Focal Loss работает стабильнее и быстрее сходится, чем ручной подбор весов.
Интеграция балансировки в жизненный цикл данных
Балансировка не должна быть разовым действием. Она встраивается в изображения для нейросетей: системный анализ жизненного цикла подготовки данных от сырого массива до готового тензора. Ошибка многих практиков — проводить балансировку до разбиения на train/test. Это приводит к утечке данных (Data Leakage), когда дубликаты одного и того же изображения попадают и в обучение, и в тест, создавая иллюзию идеального качества.
Правильный пайплайн: Split → Analysis of IR → Targeted Oversampling (только для train) → Validation. При таком подходе разрыв между точностью на тесте и в продакшене сокращается с типичных 20-30% до приемлемых 3-5%. Вывод: балансируйте только обучающую выборку; тестовая должна оставаться репрезентативной отражать реальный дисбаланс среды.
Вывод
Для борьбы с дисбалансом классов при IR < 3 используйте направленные аугментации. При IR от 3 до 10 — комбинируйте Undersampling дубликатов с Class Weights. При IR > 10 единственным надежным решением является Focal Loss в сочетании со строгим контролем Data Leakage. Избегайте простого дублирования картинок — это путь к переобучению и бесполезным метрикам. Начинайте с анализа F1-score и матрицы ошибок (Confusion Matrix), чтобы точно определить, какой класс «проседает», прежде чем менять архитектуру или объем данных.
Шире вопрос разобран в основной статье Современные методы распознавания текста и речи.