The impact of JPEG compression artifacts on YOLO-based object detection models: A comparative study of YOLOv5m, YOLOv8m, and YOLOv11m

Deep learning–based object detection systems are widely employed in various domains such as security, healthcare, mobile systems, and smart city infrastructures. The performance of these systems depends not only on the chosen architectures but also directly on the quality of the input data. Lossy compression formats such as JPEG can introduce visual distortions known as artifacts—especially at low quality levels—which significantly reduce detection accuracy and stability.
This study systematically investigates the effects of different JPEG compression quality levels (QF=30, QF=60, QF=90) on deep learning–based object detection models. For this purpose, three versions of the YOLO architecture (YOLOv5m, YOLOv8m, and YOLOv11m) were compared under identical data structures, parameters, and experimental conditions. During the revision process, the previously single-class dataset containing only the “person” category was extended to a multi-class dataset including “person,” “car,” “dog,” and “bicycle.” In addition, fine-tuning was performed on low-quality (QF=30) images to re-evaluate the robustness of the models.
Experimental analyses focused on standard evaluation metrics such as [email protected], [email protected]: 0.95, Precision, Recall, and FPS. The findings reveal that as JPEG quality decreases, all models experience performance degradation; however, fine-tuning significantly mitigates these losses. The YOLOv5m model demonstrated more stable performance on low-quality data, while YOLOv8m provided a balanced trade-off between accuracy and speed. YOLOv11m achieved the highest mAP values under high-quality conditions.
This study comparatively examines both earlier and recent YOLO architectures to provide a comprehensive evaluation of model robustness against compression-induced distortions. The obtained results contribute to enhancing the reliability of AI-based object detection systems operating on compressed images and to guiding future research in this field. The proposed comparative framework can be extended to other degradation types such as blur, noise, and motion for broader generalization.

Keywords: Deep Learning, JPEG Compression, Object Detection, Visual Artifacts, YOLO

JPEG sýkýþtýrma bozulmalarýnýn YOLO tabanlý nesne tespit modellerine etkisi: YOLOv5m, YOLOv8m ve YOLOv11m karþýlaþtýrmasý

Günümüzde güvenlik, saðlýk, mobil sistemler ve akýllý þehir altyapýlarý gibi birçok alanda yaygýn biçimde kullanýlan derin öðrenme tabanlý nesne tespiti sistemlerinin baþarýmý, yalnýzca mimari tercihlere deðil, ayný zamanda girdi verisinin kalitesine de doðrudan baðlýdýr. JPEG gibi kayýplý sýkýþtýrma formatlarý, özellikle düþük kalite seviyelerinde, görsellerde artefakt adý verilen bozulmalar oluþturarak tespit doðruluðunu önemli ölçüde düþürebilmektedir.
Bu çalýþma, farklý JPEG sýkýþtýrma kalite seviyelerinin (QF=30, QF=60, QF=90) derin öðrenme tabanlý nesne tespiti modelleri üzerindeki etkisini sistematik biçimde incelemektedir. Bu amaçla, YOLO mimarisine ait üç farklý sürüm ( YOLOv5m, YOLOv8m ve YOLOv11m ) ayný veri yapýsý, ayný parametreler ve ayný deneysel koþullar altýnda karþýlaþtýrýlmýþtýr. Revizyon sürecinde, yalnýzca “person” sýnýfýný içeren önceki tek sýnýflý yapý geniþletilerek “person”, “car”, “dog” ve “bicycle” sýnýflarýný içeren çok sýnýflý bir veri seti oluþturulmuþ; ayrýca düþük kaliteli (QF=30) görüntüler üzerinde fine-tuning iþlemi uygulanarak model dayanýklýlýðý yeniden deðerlendirilmiþtir.
Deneysel analizlerde [email protected], [email protected]: 0.95, Precision, Recall ve FPS deðerleri incelenmiþtir. Elde edilen bulgular, JPEG kalitesi azaldýkça tüm modellerde performans kayýplarý yaþandýðýný, ancak fine-tuning sonrasýnda bu kayýplarýn önemli ölçüde azaldýðýný göstermektedir. YOLOv5m modeli düþük kalite verilerde daha kararlý bir performans sergilerken, YOLOv8m doðruluk ve hýz arasýnda dengeli sonuçlar üretmiþtir. YOLOv11m ise yüksek kalite koþullarýnda en yüksek mAP deðerlerine ulaþmýþtýr.
Çalýþma hem eski hem de yeni nesil YOLO mimarilerini karþýlaþtýrmalý biçimde ele alarak, sýkýþtýrma kaynaklý bozulmalara karþý model dayanýklýlýðýný kapsamlý biçimde deðerlendirmektedir. Bu sonuçlar, sýkýþtýrýlmýþ görsellerle çalýþan yapay zekâ sistemlerinin güvenilirliðini artýrmaya yönelik gelecekteki çalýþmalar için yol gösterici niteliktedir. Önerilen karþýlaþtýrmalý yapý, bulanýklýk, gürültü ve hareket kaynaklý bozulmalar gibi diðer bozulma türlerine de geniþletilerek daha genel bir çerçevede deðerlendirilebilir.

Anahtar Kelimeler: Derin Öðrenme, JPEG Sýkýþtýrma, Nesne Algýlama, Görsel Bozulmalar, YOLO