Zararlı video içeriklerinin derin öğrenme teknikleri ile tespiti ve filtrelenmesi için bir yazılım aracı geliştirilmesi
Development of a software tool for detecting and filtering harmful video content with deep learning techniques
- Tez No: 805747
- Danışmanlar: DOÇ. DR. ASIM SİNAN YÜKSEL
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: Türkçe
- Üniversite: Süleyman Demirel Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: 93
Özet
21. yüzyılın başından beri internet, yaşamın hemen hemen her alanında kullanılmıştır. Bu dijital bağımlılığı ortaya çıkarmakta ve bu durumdan en çok etkilenen grup genç bireyler olmaktadır. Ayrıca pandemi kısıtlamaları nedeniyle gençler sosyal ağlarda ve video yayın platformlarında daha fazla zaman geçirirken, silah, bıçak gibi tehlikeli nesnelerin sansürsüz bir şekilde görüntülenmesi ruh sağlıklarını olumsuz etkileyebilecek önemli bir sorun haline gelmektedir. Dijital ortamlarda bulunan zararlı içerikleri sansürleyen politikalar sınırlı veya hiç yoktur. Ayrıca çocukların olumsuz etkilenmesine neden olabilecek açık içerikler, sigara, şiddet unsurları ve alkol içeren videolar da bulunmaktadır. Zararlı içeriklerin tespiti için anket çalışması düzenlenmiştir. Kullanıcılar sigara, alkol, şiddet unsurları ve açık içeriklerin videolar üzerinde sansürlenmesi gerektiğini belirtmişlerdir. Bu nedenle, zararlı içeriklerin gerçek zamanlı, otomatik olarak tespit edilmesini ve sansürlenmesini sağlayan sistemlere ihtiyaç duyulmaktadır. Bu sorunlara çözüm bulmak için, dijital platformlara kolayca entegre edilebilen özgün bir platform geliştirilmiştir. Bu platformda kullanılan eğitim modellerinin hiperparametre değerleri deneme-yanılma yoluyla belirlenmiş ve en yüksek başarı oranı sağlayan değerler tüm kategoriler için kullanılmıştır. Yüksek tespit doğruluğuna sahip derin öğrenme tekniklerine dayalı bir sansür sistemi olan DeepCens, boru hattı mimarisinin nesne tespit modellerine entegre edilmesi ile nesne algılama süresinin iyileştirilmesini sağlamaktadır. Kişiye özgü, dinamik sansürleme yapabilme ve gecikmesiz yayın akışı sağlaması ile sistem, kullanıcı tercihlerini baz alarak birden fazla kategori için gerçek zamanlı olarak zararlı içerik tespiti ve sansürleme yapabilmektedir. Bu çalışmada gerçek zamanlı performans elde etmek için farklı platformlara entegre edilebilen iki farklı boru hattı tabanlı yaklaşım önerilmiştir: Tek aşamalı sansür ve iki aşamalı sansür. Tek aşamalı sansür yöntemi görüntüler ve web kameralarında gerçek zamanlı sansür yapabilmektedir. Videolar üzerinde test edilen YOLO tabanlı derin öğrenme yöntemimiz, diğer nesne tespit algoritmalarına göre yaklaşık %58.6 daha hızlı çalışmaktadır. Videolarda oluşan süre kayıplarının düzeltilmesi için iki aşamalı sansür yöntemi önerilmiştir. Bu yöntem videolar üzerinde gerçek zamanlı sansür yapabilmektedir. İçerik bazında doğruluk oranları açık içerikler için %98.4, alkol için %97.1, sigara için %98.3 ve şiddet unsurları için %97.1'dir.
Özet (Çeviri)
Internet has been used in almost every area of life since the beginning of the 21st century. This has resulted in digital addiction, with the most affected group being young individuals. Furthermore, young people have started to spend more time on social networks and video streaming platforms because of pandemic restrictions and uncensored display of dangerous objects such as guns, knives became an important issue that can negatively affect their mental health. Policies to censor harmful content in these digital environments are limited or do not exist. Videos or images containing explicit content, cigarette, elements of violence and alcohol may negatively impact children. An online survey was conducted to identify harmful content. Users expressed the need for censorship of cigarette, alcohol, violence and explicit content in videos. Therefore, there is a demand for systems that can automatically and in real-time detect and censor harmful content. To address these issues, a novel platform was developed that can be easily integrated into digital platforms. The hyperparameter values of the training models used in this platform were determined through trial and error and the values that achieved the highest success rate were applied to all categories. DeepCens, a censorship system based on deep learning techniques with high detection accuracy, improves object detection time by integrating the pipeline architecture into object detection models. The system can provide personalized, dynamic censorship and real-time content detection and censorship for multiple categories based on user preferences. In this study, two different pipeline-based approaches that can be integrated into different platforms were proposed to achieve real-time performance: single-stage censorship and two-stage censorship. The single-stage censorship method can perform real-time censorship on images and web cameras. Our deep learning method based on YOLO, tested on videos, works approximately 58.6% faster than other object detection algorithms. The two-stage censorship method is proposed to address time delays in video processing and can perform real-time censorship on videos. The accuracy rates for specific content categories are 98.4% for explicit content, 97.1% for alcohol, 98.3% for cigarette and 97.1% for violence.
Benzer Tezler
- Dijital oyunlarda siber terörün yapay zekâ ile tespiti ve erişime engellenmesi
Detection and prevention of cyber terrorism in digital games using deep learning
AHMET EDİP ÇAPANOĞLU
Doktora
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolGazi ÜniversitesiAdli Bilişim Ana Bilim Dalı
DOÇ. DR. NURSEL YALÇIN
- Erken çocukluk dönemı̇ gelı̇şı̇mı̇ ı̇çı̇n ruby on raıls temellı vıdeo ve resım ı̇şleme uygulaması: babytube
Ruby on rails based video and image processing software for early childhood development: babytube
LEYLA KAPİ
Yüksek Lisans
Türkçe
2019
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolPamukkale ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
ÖĞR. GÖR. MERİÇ ÇETİN
- Çocuk ve tüketim kültürü açısından YouTube Kıds'in incelenmesi
Examination of YouTube Kids in terms of children and consumer culture
NAZLIGÜL KARAMAN
Yüksek Lisans
Türkçe
2024
Radyo-TelevizyonErciyes ÜniversitesiRadyo Televizyon ve Sinema Ana Bilim Dalı
DOÇ. DR. ÇİLEM TUĞBA KOÇ
- İtalya ve Türkiye'ye göç etmiş insanlarla ilgili Youtube video yorumlarında nefret söylemi: Karşılaştırmalı bir analiz
Hate speech in Youtube video comments related to people migrated from other countries to Italy and Turkey: A comparative analysis
RAHİME ÖZGÜN KEHYA
Yüksek Lisans
Türkçe
2018
Radyo-TelevizyonAnkara ÜniversitesiRadyo Televizyon ve Sinema Ana Bilim Dalı
DR. ÖĞR. ÜYESİ ENGİN SARI
- Technology acceptance of 3d food printers and 3d printed food in domestic environments
3 boyutlu gıda yazıcı ve 3 boyutlu baskı alınmış gıdaların ev ortamında teknoloji kabulü
SELVİNAZ NESİBE KAYA
Yüksek Lisans
İngilizce
2022
Endüstri Ürünleri Tasarımıİstanbul Teknik ÜniversitesiEndüstriyel Tasarım Ana Bilim Dalı
DR. ÖĞR. ÜYESİ KORAY GELMEZ