Facebook'tan yapılan açıklamaya göre, sitede her gün milyonlarca fotoğraf ve video paylaşılıyor ve bu içeriklerin bazıları, kullanıcıları yanlış yönlendirmek amacıyla oluşturulmuş manipüle edilmiş içeriklerden oluşuyor.
Manipülasyonlar, Photoshop gibi basit teknolojilerin yanı sıra yapay zeka ve derin öğrenmenin kullanıldığı daha sofistike araçlarla da gerçekleştirilebiliyor.
Yapay zekanın kullanıldığı manipülasyon içeren ve "deepfake" olarak adlandırılan videolar az sayıda olmasına rağmen bu videoların artış ihtimali toplum açısından endişe oluşturuyor.
Açıklamada görüşlerine yer verilen Facebook Küresel Politika Yönetimi Başkan Yardımcısı Monika Bickert, manipülasyon içeren paylaşımlara yönelik çalışmalarda iş birliğinin önem taşıdığını vurgulayarak, "Bu konudaki politikamızı geliştirme ve manipüle edilmiş içerikleri tespit etme amacıyla 50'den fazla küresel uzmanla görüşmelerimizi sürdürüyoruz. Bu iş birlikleri sonucunda manipüle edilmiş videolara yönelik politikamızı güçlendirerek, belli kriterlere sahip videoları platformumuzdan kaldıracağız." ifadelerini kullandı.
2020 ABD BAŞKANLIK SEÇİMLERİ ÖNCESİ GELEN DÜZENLEME
Yanlış yönlendirme amacıyla düzenlenmiş veya yapay zeka, makine öğrenmesi gibi teknolojilerle birleştirme, kopyalama yaparak gerçek gibi gösterilmeye çalışılan videoların yeni politika kapsamında siteden kaldırılacağını aktaran Bickert, şunları kaydetti:
"Manipüle edilmiş içeriklere yönelik yeni politikamız, parodi, mizah amacıyla düzenlenmiş videoları etkilemeyecek. Seçmene baskı yapma, nefret söylemi gibi standartlarımızı ihlal eden içerikler, deepfake olsun ya da olmasın Facebook'tan kaldırılacak. Kriterlerimize uygun olmayan videoların tespit edilmesi aşamasında 40'dan fazla dilde 50'nin üzerinde üçüncü parti 'bilgi doğrulayıcı' partneriyle çalışmalarımızı yürütüyoruz. Eğer bir video ya da fotoğraf partnerlerimiz tarafından 'yalan' olarak işaretlenirse biz bu içeriğin yayılmasının önüne geçmek amacıyla kullanıcılarımızı uyarıyoruz.
Yalan içeriklerin önlenmesine yönelik geçen yıl eylül ayında 'Deep Fake Detection Challenge' projesini duyurduk. Microsoft, MIT gibi kurumların destek sağladığı bu girişim, deepfake tespitiyle ilgili araştırmaları artırma ve açık kaynak araçları oluşturma amacı taşıyor. Bunun yanı sıra haber organizasyonlarıyla iş birliğine giderek medyada yer alan video ve görüntülerdeki deepfake ve manipülatif içeriklerin belirlenmesine yönelik medya çalışanlarını bilgilendiren online eğitim kursları düzenliyoruz."
Bickert, manipüle edilmiş içeriklerin yanı sıra sahte hesaplara yönelik çalışmaların da devam ettiğini belirterek, iş birlikleri ve yeni politikalarla gerçek etki yaratan çözüm arayışlarına devam edeceklerini bildirdi.
Uzmanlar, seçim dönemlerinde yoğun olarak kullanılan deepfake videoları gibi manipüle edilmiş içerikleri kapsayan düzenlemenin, 2020'deki ABD başkanlık seçimlerine yönelik yapıldığını savunuyor.
DEEPFAKE NEDİR?
Son günlerin korkulu rüyalarından biri de Deepfake! Deepfake son zamanlarda dünyanın başına kabus gibi çöktü. Kötü niyetli kişiler sosyal medyada kullanılan fotoğrafları kullanarak istedikleri yüzleri hiç tahmin etmediğiniz uygunsuz fotoğraflara ekleyebiliyorlar.
'DEEPFAKE' VİDEOLAR NASIL YAPILIYOR?
Deepfake videolarının amatör yollarla yapılmış hallerini YouTube'da çokça bulabilirsiniz.
Bir kişinin dudak hareketleri ve mimiklerini öğrenmek için daha önceki görüntülerinden yararlanılıyor. Dudak hareketleri ve mimikler işleniyor. Makine öğrenme teknolojisi ve yapay zekadan faydalanarak ortaya o kişin bir algoritması konuluyor. Daha sonra taklitçinin ağız hareketleri ve mimikleri ne olursa olsun hepsi taklit edilmek istenen kişinin suratında beliriyor.
DERİN SAHTE
Video da Deep Fake yapan konuşmacı ABD eski başkanı Barack Obama'yı video da ki konuşmayı Obama yapıyormuş gibi gösterdi. Videoda ki bu sözler Obama'ya ait gibi görünsede bir aktörün yüz ifadeleri ve sözleri yapay zeka ile Obama'ya Transfer edilmiş.Kelimelerin Tükçe'de ki tam karşılığı derin sahte! Deep Fake ilkkez 2017 yılının kış aylarında ortaya çıkmıştı.