Birkaç yıl önce Washington Üniversitesi'nden bir araştırma ekibinin eski ABD Başkanı Barack Obama'nın yüzünün dijital ortamda taklit edildiği bir videoyla gündeme gelen "deepfake" teknolojisi, geçtiğimiz günlerde bir TikTok kullanıcısının ünlü oyuncu Tom Cruise'un yüzünü kopyaladığı videoları yayınlamasıyla yeniden konuşulmaya başladı.
(TOM CRUISE VE DEEPFAKE)
SON DERECE GERÇEKÇİ
Mevcut bir görüntü veya videoda yer alan bir kişinin, yapay sinir ağları kullanarak bir başka kişinin görüntüsü ile değiştirildiği bir medya türü olarak tanımlanan "deepfake" teknolojisinin, Cruise videolarıyla birlikte son derece gerçekçi bir noktaya geldiği görüldü. Yapay zekâ yardımıyla bir kişinin görüntüsünün ve sesinin dijital ortamda oluşturulmasına imkân veren "deepfake" teknolojisi sunabileceği imkânların yanında bazı endişeleri de beraberinde getiriyor.
EĞİTİMDE KULLANILIYOR
Deepfake teknolojisinin belirli işkollarında maliyeti düşürebileceği ve erişilebilirliği arttırabileceği öngörülüyor. Londra merkezli Synthesia firması bu teknolojiyi, şirket içi eğitim videolarında kullanılmak üzere pazarlıyor. California Üniversitesi ise Soykırım Vakfı ile birlikte soykırımdan kurtulanları bu teknolojiyi ve tanık kayıtlarını kullanarak ziyaretçilerle bir araya getiriyor. Teknolojinin ilerleyen dönemde göstereceği gelişmeye bağlı olarak insanların kaybettikleri aile yakınları ile dijital ortamda konuşabilmesinin de mümkün olduğu düşünülüyor.
ENDİŞELER DE VAR
Öte yandan bu çığır açıcı teknolojinin ortaya çıkardığı soru işaretleri de mevcut. Özellikle politikacıların ve ünlülerin hiç söylemedikleri ya da yapmadıkları şeylerin taklit edilebilmesi ihtimali, büyük sorunların yaşanması endişesini doğuruyor.
O KADAR KOLAY DEĞİL
Deepfake videolarının yaratıcısı Chris Ume, bu tür videoların sahtekarlık için kullanılmasının o kadar kolay olmadığını belirtti. Örneğin Tom Cruise videolarında oyuncunun taklidini yapma konusunda son derece yetenekli ve ona hayli benzeyen bir 'taklitçisini' kullanmasının yanında yalnızca deepfake algoritmasını değil pek çok görsel efekt programını bir arada kullandığını açıkladı. Ume, videoyu iki ayda yaptığını söyledi.
GÜNEY KORE'DE HABER PROGRAMINDA DENENDİ
Birkaç ay önce, Güney Kore'de yaşayan milyonlarca izleyici, günlük haber bültenini izlemek için MBN kanalını açtı. Saat başında, sunucu Kim Joo-Ha her akşam olduğu gibi ekrandaydı ve her akşam olduğu gibi sıra ile haberleri aktarmaya başladı. Haberler de 2020 yılına uygun şekilde, Covid-19 salgını ve yürütülen mücadeleye ilişkindi. Ve fakat bu bülten, sıradan olmaktan çok uzaktı çünkü Kim Joo-Ha o anda ekranda değildi. Yerine 'deepfake' teknolojisi ile üretilmiş versiyonu haberleri aktarıyordu. Bilgisayarda üretilen bu 'sahte' sunucu, ses, mimik ve surat ifadelerini mükemmel bir şekilde kopyalamıştı.
İzleyicilere daha önce bu gösterinin yapılacağı uyarısı yapılmıştı. Sonrasında yapılan araştırma ise izleyicilerin farklı yorumları olduğunu gösterdi. Bazı kişiler, elde edilen gerçeklik karşısında şaşkınlıklarını dile getirirken bazıları da gerçek Kim Joo-Ha'nın işini kaybetme tehlikesi içinde olduğunu kaydetti.
MBN kanalı, bazı son dakika haberlerinde deepfake teknolojisini kullanmaya devam edeceklerini açıkladı. Bu teknolojiyi üretebilen şirketlerden Güney Koreli Moneybrain, Çin ve ABD'de yeni ortaklık imkanları için temaslar yapıldığını duyurdu.
Çoğu insanın aklında, deepfake teknolojisi denildiğinde ünlü isimlerle ilgili videolar geliyor. Geçen hafta, Tom Cruise'un tıpkısının yer aldığı sahte video TikTok uygulamasında yayınlandıktan sonra dünyada manşetlere çıktı.
Genel kullanımda olan deepfake ismi üzerindeki olumsuz çağrışımlara karşın (insanlar sahte kelimesi ile yan yana gelmek istemiyor), bu teknoloji giderek artan şekilde ticari amaçla kullanılıyor.
'BU, İÇERİK ÜRETİMİNİN GELECEĞİ'
Sektörel dilde, 'yapay zeka ile üretilmiş videolar' veya 'sentetik medya' adı ile anılan bu teknoloji, haber, eğlence ve eğitim alanlarında büyük ilgi görüyor. Bunda, teknolojinin her geçen gün daha fazla geliştirilmesinin de payı var.
Londra merkezli Synthesia firması bu teknolojiyi, şirket içi eğitim videolarında kullanılmak üzere pazarlıyor.
Firmanın kurucularından Victor Riparbelli, "Bu, içerik üretiminin geleceği" ifadesini kullanıyor.
Synthesia'nın sisteminde, farklı avatar seçenekleri bulunuyor ve bunlara söyletmek istediğiniz mesajı yazdığınızda karşılığını alabiliyorsunuz.
Riparbelli, küresel şirketlerin bu sayede, şirket için eğitimlerde kullanılmak üzere farklı dillerde videoları çok kolay şekilde hazırlayabileceğini söylüyor:
"Diyelim ki Kuzey Amerika'da 3 bin depo çalışanınız var. Bunlardan bazıları İngilizce konuşuyor ama bazıları İspanyolcaya daha hakim. Onlarla bilgi amaçlı iletişim kurmak istiyorsanız, dört sayfalık bir pdf dokümanını önlerine koymanız çok yararlı olmayacaktır. 3 dakikalık İngilizce ve İspanyolca bir video daha verimli olacaktır.
Eğer o videoların her birini çekmek zorunda olsanız bu hem maliyet hem iş yükü açısından zorlayıcı olur. Biz artık bunu, düşük bir masrafla ve metin yazmak için gereken süre kadar zamanda yapabiliyoruz. Bu, teknolojinin bugün nasıl kullanıldığını örneklendiriyor."
Ancak bir yapay zeka teknolojileri firması olan Veritone'un yöneticisi Chad Steelberg, kötü amaçlı deepfake kullanımı endişesi nedeniyle, meşru kullanım amacıyla yatırım yapacak firmaların da geri çekildiğini kaydediyor.
Deepfake'in sermaye yatırımı sektöründe olumsuz bir çağrışımı olduğunu söyleyen Steelberg, "Bu şirketlerin ve yatırımcıların bu teknolojinin üzerine atlamasını önlemiş olsa da bu algının kırılmaya başladığını görüyoruz" dedi.
Bir başka yapay zeka teknolojisi firması olan Modulate'in yöneticisi Mike Papas da, deepfake ve etik üzerine büyük tartışmaların yapıldığını ve insanların bunun üzerinde düşündüğünü vurguluyor.
Papas, yatırımcıların güveninin, teknolojinin etik kullanımı üzerine yapılan çalışmalarla arttığını söylüyor.
"DEEPFAKE HAKKINDA NE YAPMALI?"
Deepfake teknolojisi üzerine uzman olan hukuk profesörü Lilian Edwards ise konunun bir başka önemli açısına işaret ediyor; videoların haklarının kimde olduğu…
Edwards tespitini detaylandırıyor: "Eğer, aktör Steve McQueen veya rap yıldızı Tupac'ın böyle bir videoda kullanılması durumunda, ailenin bundan gelir kazanma hakkı olup olmadığına dair bir tartışma sürüyor. Bu şu anda ülkeden ülkeye değişiyor"
Virginia Üniversitesi'nde etik alanında çalışan bir profesör olan Deborah Johnson yakın zaman önce "Deepfake hakkında ne yapmalı?" isminde bir kitap kaleme aldı.
Ona göre, deepfake, kurumlara ve görsel tecrübeye olan güveni azaltan ve daha büyük bir problem olan 'yanlış bilgi üretimi' sorununun bir parçası.
"Artık gördüğümüze ve duyduğumuza güvenmiyoruz" diyen Deborah Johnson, deepfake teknolojisi kullanılan videoların, yayınlanmadan, sahte olduklarının belirtilmesi gerektiğini söylüyor. Johnson, bu şekilde izleyicilerin korunabileceğini belirtiyor.
Oxford Üniversitesi'nden profesör Sandra Wachter da deepfake teknolojisinin öne geçtiği düşüncesini dile getiriyor:
"Eğer geçen haftaki Tom Cruise videosunu izlediyseniz, bu teknolojinin ne kadar ilerlediğini görebilirsiniz. Dört sene önceki Obama videosundan çok daha gerçekçiydi.
"Bu teknolojiden çok fazla korkmamalıyız ve dengeli bir şekilde yaklaşmalıyız. Evet, intikam pornosu gibi kötü ve tehlikeli şeylere karşı yasalarımız olmalı. Ama örneğin hiciv ya da ifade özgürlüğü bağlamında üretilen deepfake videolara karşı da kategorik bir yasak getirmemeliyiz. Giderek artan şekilde ticari olarak kullanılmaları, geleceğe dair umut veriyor."
Yapay zeka ile üretilen videoların eğitim amaçlı kullanıldığı örneklerden biri California Üniversitesi, Soykırım Vakfı tarafından uygulamaya konuldu. Soykırımdan kurtulan 55 binden fazla kişinin tanıklığını barındıran vakıf, deepfake teknolojisi ile ziyaretçilerle ile kurtulanları bir araya getiriyor.
Tanıklığın Boyutları isimli proje ile ziyaretçilerin sorduğu sorulara, soykırımdan kurtulan ve daha önce röportaj yapılmış kişiler tarafından anlık yanıtlar verilmesi sağlanıyor.
Veritone'un yöneticisi Chad Steelberg, gelecekte bu teknoloji kullanarak torunların kaybettikleri aile yakınları ile konuşmasının sağlanabileceğini söylüyor ve devam ediyor: "Bu toplum anlamında çığır açıcı."
