Deepfake Nedir?

Deepfake Nedir? sorusunun ardında yapay zekanın en tartışmalı teknolojilerinden birini bulacaksınız.

Teknolojinin istila ettiği bu çağda siber saldırılar, insanların algılarına, kişilik haklarına ve itibarlarına yönelik tehditler silsilesi şeklinde güçlenmeye devam ediyor. Deepfake de gerçeği tespit etmeyi zorlaştıran doğasıyla, neye inanacağını şaşıran insanoğlunun yeni bir sınavı gibi.

Deepfake Ne Demek?

Adını yapay zekanın bir alt kümesi olan derin öğrenmeden (Deep Learnig) alan deepfake; sahte olanı gerçek gibi göstermek amacıyla videolar ve diğer dijital içeriklerdeki yüzleri, sesleri değiştirmek için kullanılan bir teknolojidir.

Çoğu insan, yapay zeka algoritmaları tarafından oluşturulmuş olabileceğini düşünmeden gördüğü video görüntülerine güvendiğinden, deepfake’in suç faaliyeti potansiyeli çok büyüktür.

Adli tıp uzmanları ve dijital görüntüleri analiz eden uzmanlar sahte – gerçek ayrımında çoğu zaman başarılı olsa da bu eşiği ayırt etmek giderek zorlaşmaktadır. Sosyal medya profillerinizin gizlilik ayarlarını önemsemek, tüm cihazlarınıza virüsten koruma yazılımı yüklemek ve yalnızca doğrulanmış kaynaklardan gelen içeriklere güvenmek gibi önlemler önerilmektedir çünkü manipüle edilmiş bir video veya ses dosyası ile ünlüler, şirketler, toplumlar ve devletler yıkıcı sonuçlarla karşılaşabilir.

Facebook, YouTube ve Twitter gibi büyük şirketler, günümüzde haber alma konusunda etkin platformlar olduğundan deepfake teknolojisinin getirebileceği tehdidi azaltma yolunda sahte içeriği belirleyip kaldırabilen dedektörler oluşturmak için önlemler almaya çalışmaktadır.

Blockchain’in dijital içerik parçaları üzerinde filigran oluşturmak için kullanılmasına yönelik adımlar da söz konusudur. Bu tip fligranlar sahte içeriği veya yanlış bilgileri hızla çürütmenin bir yolu olarak işe yarayabilir.

Deepfake’in Artıları

  • Deepfake ile bir video, yeniden çekime gerek kalmadan düzenlenebilir. Bir oyuncunun ölümü, film çekimine devam edilemeyeceği anlamına gelmez.
  • Yabancı diller için akıcılık ve ses konusunda orijinalinden ayırt edilemeyecek kusursuzluğa ulaşılabilir. Örneğin bir ünlünün sadece bir dilde yaptığı bir konuşma farklı dillerde de konuşmuş gibi gösterilebilir.
  • Deepfake, müzelerde ve sanat galerilerinde uygulandığında eğitim ve turizm açısından ilgi uyandırmaya yarayabilir.
  • Tıpta deepfake, AI’nın öğrenmesi için yeterince gerçekçi tıbbi görüntüler oluşturarak tıbbi durumları ve nadir hastalıkları tespit etmek için kullanılabilir. Sadece %10 gerçek veri ile algoritmayı yeni görüntülerde tümörleri tespit etmek için eğitme konusunda başarılar söz konusudur.

Deepfake’in Eksileri

  • Deepfake teknolojisinin getirdiği en büyük tehdit asılsız haber ve bilgilerin yayılmasına katkıda bulunmasıdır. Deepfake tarihi yeniden yazabilir, tarihi olayları çarpıtılabilir ve manipülasyonlara alet edilebilir. Pandemi sürecinde bu teknikle, COVID-19’un alkolün, aşırı sıcağın veya aşırı soğuğun koronavirüsü öldürdüğünü iddia eden ünlü doktorların seslerinin ve yüzlerinin yer aldığı sahte videolar oluşturulmuştur.
  • Siber suçlular, bu teknolojinin gücünü daha fazla kurbanı dolandırmak, kritik bilgileri çalmak veya bilgisayarlarına kötü amaçlı yazılım bulaştırmak için kullanabilir.
  • Siyaset söz konusu olduğunda da itibar kaybı ve şantaj amacıyla hazırlanan sahte videolar politikacıların imajını zedeleyebilir.
  • Gerçek ile yalan arasındaki çizginin bulanıklaşması için suçlamalar ve polisi – adaleti yanıltmaya yönelik durumlar oluşabilir. Sahte görüntüler ve videolar kişiler arası ilişkileri de mahvedebilir.

Deepfake Nasıl Çalışıyor?

Deepfake Nedir?, Deepfake Nasıl Çalışıyor?, Deepfake Ne Demek?
Deepfake teknolojisi ile yalanlar kusursuz gerçeklikte sunulabilir.

Bir kişiye ait yeteri kadar fotoğrafla derin öğrenme sistemi, kişinin yüzünün fizyonomisini anlayabilir ve herhangi bir açıdan herhangi bir ifadenin nasıl görüneceğini çözebilir. Bu görüntüler taklit edilen kişi ile aynı kıyafet giymiş biriyle manipülasyon amaçlı çekilen videoya eklendiğinde, yapay olarak oluşturulmuş yüz ifadeleri, dudak senkronizasyonu ve kafa hareketleri, video ile mükemmel bir şekilde eşleşir.

Deepfake teknolojisinin dayandığı makine öğrenimi ve yapay zeka, kişilerin her açıdan, farklı aydınlatma koşullarında ve farklı ortamlarında nasıl görüneceğini belirleyen yüzü oluşturmaya çalışır ve yeterli ses örneği olduğu sürece yapay sinir ağı eğitilebilir, sonuçta istediğiniz kişinin istediğiniz her şeyi söylemesi sağlanabilir. Ölmüş birisi için de bu mümkündür. Örneğin Bir İskoç şirketi olan CereProc, eski ABD başkanı John F. Kennedy’nin ses kayıtları üzerinde deepfake algoritmalarıyla çalışarak JFK’nin suikaste uğradığı tarihte Dallas’ta yapacağı konuşmanın ses kaydını oluşturabilmiştir.

Bir ünlünün ya da kamuya mal olmuş bir kişinin deepfake için kolay hedef olmasının nedeni, ünlülerin makine öğrenmesi ağının bir araya getirmek için ihtiyaç duyduğu her açıyı kapsayabilecek kadar çok fotoğraf ve videosunun bulunmasıdır.

Aslında deepfake videolar oluşturmak için bir kişiye ait videoların olmasına da ihtiyaç yoktur, yapay zeka yalnızca fotoğraflarla da sahte videolar oluşturabilir.

Birkaç yıl öncesine kadar deepfake, nihai sonucun gerçekçiliğini engelleyebilecek tüm detayların kusursuzlaştırılması için çok fazla süre ve konsantrasyon gerektiriyordu. Ancak makine öğrenmesindeki ilerlemelerle artık, kurbanın yalnızca tek bir resmi ve sesinin yalnızca beş saniyesi kullanılarak çok kısa bir sürede ikna edici sahte videolar oluşturulabiliyor.

Birçok kişinin sosyal medyada veya YouTube’da kendi video ve fotoğraflarını yayınlaması, sosyal platormlarda sesli mesajların yaygınlaşması da siber suçluların, hedefledikleri hemen hemen herkesin deepfake’ini oluşturmasını kolaylaştırıyor.

Deepfake Nasıl Oluşturulur?

Yüz değiştirme videosu oluşturmanın yollarından biri ilk aşamada iki kişinin yüzünün çok sayıda fotoğrafının, encoder olarak bilinen bir yapay zeka sistemi tarafından işlenmesidir. Encoder, resimleri sıkıştırırken, iki yüz arasındaki ortak noktaları belirler ve öğrenir, bunları ortak özelliklere indirger. Sonrasında bir decoder, sıkıştırılmış resimlerden yüzleri almak için eğitilir.

Deepfake oluşturmanın bir diğer yolu olan GAN‘da (generative adversarial network), iki yapay zeka algoritması karşı karşıya getirilir. GAN’lar, otomatik kodlayıcılara benzer bir tür sinir ağıdır. Yeterli döngü ve geri bildirim ile tamamen gerçekçi yüzler oluşturulabilir. GAN iki sinir ağına dayanır: biri video içeriğini oluştururken diğeri orijinalliğini değerlendirir.

Önceden standart bir bilgisayar kullanarak “derin sahtekarlık” yapmak çok zordu. Video ve ses manipülasyonu yapabilen sistemler pahalıydı ve uzmanlık gerektiriyordu. Çoğunlukla, çok güçlü grafik kartlarına sahip üst düzey masaüstü bilgisayarlarla veya bulutta bilgi işlem gücü kullanılarak deepfake oluşturulurdu. Ancak artık Hollywood kalitesinde olmasa da siber suçluların nispeten basit bir yazılım kullanarak ikna edici sonuçlara ulaşması zor değil.

Apple App Store veya Google Play’den indirilebilen bu uygulamalar sıradan bir gözlemcinin tamamen gerçek olarak algılayabileceği videoları hızlıca oluşturabilir. Söz konusu uygulamalar eğlence amaçlı olsa da deepfake’in aynı zamanda ölüm kalım etkisi de yaratabilecek yeni bir siber suç kategorisi haline gelmesi endişe yaratmaktadır.

Deepfake Nasıl Belirlenir?

Başlangıçta deepfake görüntülerin çoğunda insanların gözleri sürekli açık olarak gösteriliyordu, bu nedenle deep fake’i tespit etmek için bunun yeterli bir çözüm olduğu düşünülüyordu. Ancak göz kırpma özelliği eklenen görüntülerin oluşturulması çok uzun sürmedi.

Deepfake Nasıl Belirlenir?
Deepfake ile oluşturulan videolarda sahte – gerçek ayrımı giderek zorlaşmaktadır.

Düşük kaliteli deepfake görüntüleri tespit etmek tahmin edileceği üzere daha kolaydır. Dudak senkronizasyonunda uygunsuzluk ya da cilt tonu, ten rengi farklılıkları ipucu olabilir. Yüzlerin kenarlarında titreme, videoda sarsıntılı hareket olabilir. Saç gibi ince detaylarda da deepfake’in iyi sonuç vermesi zordur. Dişler, tutarsız aydınlatma ve iris yansımaları gibi olağandışı ışık efektlerine de rastlanabilir bu sahte videolarda.

Deepfake ses oluşturmak, videodan daha kolaydır ve onu tespit etmek daha zordur. Çünkü kusurlu ses kalitesi orijinal kayıtta mikrofon kalitesi eksikliğinden kaynaklanabilecek şekilde maskelenebilir.

Video tabanlı bir deepfake’e maruz kalırsanız dolaşımda olduğu sosyal platformla iletişime geçmeniz ve mümkün olduğunca hızlı bir şekilde gerçeği anlattığınız kendi video içeriğinizi en kısa sürede yayınlamanız önerilir.

Deepfake Neden Tehlikeli?

Deepfake Neden Tehlikeli?
Sosyal medya, TV ve her tür dijital platformda yer alan manipülatif videolara karşı uyanık olunmalıdır.

Videoları manipüle etme teknolojisi, 1990’larda Hollywood’da geliştirildi ancak o kadar pahalıydı ki, az sayıda film bundan yararlanabiliyordu. Video manipülasyonunda tekrarlayan bilişsel görevleri otomatikleştirmek için modern yapay zekadan yararlanılmasıyla bu tür videoların oluşturulması ucuz hale geldi.

Böylece yapay zeka, Hollywood filmlerinde hayal gücünü aşan dünyalar ve karakterler oluştururken siber suçlar için tehlikeli bir araca dönüşmüş oldu.

Gerçek gibi görünen manipüle edilmiş bir video, izleyicileri, videodaki kişilerin söylemedikleri veya yapmadıkları şeyleri söylediklerine inandırabilir.

Gerçeği kurgudan ayırmayı zorlaştıran, inandırıcı bir gerçekçilik düzeyine sahip bu videolar karşısında kurbanlar genellikle içeriğin veya mesajın gerçek olmadığını bilmediğinden deepfake dezenformasyonun yayılmasına hizmet eder.

Birinin görüntüsünü mevcut bir videoya veya görsele yerleştirmek film sektörü için yeni değildir, ancak son zamanlarda bu teknolojinin herkes tarafından erişilebilir hale gelmesi ve korkutucu şekillerde kullanılmaya başlanması düşündürücüdür. Deepfake için tasarlanmış mobil uygulamalarla, akıllı telefonu olan ve birkaç dakikası olan herkes sahte videolar oluşturabilir.

Mantıksız görünse de deepfake’in eğlence değeri, özellikle ünlülerin ve politikacıların deepfake videoları oluşturulduğunda, oldukça büyüktür. Bu teknolojiye sahip kişiler için çoğunlukla ilk temas noktası budur, ancak deepfake teknolojisi ile biyometrik tabanlı kimlik doğrulama sistemlerini atlatmak ya da sosyal medyada yayınlanan bir adet profil resmini alıp uygunsuz, pornografik içerik oluşturmak da ne yazık ki mümkündür.

Siber güvenlik uzmanları, dünya liderlerini, bu teknolojinin istismar edilmemesi ve insanlara zarar vermemesi için ciddi önlemler almaları konusunda uyarmaktadır.

Siber zorbalık ve siyasi dezenformasyona ek olarak, gelecekte deepfake’in kullanılabileceği bir başka olası alan da piyasa manipülasyonudur. Temmuz 2012’de bir Twitter mesajının Suriye Devlet Başkanı Beşar Esad’ın öldüğünü iddia etmesiyle ham petrol fiyatlarının varil başına 1 ABD dolarından fazla arttığı düşünülürse (Zero Hedge, 2020), deepfake videolarının nelere sebep olabileceğini tahmin etmek zor değildir. CEO’ların sansasyon yaratacak kabul edilemez bir açıklama yaptığını veya kabul edilemez eylemlerde bulunduğunu gösteren bir video, şirketlerin değerine zarar vermek için kullanılabilir. Böyle bir olaydan finansal piyasalar aracılığıyla yararlanmak mümkün olduğundan, daha sonra yanlış olduğu evrensel olarak kabul edilse bile, dezenformasyonun sıkıntılı sonuçlar doğurması oldukça muhtemeldir.

Bugün YouTube, TikTok gibi platformlardaki içerik oluşturucuları dikkat çekmek ve parasal teşvikler için dramatik veya şok edici videolar sunmaya itilmektedir. Bu nedenle, bu tür platformlarının düzenli kullanıcıları, manipülatif videolara karşı uyanık olmalıdır.

Özet

Deepfake, verileri işlemek için insan beyninin çalışmalarını taklit eden bir yapay zeka türü olan “derin öğrenme” kullanılarak sahte video veya ses klipleri oluşturmak anlamına gelir. Deepfake teknolojisi ile yalanların kusursuz gerçeklikte sunulması, siber zorbaların insanları mağdur etmek için bulduğu yeni bir tehdit türüdür. Bu teknolojinin birçok uygulaması mizahi amaçla veya iyi niyetle sunulsa da doğasında yanlış kullanım olasılığı barındırması düşündürücüdür.

Deepfake videolar, yapay zeka ve makine öğrenimi sayesinde daha sofistike ve üretilmesi daha kolay hale gelmiş ve geçmişte profesyonel özel efekt ekiplerinin ve dijital sanatçıların saatler veya günler süren çabalarını çok daha hızlı ve kolay bir şekilde uygulanabilir kılmıştır.

Mahremiyeti ihlal ettiği ve insanları manipüle etmek, taciz etmek ya da taklit etmek isteyenlerin elinde potansiyel olarak tehlikeli bir araca dönüşebildiği için, Deepfake nedir? sorusunun yanıtlarından yeni bir siber suç çağının başlamış olabileceği sonucu çıkarılabilir.

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Bunlar da İlginizi Çekebilir
Devamı
FTP Nedir?
Sitenizi oluşturmak ve dizinlerinize dosya yüklemek için kullanabileceğiniz, güvenli ve toplu dosya aktarımları yapmanızı sağlayan FTP hakkındaki açıklamalarımız burada!
Devamı
DNS Spoofing Nedir?
Geçtiğimiz yıl yeni keşfedilen SAD DNS saldırısı ile canlanmaya başlayan DNS spoofing saldırıları, neden tehlikeli?