Yapay zekâ öteki birçok teknolojik ihtilallerde olduğu üzere yararlarıyla birlikte ziyanlarını da hayatımıza sokacak. Görünüşe nazaran şimdilik buna hazırlıklı değil. Son gelen bilgiler yapay zekâ ile üretilen gerçekçi ses taklitlerinin dolandırıcılıkta kullanılmaya başlandığını bildiriyor. Washington Post’un aktardığına nazaran birkaç çift, kendilerini çeşitli nedenlerle yardım hasebiyle arayan çocuklarına para gönderdi, her hassas ailenin yapacağı üzere. Fakat farkında olmadıkları bir sorun vardı; Konuştukları kişi çocukları değil, bir yapay zekaydı.
Yapay zeka tarafından oluşturulmuş ses ile dolandırıcılık
Elbette ses tabanlı dolandırıcılık yeni bir şey değil. ABD Federal Ticaret Komitesi bilgileri, geçen yıl insanların arkadaş yahut aile üzere davranan hatalılar tarafından dolandırıldığına dair 36.000 raporun 5.100’den fazlasının telefonda gerçekleştiğini ortaya koyuyor. Bir kişinin sesini taklit etmek evvelden saatlerce süren ses keşifleri ile mümkün oluyordu. Ortaya çıkan eserlerin kusurları ise dikkatli şahıslar tarafından fark edilebiliyordu. Lakin artık yapay zeka ile oluşturulmuş ses taklitleri için sadece birkaç dakika kâfi. Aktarılanlara nazaran bir çift, çocuklarının sesini taklit eden dolandırıcılara 15.449 dolar gönderdi ve tek kurban kendileri değil. Örneğin Microsoft’un Vall-E aracı yalnızca 3 saniyelik ses klipleri ile epey gerçekçi ve dengeli ses taklitlerini mümkün kılıyor. Üstelik bu küçük ses klipinden farklı tonları (sinirli, heyecanlı vb.) bile üretebiliyor. Emsal bir araç olan ElevenLabs ise çok daha gerçekçi sesler üretebiliyor. Çabucak üstteki Twitter görüntüsünden aracın muvaffakiyetini görebilirsiniz.
Gelinen noktada bu tip dolandırıcılar yahut berbat kullanım için kapsamlı tedbirlerin alınması kaide üzere duruyor. Yalnızca dolandırıcılık olarak da görmemek gerek. Bu tip üretilmiş seslerle birleştirilmiş deepfake görüntüler bilhassa karmaşanın olduğu anlarda önemli sonuçlara neden olabilir. Bankaların ses tabanlı güvenlik özellikleri aşılabilir. Münasebetiyle toplumsal medya platformları kendilerine yüklenen görüntülerde yahut görsellerde yapay zekayı tespit eden araçlara yer verebilir. Halihazırda ChatGPT üzere metin üreten yapay zekâları tespit eden DetectGPT üzere modeller geliştiriliyor.
Yorumlar kapalı.