Yapay zekânın yaygınlaşmasıyla artık her gün görmeye başladığımız deepfake imgeler, ünlüleri taklit etmekten insanları dolandırmaya kadar birçok hususta kullanılabiliyor. Yakın vakitte Hong Kong’da yaşanan bir olay ise durumun ne kadar önemli boyutlara ulaşabileceğini gösteriyor.
Hong Kong’daki ismi açıklanmayan bir finans şirketinde yaşanan olayda bir çalışan, deepfake imgeler ile kandırıldı. Dolandırıcılar, yapay zekâyı kullanarak bir imajlı görüşmede şirket yöneticisi üzere davrandı ve milyonlarca dolar çaldı.
Toplantıdaki kişileri gerçek sanan çalışan, dolandırıcılara 25,6 milyon dolar gönderdi
Hong Kong polisinin aktardığına nazaran dolandırıcılar, şirketin Birleşik Krallık’taki CFO’su (Finansal İşler Müdürü) da dahil bazı yöneticiler olduklarını söyleyerek çalışana ulaştı. Akabinde da bir manzaralı görüşmeye girdi. Dolandırıcılar, bu görüşme sırasında deepfake imgeler kullanarak CFO ve başka yöneticiler üzere davrandılar. Başta kuşkulu olan çalışan, imgelerin geçersiz olduğunu anlayamadı ve onları hakikaten de yöneticileri sandı.
Dolandırıcılar, görüşme esnasında evvel çalışanın kendini tanıtmasını istediler. Sonrasında ise acil bir durum olduğunu söyleyerek 5 banka hesabına 25,6 milyon dolar göndermesini talep ettiler. O da görüşme bittikten sonra parayı gönderdi. Çalışan, 1 hafta sonrasında şirket içinde denetimler yaptığında durumun farkına vardı. Dolandırıcılar, muhtemelen bu yöneticilerin görüntü kliplerini kullanarak deepfake’leri oluşturabildi.
Polis, şu ana kadar olayla ilgili altı kişiyi tutukladıklarını açıkladı. Olaya karışanların, 2023’te 8 kimlik hırsızlığı yaptığı, 54 banka hesabı ve 90 kredi müracaatında bulunduğu ortaya çıktı. Ayrıyeten en az 20 defa yüz tanıma yazılımlarını kandırmak için deepfake imgeler kullandıkları da belirlendi.
Çalışanın karşısındaki insanların geçersiz olduklarını anlamaması deepfake manzaraların ne kadar gerçekçi ve tehlikeli bir hâle geldiğinin göstergesi. Yakın vakitte ünlü müzikçi Taylor Swift’in uydurma müstehcen imajlarının toplumsal medyada yayıldığını görmüştük. Yani bu şekil olaylar muhtemelen azalmadan devam edecek.