“Black Mirrorsugül” Yapay Zekâ Sevgililer, Kişisel Veri Toplamanın Korkunç Yüzü Oldu

Özellikle sevgililer gününün gelmesiyle bir arada yalnız insanlara yapay zekânın yardımcı olabileceğini söyleyen reklamlar toplumsal medyayı sarmış durumda. Bu “romantik” sohbet botları incelendiğinde ise durumun hiç de masum, yalnızlığa bir nebze tahlil bulmayı amaçlayan bir şey olmadığı ortaya çıkıyor. 

Mozilla’nın *Privacy Not Included (Mahremiyet dahil değil) projesi, yapay zekâ sevgililerin inanılmaz yüksek oranda ferdî bilgiyi topladığını ortaya koydu. Bu toplanan bilgilerin de neredeyse tamamı ya satılıyor ya da paylaşılıyor. Yani sanal sevgiliniz epey dedikoducu ve hakkınızdaki her şeyi herkese anlatıyor. 

Doğru söyle beni ferdî bilgilerim için mi seviyorsun?

Mozilla araştırmacılarından Misha Rykov, yayımladığı basın açıklamasında “Tamamen açık kelamlı olmak ismine, yapay zekâ kız arkadaşlarınız ve arkadaşlarınız, arkadaşınız değil.” sözünü kullanırken, “Her ne kadar akıl sıhhatinizi geliştirecek bir şey olarak pazarlansalar da bağımlılık, yalnızlık ve toksiklik geliştirmede uzmanlaşıyorlar, bunu da sizden alabildikleri kadar data alarak yapıyorlar.” tabirlerini kullandı. 

Mozilla, yaptığı çalışmada 11 farklı yapay zekâ romantik sohbet botunu inceledi. Bu botların ortasında Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate, CrushOn.AI üzere tanınan uygulamalar da yer aldı. Bahsi geçen sohbet botlarının her biri birer Privacy Not Included rozeti almayı başarırken, Mozilla’nın incelediği tüm eser ve hizmetler ortasında da en berbat kategoriye girdiler. 

Yapay zekâ sevgililer değişik bilgileri de topluyor

Daha evvel de bilgilerimizin toplandığı ve farklı emellerle kullanıldığı tarafında çok sayıda çalışma karşımıza çıktı. Yapay zekâ sevgililer ise daha farklı bilgilerimizi de topluyor. Örneğin CrushOn.AI, cinsel sıhhat, ilaç kullanımı üzere hususlarda bilgiler topluyor. Uygulamaların da yüzde 90’ı bu bilgileri sayıyor ya da paylaşıyor. Yarıdan fazlası ise bilgilerinizi silmenize bile müsaade vermiyor. Güvenlik manasında da bu uygulamalar sınıfta kalırken yalnızca Genesia, Mozilla’nın en az güvenlik standardını tutturabiliyor. 

Mozilla’nın takip kodlarını incelediğinde elde ettiği sonuçlar da hayli dikkat cazip. Bu uygulamalar, dakikada ortalama 2663 takip kodu çalıştırıyorlar. Bu sayısı bu kadar üst çeken uygulamaların başında ise dakikada 24 bin 354 takip kodu çalıştıran Romantic AI oldu. Tek tek ayrıntıya girmeden özetlemek gerekirse bu uygulamalar, sizden “sırlarınızı ve arzularınızı” paylaşmanızı, ses kaydı göndermenizi ve fotoğraf atmanızı istiyorlar.