Sık sık silahlı ataklarla gündem olan ABD’de çok sayıda çocuk, okul baskınlarının kurbanı oluyor. Kişisel silahlanmada daha sıkı denetimlerin uygulanmasını isteyen aileler, artık The Shotline isimli bir uygulama ile hayatını kaybeden çocuklarının sesiyle senatörlere sıkıntılarını anlatmaya çalışıyor. Yapay zekânın oluşturduğu sesler, otomatik aramalarla senatörlere silahlanmanın denetim altına alınması davetinde bulunuyor.
Genç yetişkinlerden 10 yaşında çocuklara kadar altı kurbanın seslerinin yapay zekâ ile yine oluşturulduğu bu sistemde, şahıslar kendi adres kodlarını girerek temsilcilerinin aranmasını sağlıyor. Projenin mimarı olan Manuel ve Patricia Oliver çiftinin, 2018’de bir saldırıda hayatını kaybeden çocukları Joaquin’in sesinden temsilcilere gönderilen mesajda “Geri geldim zira ailem, sizi aramak için yapay zekâyı kullanarak sesimi yine oluşturdu. Benim üzere öbür kurbanlar da arayacak.” sözleri kullanılırken, ferdî silahlanmanın denetim edilmesi talep ediliyor.
6 kurbanın sesiyle bildiri gönderilebiliyor
Sesleri klonlamak için Oliver çifti ElevenLabs’ın ses klonlama teknolojisini kullanıyor. Bir mühlet evvel 80 milyon dolar yatırım alan ElevenLabs, yakın zamanda ABD Başkanı Biden’ın sesinin taklit edildiği bir karalama kampanyasında da gündeme gelmişti. Orada da kimi bireyler, ElevenLabs’ın programlarını kullanarak kampanyayı yürütmüştü. Firmanın geliştirdiği yapay zekâ, birkaç dakikalık ses kaydını kullanarak 12 lisanda konuşma oluşturabiliyor.
Öte yandan bu çalışma bir etik tartışmasını da beraberinde getirdi. Yapay zekâ üretimi sesler kullanılarak otomatik aramalar yapılması yasaklanmıştı, ElevenLabs ise insanların, izinlere ve haklara sahip olmaları durumunda ölmüş akrabalarının seslerini klonlamalarını sağlıyor. Ailelerin, çocuklarının sesleri üzerinde hak sahibi olup olmadığı ise tartışılıyor.