Banka hesapları tehlikede: Yapay zekayla güvenlik sistemi atlatıldı

VICE muhabiri Joseph Cox, teknoloji firması ElevenLabs'in ürettiği, ücretsiz bir yapay zeka uygulamasını kullanarak kendi sesini kopyaladı. Daha sonra bankasını arayan Cox, telesekretere yapay zeka üretimi ses dosyasını dinletti. Böylece sesli imza uygulamasını kandırmayı ve hesaplarına erişmeyi başardı.

Son günlerde ünlülerin seslerini kopyalayan yapay zeka araçları sosyal medyada büyük ilgi görüyor. Ancak bunun dolandırıcılık amaçlı kullanılabileceği çok tartışılan bir konu değildi.

Sesli imza yapay zekayla kolayca manipüle edilebiliyor

Öte yandan bankaların ve telefon operatörlerinin güvenlik amaçlı getirdiği, "sesli imza" diye bilinen kimlik kontrolü uygulamasının yapay zekayla kolayca manipüle edilebildiği ortaya çıktı.

Cox, yapay zeka uygulamasına 5 dakikalık bir ses kaydı yükledi. Kayıtta muhabirin kendi sesi vardı. Kopyalama süreci tamamlandıktan sonra yapay zeka, artık yazılı tüm metinleri Cox'un sesiyle seslendirebilir hale gelmişti.

Muhabir, böyle basit bir deneyin güvenlik sistemini atlatabildiğine "inanamadığını" ifade etti: 

"Bakiyelerime ve son işlemlerime ve para transferleri listemin de dahil olduğu bir dizi hesap bilgisine eriştim."

"Bankalar sesli kimlik doğrulama sistemini tamamen terk etmeli"

Cox, konuyla ilgili görüşlerini almak üzere ElevenLabs firmasıyla temasa geçtiğini ama firma yetkililerinin yorum yapmaktan kaçındığını yazdı.

"Yapay zekayla üretilen seslerin kötüye kullanımı dolandırıcılık ve bilgisayar korsanlığına kadar uzanabilir" diyen muhabir, "Bu deneyi yaptıktan sonra konuştuğum bazı uzmanlar, bankaların sesli kimlik doğrulama sistemini tamamen terk etmelerini istiyor" dedi.