Duyduğunuz şey gerçek olmayabilir: Yapay zeka ses aracı kötüye kullanılmaya başlandı

Yapay zeka tarafından üretilen ses girişimleri internet trollerinin oyunu haline gelmesi sadece an meselesiydi. Eski Google ve Palantir çalışanları tarafından kurulan yapay zeka tabanlı konuşma girişimi ElevenLabs’in beta sürümü kötü kullanım ile gündemde.

4chan üyeleri, Emma Watson, Joe Rogan ve diğer ünlü isimlerin ırkçı, transfobik ve şiddet içeren şeyler söyleyen sahte seslerini yapmak için ElevenLabs’i kullandı. Şirket kısa bir süre önce Twitter’dan açıklama yaparak “ses klonlamanın kötüye kullanılması vakalarının sayısında artış” yaşandığını ve ek güvenlik önlemleri uygulayarak sorunu çözmeye çalıştıklarını bildirdi.

Ünlülerin oluşturulmuş sahte sesleri ırkçı söylemlerde kullanıldı

4chan’a yüklenen klipler genel olarak ünlüleri konu alıyor ancak oluşturulan seslerin yüksek kalitesi ve insanların bunları oluşturmadaki bariz kolaylığı göz önüne alındığında “deepfake” ses kliplerinin riskleri henüz yolun başında. ElevenLabs’in beta aracını kullanarak oluşturulan ses kliplerinde ünlü oyuncu Emma Watson‘a birebir benzeyen oluşturulmuş bir ses Mein Kampf’tan (Kavgam) bir bölüm okuyor. Bir başka örnekte Ben Shapiro’ya çok benzeyen bir ses ırkçı sözler söylüyor. Başka bir örnekte ise Rick & Morty’deki Rick Sanchez’in Morty’ye yönelik şiddet söylemleri bulunuyor. (Rick & Morty’yi seslendiren Justin Roiland, yakın zamanda ağır aile içi şiddet ile suçlanmıştı)

Klipler zararsızdan şiddete, transfobikten homofobiye ve ırkçılığa kadar geniş bir yelpazede yer alıyor. Çok çeşitli klipleri içeren bir 4chan gönderisi, ElevenLabs’in beta sürümüne bir bağlantı da içeriyordu, bu da ElevenLabs’ın yazılımının sesleri oluşturmak için kullanılmış olabileceğini düşündürüyor. ElevenLabs, resmi web sitesinde hem “konuşma sentezi” hem de “ses klonlama” özellikleri sunuyor. Ses klonlama için ElevenLabs, bir dakikadan daha uzun olan temiz bir örnek kayıt ile ilgili sesin klonunu oluşturuyor.

İnternette gördüklerimize ve duyduklarımıza inanmak daha da zorlaşıyor

Belki de “deepfake” ses kliplerinin bu ortaya çıkışı sürpriz olmamalı, çünkü birkaç yıl önce benzer bir fenomenin gerçekleştiğini gördük. Yapay zeka ve makine öğrenimindeki gelişmeler ünlülerin sahte videolarının üretilmesinde kullanılmıştı.

Sahte videolar, sahte sesler sahte mimikler derken internette gördüğümüz ve duyduğumuz şeyler giderek gerçeklikten uzaklaşıyor. Elbette bu teknolojiler bu amaçlar için geliştirilmiyor. Örneğin ElevenLabs resmi web sitesinde, sesli haber bültenleri, sesli kitap okuma ve video gibi hedef kullanım alanlarından bahsediyor. Geldiğimiz noktada ise akıllara Edgar Allan Poe’nun “Gördüklerinizin yalnızca yarısına inanın, duyduklarınızın hiçbirine.” söylemi geliyor.

Yorum yapın

şişli escort
bursa escort kocaeli escort izmit escort escort bursa ankara escort pendik escort tuzla escort
istanbul escort bağcılar escort bahçelievler escort bursa escort bursa merkez escort bursa ucuz escort
izmit escort kocaeli escort
bursa escort görükle escort
görükle escort bursa escort bayan bursa merkez escort bursa sınırsız escort bursa otele gelen escort
şişli escort mecidiyeköy escort istanbul travesti escort
şişli bayan escort mecidiyeköy escort gorukle escort bursa escort altıparmak escort
escort ankara
bursa escort bursa escort bursa escort bayan bursa escort görükle escort bursa escort bayan bursa ucuz escort beşiktaş escort halkalı escort bakırköy escort