Başta TikTok ve Instagram gibi platformlarda yayılan bu içerikler, jinekolog, diyetisyen veya doktor gibi görünen avatarlarla sahte tedavi ve takviye ürünlerini pazarlıyor. Özellikle Latin Amerika’da tespit edilen bu kampanyalarda, yapay zekâ ile üretilmiş karakterler otorite havasıyla konuşarak, kullanıcıları gerçek dışı vaatlerle alışverişe yönlendiriyor. Videolarda çoğu zaman köşede görünen bir avatar, sağlıkla ilgili sözde “ipuçları” veriyor ve ardından belirli ürünlere yönlendirme yapılıyor.

Profillerde gerçek uzman kimliği izlenimi yaratılırken, bazı içeriklerde ise tanınmış doktorların kimlikleri doğrudan kopyalanıyor. Deepfake teknolojisinin bu şekilde kullanımı yalnızca etik dışı olmakla kalmıyor, aynı zamanda ciddi sağlık risklerini de beraberinde getiriyor.

Yasal yapay zekâ araçları kullanılarak üretilen bu sahte içerikler, kötü niyetli kişilerce manipülasyon amacıyla hızla çoğaltılabiliyor. ESET uzmanları, bazı videoların doğrudan TikTok'un avatar kitaplığından türetildiğini ve platform kurallarının ihlal edildiğini belirtiyor.

Bu tür içeriklerin fark edilmesi ise her geçen gün zorlaşıyor. Videolarda dikkat edilmesi gereken detaylar arasında dudak senkron sorunları, donuk yüz ifadeleri, robotik sesler ve görsel bozulmalar yer alıyor. Ayrıca düşük takipçili veya geçmişi olmayan profillerin paylaştığı, abartılı vaatlerde bulunan videolara karşı kullanıcıların temkinli olması gerekiyor.

ESET, kullanıcıları bu tarz içerikleri izlerken sorgulayıcı olmaya, doğruluğu kanıtlanmamış hiçbir bilgiyi paylaşmamaya ve şüpheli profilleri ilgili platformlara bildirmeye çağırıyor.