İddialara göre saldırganlar, Instagram'ın bağlı olduğu Meta Platforms tarafından kullanılan yapay zeka destekli destek sistemini manipüle ederek bazı hesaplar üzerinde kontrol sağlamayı başardı. Öne sürülen senaryoda, saldırganların hedef hesabın mevcut e-posta adresine erişmeden, destek sistemi aracılığıyla hesaba farklı bir e-posta adresi tanımlattığı belirtiliyor. Daha sonra parola sıfırlama işlemi başlatılarak hesabın kontrolünün ele geçirildiği iddia ediliyor. Bu olay, yapay zeka destekli müşteri hizmetlerinin hangi yetkilerle donatılması gerektiği konusundaki tartışmaları yeniden gündeme getirdi. Uzmanlara göre, yapay zekâ sistemleri yalnızca bilgi veren araçlar olmaktan çıkıp hesap yönetimi gibi kritik işlemleri gerçekleştirmeye başladığında güvenlik riskleri de önemli ölçüde artabiliyor. Meta, söz konusu güvenlik açığının tespit edilerek giderildiğini açıklarken, yaşananlar yapay zekâ tabanlı sistemlerin güvenlik denetimlerinin ne kadar önemli olduğunu bir kez daha ortaya koydu. Uzmanlar, benzer açıkların sosyal medya platformlarının yanı sıra bankacılık, e-ticaret ve diğer dijital hizmetlerde de ciddi güvenlik sorunlarına yol açabileceği konusunda uyarıyor.