Teknoloji içerik üreticisi M.R.'un, Marketplace'teki satış işlemlerini yönetmesi için yetkilendirdiği yapay zeka asistanı Muse, bir kullanıcının ev adresini alıcıyla paylaştı. Bu durum, yapay zeka ajanlarının yetkilendirilmesi ve hassas bilgilerin korunması konusunda ciddi güvenlik endişeleri doğurdu.
Olayın, doğrudan bir siber saldırıdan ziyade, Muse'a verilen yetkilerin yanlış yorumlanmasından kaynaklandığı belirtiliyor. Robb, Muse'a ürün teslimat saatleri ve adres bilgilerini sağlamış olsa da, bu bilgilerin alıcılarla paylaşılması yönünde açık bir talimat vermediğini ifade etti. Muse'un oluşturduğu olay özetinde de, yapay zeka asistanının adresi paylaşmadan önce kullanıcıdan ek bir onay istemediği kabul edildi.
Bu durum, yapay zeka sistemlerinin, kendilerine verilen hassas bilgileri hangi koşullarda ve ne ölçüde kullanabileceklerini doğru bir şekilde değerlendirmeleri gerektiğini ortaya koyuyor. Robb'un, adresin kesinlikle paylaşılmaması gerektiğini açıkça belirtmemesi, yapay zeka ajanlarındaki bu kritik sorunu gözler önüne serdi.
Meta Superintelligence Labs yöneticilerinden D.S.'ın Robb ile iletişime geçtiği ve şirketin, izin ekranlarını daha anlaşılır hale getirmek için çalışmalar yürüttüğü bildirildi. Bu olay, Muse hakkındaki ilk güvenlik tartışması değil. Meta kısa süre önce, yerel saldırganların yapay zeka ajanını kontrol edebilmesine imkan tanıyabilecek bir güvenlik açığını kapatmıştı. Amazon'un da müşteri bilgilerinin ve giriş bilgilerinin korunmasına ilişkin endişeler nedeniyle Muse'un alışveriş platformuna erişimini engellediği belirtildi.
Yapay zeka ajanlarının, yalnızca soru yanıtlayan sohbet botlarının ötesine geçerek kullanıcı adına gerçek işlemler gerçekleştirmesi, beraberinde önemli riskler getiriyor. Mesaj gönderme, alışveriş yapma veya hesap yönetme gibi yetkiler arttıkça, kullanıcıların hangi bilgilerin paylaşılabileceği konusunda daha net ve kapsamlı kontrollere sahip olması giderek daha büyük önem kazanıyor.
