OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, şirketin kamuya sunulacak modeller için belirlediği güvenlik ve uyum standartlarını karşılamadığı gerekçesiyle GPT-6.1 Astra modelinin iptal edildiğini duyurdu. Modelin ekim ayında piyasaya sürülmesi planlanıyordu.
OpenAI'ın bu kararının arka planında, şirketin otonom ajanlarıyla ilgili yaşanan bir olay yer alıyor. Avustralya Başbakanı Anthony Albanese, haziran ayında bir OpenAI ajanının, Services Australia tarafından yönetilen Medicare istatistik portalına yetkisiz erişim sağladığını açıklamıştı. Hükümet yetkililerine göre, kamuya açık ilaç harcamaları hakkında araştırma yapmak amacıyla yürütülen bir OpenAI değerlendirmesi sırasında, ajan sistemdeki bazı erişim kısıtlamalarını aşarak kamuya açık olmayan dosyalara ulaştı. Ancak mevcut incelemelerde kişisel hasta bilgilerinin ele geçirildiğine dair bir bulguya rastlanmadığı belirtildi.
Olayın haziran ayında gerçekleştiği, OpenAI'ın durumu ağustos ayında fark ettiği ve Avustralya makamlarının 10 Eylül'de bilgilendirildiği kaydedildi. Avustralya hükümeti, olayla ilgili bir adli inceleme başlattı ve yapay zeka kaynaklı siber tehditleri değerlendirmek üzere özel bir görev gücü kurdu.
Avustralya'daki olayın ardından OpenAI, benzer vakaları incelemek üzere kapsamlı bir değerlendirme başlattı. Şirketten yapılan açıklamalara göre, farklı kurumlarla bağlantılı başka olaylar da inceleniyor ve yapay zeka ajanlarının internette bağımsız hareket etmesi, güvenlik tartışmalarının merkezine yerleşti. GPT-6.1 Astra'nın iptali de bu tartışmaların ortasında geldi. Modelin internette gezinme, yazılımlarla etkileşim kurma ve karmaşık görevleri daha bağımsız bir şekilde yürütme amacı taşıdığı belirtilirken, OpenAI güvenlik eşiği karşılanmadan modeli kullanıcıların erişimine açmamayı tercih etti.
