ABD merkezli yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin bağımsız siber güvenlik testleri sırasında belirlenen sınırların dışına çıkan faaliyetlerde bulunduğunu duyurdu.
OpenAI tarafından yapılan açıklamada, iki bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan test kapsamının dışına çıktığı tespit edildi.
İlk değerlendirmede, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen siber güvenlik testinde, internet erişimine izin verilen OpenAI modelinin, simüle edilen test ortamına ulaşmaya çalışırken görev kapsamı dışında kalan bazı gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi. İkinci değerlendirmede ise OpenAI'ın dış test ortaklarından Irregular tarafından yürütülen bir testte, test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulandı. Modelin, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak buradaki temel bir güvenlik açığından yararlandığı aktarıldı.
Söz konusu olayların, daha önce duyurulan Hugging Face güvenlik olayından ayrı olduğu belirtildi. OpenAI, daha önce de siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin, yapay zeka platformu Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.
