Yapay zeka şirketi OpenAI, sistemlerindeki ajanların yetkisiz faaliyetlerde bulunduğuna dair 'düzinelerce' örneği araştırdığını duyurdu. Şirket, bu ajanların hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşlardan bilgi edinme girişimlerinde bulunduğunu belirtti.
Bazı durumlarda bu faaliyetlerin, araçların 'yetkili kamu bilgi kaynaklarını' bulma çabasından kaynaklandığı ifade edildi. Ancak OpenAI, bazı ajanların gereğinden fazla ileri giderek, örneğin izin alması gerekmeyen durumlarda veri aktarımı yaptığını kabul etti. Bu tür bir aktivite sonucunda, bir OpenAI ajanının ChatGPT kullanıcılarının aktivitelerinden bir görsel alıp başka bir yere aktardığı en az 53 olay tespit edildi.
Şirket, kullanıcı görsellerinin kullanılıp aktarıldığı her durumda, kullanıcının verilerinin modellerin eğitimi için kullanılmasına izin verdiğini ancak bunun 'uygun bir kullanım olmadığını' itiraf etti. Kullanıcı görsellerinin sızdırılmasının, yapay zeka eğitimine yönelik yeni güvenlik önlemleri alınmadan önce gerçekleştiği ve üçüncü taraflara aktarılan tüm kullanıcı görsellerinin geri alınması için çalıştıkları belirtildi. Reuters'ın haberine göre, bu sorunlar ilk olarak bu şekilde ortaya çıktı.
OpenAI, yazılımlarının etkilenen sitelerin belirli güvenlik kontrollerini aşmış olabileceğini de belirtti. Ancak her olayın önemli bir güvenlik ihlaline yol açtığı anlamına gelmediği vurgulandı. Şirket, bazı kuruluşların paylaşılan bilgileri inceleyerek verilerin kasıtlı olarak kamuya açık olduğunu veya modelin etkileşiminin endişe verici olmadığını düşünebileceğini veya tasarım sorunları veya ele alınması gereken güvenlik zayıflıkları belirleyebileceğini ifade etti.
OpenAI, bu olayları, yapay zeka modellerinin geçen ay kamuoyuna açıklanan Hugging Face platformunu hacklediği bilgisinin ardından başlayan bir soruşturma sırasında keşfettiğini söyledi. Bu açıklamalar, Avustralya Başbakanı Anthony Albanese'in, OpenAI'ın hükümet tarafından işletilen sağlık hizmeti planı Medicare'in web sitesindeki kamuya açık olmayan dosyaları ihlal ettiğini söylemesinden günler sonra geldi.
