Nvidia'nın CEO'su Jensen Huang, yapay zekanın (YZ) insanlık için oluşturduğu tehditlere ilişkin artan endişelere karşılık, teknolojinin yeni versiyonlarının piyasaya sürülüp sürülmeyeceğine YZ şirketlerinin kendi yöneticilerinin karar vermesi gerektiğini belirtti.
Huang, 'Yeni yasalara veya düzenlemelere ihtiyacımız yok,' dedi. 'Şirketlerin inovasyon, hız ve güvenli ürünler arasında yanlış bir tercih yapmadığına karar vermesi gerekiyor.'
Nvidia, YZ hesaplama çiplerine olan yoğun talep sayesinde kârlarını artıran ve piyasa değeriyle dünyanın en büyük şirketi konumunda. Huang'ın YZ güvenliği konusundaki duruşu, teknolojinin insanlığı yok edebileceğine dair korkularını dile getiren YZ odaklı firmaların mevcut ve eski çalışanlarının görüşleriyle çelişiyor.
Geçen hafta yapay zeka firması Anthropic'ten ayrılan bir araştırmacının, YZ'nin kontrolsüz bırakılması halinde on yılın sonuna kadar tüm insanları öldürebileceğini iddia eden paylaşımı viral oldu. Diğer YZ yöneticileri ve uzmanları da bu görüşe katıldıklarını belirttiler. Ardından, hafta sonu Anthropic CEO'su Dario Amodei, tüm YZ gelişmelerinin hızının yavaşlatılması çağrısında bulunarak hükümetleri sektörü düzenlemeye davet etti.
Bu paylaşım, OpenAI CEO'su Sam Altman, Google DeepMind'ın kurucu ortağı Demis Hassabis ve sosyal medya sitesi X ile YZ asistanı Grok'un sahibi Elon Musk tarafından da desteklendi. Ancak bazı sektör figürleri, korkuların abartıldığını ve sektör için ilgi çekmek amacıyla kullanıldığını savundu.
Salı günü San Francisco'da düzenlenen bir Salesforce konferansında YZ'nin potansiyel tehlikelerine değinen Huang, mevcut gelişmeleri 'yeni bir sanayi devrimi' olarak nitelendirdi ancak YZ şirketlerinin kendilerini büyük ölçüde düzenlemelerine izin verilmesi gerektiğinde ısrar etti.
'Güvenlik her şeyden önemlidir. Ancak güvenlik bir mühendislik sorunudur,' diyen Huang, bir YZ şirketinin liderinin herhangi bir zamanda ürününe güven duymadığı takdirde onu piyasaya sürmemesi gerektiğini ekledi.
'Bu çok açık bir şey,' diyen Huang, 'Mümkün olduğunca hızlı ilerleyin, ancak herhangi bir zamanda kurumun kontrolü elinde tutmadığını hissederseniz, bir ara verin.' ifadelerini kullandı.
YZ yöneticilerinin kendilerini tamamen düzenlemelerine izin verme fikri, sektördeki bazı kişiler tarafından kötü bir fikir olarak değerlendirildi. Anthropic yöneticisi ve kurucu ortağı Jack Clark, Pazartesi günü BBC'ye yaptığı açıklamada, YZ'yi 'tamamen düzensiz bir endüstri' olarak bırakmanın 'muazzam risklerle zar atmak' olduğunu söyledi.
Yann LeCun'un başkanlık ettiği Logical Intelligence'ın iş geliştirme sorumlusu Patrick Hillman ise Salı günü, insanların teknoloji şirketlerine kamu yararına gerçek anlamda bir şey yapma konusunda ne kadar az güvendiğine dikkat çekti.
Hillman, 'Amerikalıların Washington'dan daha az güvenebileceği tek kurumun şu günlerde Silikon Vadisi olduğunu düşünüyorum. İkisinde de çalıştım ve yaşadım ve ikisinin de bu şüpheciliği hak ettiğini garanti ederim,' dedi. 'İnşa ettiğiniz şeyin tehlikeli olduğuna inanıyorsanız, yapmaya hazır olduğunuz neleri durduracağınızı bize gösterin,' diye ekledi.
OpenAI ve Anthropic liderleri, yakın zamanda güvenlik konusunda sektör çapında bir anlaşmaya varmak için çalışmaya başladıklarını belirtmişti. Amodei, Salı günü konferanstaki bir konuşmasında, Anthropic'in daha iyi güvenlik standartları ve YZ araçları ile geliştirme üzerindeki kontroller konusunda taahhütler hakkında sektörün geri kalanıyla 'bir diyalog' içinde olduğunu söyledi. Ayrıca YZ patlamasının en büyük sürprizlerinden birinin teknolojinin kendisinin nasıl geliştiği değil, daha geniş etkileri olduğunu da belirtti.
OpenAI yöneticisi Chris Lehane, geçen hafta şirketin de diğer YZ laboratuvarlarıyla birlikte 'gönüllü bir çaba şimdi, hükümet desteği olsun ya da olmasın, sınır YZ standartlarını ilerletmek için' çalıştığını söyledi. Bu laboratuvarlar arasında Anthropic ve Google Deepmind da bulunuyor.
Lehane, 'Riskler bu kadar yüksekken, mükemmel olanın iyinin düşmanı olmasına izin veremeyiz,' diye yazdı.
