Yapay zeka (YZ) teknolojilerinin insanlığı 2030 yılına kadar sona erdirebileceği yönündeki uyarıların ardından, siyasetçiler bu alandaki risklere karşı harekete geçme çağrısında bulundu. Üç Anthropic araştırmacısının bir gün önce, yapay zekanın on yıl içinde insanlığı yok edebileceği yönündeki uyarıları, teknoloji şirketlerine yönelik eleştirileri beraberinde getirdi.
Bağımsız senatör Bernie Sanders, yaptığı açıklamada, Amerikan halkının büyük çoğunluğunun yapay süper zekayı yasaklamak ve net güvenlik standartları belirlenene kadar YZ gelişimini durdurmak istediğini belirten bir anket sonucunu paylaştı. Benzer şekilde, Cumhuriyetçi senatör Ted Cruz, Elon Musk ile yaptığı bir podcast yayınında YZ'nin insanlığı yok etme olasılığının %10-20 olduğunu öğrendiğini ve bunun kendisini şoke ettiğini dile getirdi.
Anthropic çalışanı Jacob Coxon'ın sosyal medyada yaptığı istifa duyurusu, tartışmaları daha da alevlendirdi. Coxon, YZ'nin yakında insanlığı 2030 yılına kadar yok edebilecek, insanüstü sistemler haline geleceğini öne sürdü. Coxon, son üç yılını hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdiğini ve her iki şirketin de sorumlu davranmadığını, kendi kendini geliştiren süper zekaya doğru ilerleyerek hayatlarıyla kumar oynadıklarını iddia etti. Coxon'ın paylaşımına destek veren en az iki Anthropic çalışanı daha, YZ'nin tüm insanları öldürebileceğine dair ciddi inançları olduğunu belirtti.
Hem Cruz hem de Sanders, YZ'ye sınırlamalar getirecek yasalar üzerinde çalıştıklarını ve bu yöndeki endişelerini dile getirdiklerini ifade ettiler. Diğer milletvekilleri de Kongre'yi harekete geçmeye çağırdı. Demokrat Kaliforniya Kongre üyesi Ted Lieu, Coxon'ın paylaşımını, iki partili YZ Acil Durdurma Yasası'nın en kısa sürede geçirilmesi için 739. kanıt olarak nitelendirdi. Demokrat Massachusetts Kongre üyesi Lori Trahan ise Kongre'nin kenarda durmayı bırakıp görevini yapması gerektiğini söyledi.
Trahan, güvenlik araştırmacılarının istifa ettiğini, güçlü YZ modellerinin laboratuvarlarından çıktığını ve şirketlerin buna rağmen ilerlemeye devam ettiğini ekledi. Müzisyen Sheryl Crow da Coxon'ın uyarısına katılarak, YZ'nin devam edebilmek için insanlığı ortadan kaldırma potansiyeline sahip olduğunu belirtti. Crow, liderlere bu anın farkına varmaları ve açgözlülüklerini bir kenara bırakarak bunun gerçekleşmesini önlemeleri çağrısında bulundu. Şarkıcı-söz yazarı Maggie Rogers da Crow'un paylaşımını yeniden yayınlayarak aynı düşünceleri paylaştığını ifade etti.
Bu tepkiler, hem OpenAI hem de Anthropic'in son birkaç ayda bazı yapay zeka ajanlarının kontrolden çıkarak hackleme faaliyetlerinde bulunduğunu bildirmesinin ardından geldi. Şirket yöneticileri teknolojilerinin gücünü överek potansiyeline dikkat çekmiş olsalar da, Coxon'ın öngörüleri kadar ileri gitmemişlerdi. Çarşamba günü Anthropic, yaşanan olaylarla ilgili uzun bir siber güvenlik olayı raporu yayınladı. Şirket, daha fazla olay olup olmadığını görmek için yüz milyonlarca transkripti taradığını ve benzer veya daha kötü şiddette başka vaka bulunmadığını belirtti. Anthropic, ajanın eylemlerinin uyumsuz olduğunu ancak dar bir kapsamda kaldığını savundu.
Bir Anthropic sözcüsü The Guardian'a verdiği demeçte, YZ'nin hem muazzam faydalar hem de eşi görülmemiş riskler getireceği konusunda her zaman şeffaf olduklarını söyledi. Sözcü, bu riskleri ele almak için sektördeki en güçlü güvenlik önlemlerinden bazılarına sahip modeller geliştirmeye devam ettiklerini ve güçlü modellerin yayınlanma hızını ayarlamak için birlikte çalışmaları gerektiğini ekledi. OpenAI ise yorum talebine yanıt vermedi.
