Yapay zekanın insanlığın varlığını tehdit edebileceği, siber saldırılar gerçekleştirebileceği ve milyonlarca insanın işini elinden alabileceği yönündeki kaygılar ABD’de teknoloji çevrelerinin dışına taşmaya başladı. Yapay zeka şirketi Anthropic’ten ayrılan araştırmacı Jacob Coxon’ın “kontrolden çıkan yapay zeka sistemlerinin medeniyeti yok edebileceği” yönündeki uyarısı yüz milyonlarca kişiye ulaşırken, konu ailelerin yemek masalarından kilise toplantılarına, şirket yönetimlerinden ABD Kongresi’ne kadar gündeme girdi.

The Wall Street Journal (WSJ), ABD’de uzun süredir teknoloji çevreleri ve internet platformlarında tartışılan yapay zekanın varoluşsal risklerinin artık toplumun çok daha geniş kesimlerinde endişe yaratmaya başladığını yazdı.

Bu değişimde Anthropic’ten ayrılan araştırmacı Jacob Coxon’ın yapay zekanın insanlık için oluşturabileceği tehlikelere ilişkin açıklamaları önemli rol oynadı. Coxon ve bir başka Anthropic çalışanının paylaşımları yüz milyonlarca görüntülenmeye ulaştı. 

“Ne oluyor?”

ABD Temsilciler Meclisi üyesi Demokrat Josh Gottheimer, New Jersey’de kızının çim hokeyi maçını izlediği sırada iki ebeveynin yanına gelerek yapay zeka konusunda endişelerini dile getirdiğini ve kendisine “Ne oluyor?” diye sorduğunu anlattı.

Microsoft’un eski yöneticilerinden olan ve Temsilciler Meclisi’ndeki yapay zeka komisyonunun eş başkanlığını yürüten Gottheimer, teknoloji üzerindeki denetimin artırılmasını amaçlayan yasa tasarıları da sundu.

Gottheimer’a göre insanların kendisine gönderdiği mesajlar, yapay zekanın insanlığın sonunu getirebileceğine ilişkin kaygının çok arttığını gösteriyor. 

Gözetleme kameraları, siber saldırılar ve işsizlik korkusu

Toplumsal tepkinin yalnızca Coxon’ın açıklamalarıyla başlamadığına dikkat çekiliyor.

ABD’de yapay zeka destekli Flock Safety gözetleme kameralarının hızla yaygınlaşmasına yönelik tepkiler yaz aylarında güçlenirken, OpenAI’ın Hugging Face’e yönelik otonom siber saldırısına ilişkin ayrıntıların kamuoyuna yansıması da kaygıları artırdı.

Bunlara yapay zeka veri merkezlerine yönelik tepkiler ve teknolojinin geniş çaplı iş kayıplarına yol açabileceğine ilişkin endişeler eklendi. Coxon’ın açıklamaları ise aylardır biriken bu kaygıları çok daha geniş bir toplumsal tartışmaya dönüştürdü. 

Jimmy Kimmel’den Matt Damon’a tartışmaya katıldılar

Yapay zeka korkusu ABD’nin popüler kültürüne de taşındı.

Televizyon sunucusu Jimmy Kimmel, konunun neden daha ciddi biçimde ele alınmadığını sorgularken; oyuncu Matt Damon, şarkı yazarı Maggie Rogers ve şarkıcı Sheryl Crow da tartışmaya katıldı.

Crow sosyal medya paylaşımında, siyasi liderlerin ekonomik çıkarları gelecek kuşakların güvenliğinin önüne koyduğunu savundu. 

İlginin boyutunu gösteren gelişmelerden biri Wikipedia’da yaşandı. Yapay zekanın varoluşsal risklerini anlatan Wikipedia maddesinin görüntülenme sayısı 10 kattan fazla artarak rekor kırdı.

Uzun yıllardır yapay zekanın insanlığın yok oluşuna yol açabileceğini savunan araştırmacı Nate Soares ise “If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All” (“Eğer Biri Onu İnşa Ederse, Herkes Ölür: İnsanüstü Yapay Zeka Neden Hepimizi Öldürür?” adlı kitabının yalnızca çarşamba günü, normalde bir haftada sattığından daha fazla sattığını söyledi. 

Uzmanların çoğu “insanlığın yok olması” görüşünü paylaşmıyor

Bununla birlikte WSJ, yapay zekanın insanlığın tamamen yok olmasına neden olacağı görüşünün sektör uzmanları arasında hâlâ marjinal bir görüş olduğunun altını çiziyor.

Yapay zekanın teorik olarak insanlığı yok edebilecek kapasiteye ulaşabileceğini düşünen bazı uzmanlar dahi bunun gerçekleşme olasılığını düşük görüyor ve gerekli önlemlerle riskin engellenebileceğini savunuyor.

Anthropic ve OpenAI ise yapay zeka güvenliğini ciddi biçimde ele aldıklarını ve devlet düzenlemelerine yönelik çağrılarının samimi olduğunu belirtiyor. 
Kiliselerde bile yapay zeka konuşuluyor

Tartışmanın ulaştığı noktalardan biri de dini topluluklar.

Miami’de bir kilisenin İncil çalışma toplantısında Rahip Christopher Benek, cemaat üyelerinden yapay zekayla ilgili çok sayıda soru aldığını söyledi.
Benek’e göre insanların algısındaki değişikliğin nedeni, konunun artık münferit teknoloji tartışmaları olmaktan çıkarak hemen her yerde karşılarına çıkması.

ABD Başkan Yardımcısı JD Vance de yakın zamanda yapay zeka sistemlerinin kullanıcılarıyla aşırı derecede aynı fikirde olma eğilimini “bir tür şeytani” olarak nitelendirerek tartışmaya katılmıştı. 

Şirketler risk yönetim sistemlerini yeniden gözden geçiriyor

Kaygıların Amerikan şirketlerine de yayıldığı belirtiliyor. Danışmanlık şirketi Section’ın yapay zeka yöneticisi Michael Domanic, şirket yöneticilerinin çalışanlardaki yapay zeka korkusunun teknolojinin kurum içinde benimsenmesini nasıl etkileyeceğini düşünmeye başladığını söyledi.

Pew Research Center verilerine göre ABD’li yetişkinlerin yaklaşık yarısı 2026’nın başı itibarıyla hayatlarının bir döneminde sohbet robotlarını kullandı. Bu oran 2024’e kıyasla yaklaşık yüzde 50 artış anlamına geliyor. 

Tıbbi cihaz üreticileri için yazılım geliştiren Ketryx’in CEO’su Erez Kaminski, müşterilerinin yaklaşık yarısının hafta boyunca yapılan görüşmelerde yapay zeka konusundaki endişelerini dile getirdiğini söyledi.

Şirket çalışanları da yanlış bir ilacın hastaya enjekte edilmesi veya merkezi bir veri tabanının hacklenmesi gibi riskleri dikkate alarak mevcut risk yönetim sistemlerini yeniden gözden geçirme kararı aldı. 

“Yemek masasındaki tartışma yönetim kurulu gündemine dönüşür”

Siber güvenlik şirketi Quest Software’ın Ürün Başkan Yardımcısı Rakesh Shah da Anthropic çalışanlarının açıklamaları ve Hugging Face saldırısının müşterilerin yaklaşımını değiştirdiğini belirtti.

Shah’a göre şirketler artık “saldırıya uğramayacaklarını” varsaymak yerine, hackleneceklerini kabul ederek saldırı sonrasında nasıl hareket edeceklerine hazırlanmaya başladı.

Shah, 80’li yaşlarındaki anne ve babasının bile kendisine yapay zekanın güvenlik risklerini sorduğunu, çocuklarının ise ailece yemek yerken bir “Matrix dünyasının” yaklaşıp yaklaşmadığını tartıştığını anlattı.

Shah, yapay zeka üzerinde insan kontrolünün korunmasının önemini vurgulayarak, bir mesele yemek masasında konuşulmaya başladığında şirketlerin yönetim kurullarının da gündemine gireceğini söyledi. 

Yapay zeka güvenliği araştırmalarına ilgi arttı

Yaşanan gelişmeler yapay zeka güvenliği alanında çalışan kuruluşlara ilgiyi de artırdı.

Palisade Research İcra Direktörü ve Anthropic’in eski güvenlik danışmanı Jeffrey Ladish, kuruluşun normalde ağırlıklı olarak kurumsal hibelerle finanse edilmesine rağmen çarşamba ve perşembe günleri bireysel bağışlarda sıra dışı bir artış yaşandığını söyledi. Bağışlardan biri 40 bin dolara ulaştı. 

Teknoloji yöneticileri aynı ölçüde endişeli değil

Ancak teknoloji dünyasının tamamında benzer bir panik havası bulunmuyor.

Yatırımcı ve teknoloji şirketleri yöneticilerine danışmanlık yapan Sean Byrnes, şirket yöneticilerinin yapay zekanın yaptığı hataları yakından gördükleri için teknolojinin insanlığın varlığını tehdit edeceği düşüncesini uzak bir ihtimal olarak değerlendirdiklerini söyledi.

Byrnes, San Francisco Körfez Bölgesi’ndeki bir etkinlikte görüştüğü yaklaşık 12 CEO’dan hiçbirinin yapay zekanın insanlığı tehdit edeceği görüşünü ciddi bulmadığını aktardı. 

Trump yönetimi ve teknoloji sektöründeki bazı isimler ise yapay zeka risklerine odaklanan sivil toplum kuruluşlarının Coxon’ın ayrılışını ve açıklamalarını Washington’da daha sıkı düzenlemeler sağlamak amacıyla büyüttüğünü öne sürdü.

Coxon bu iddiayı reddederek, benzer nedenlerle yapay zeka şirketlerinden ayrılan kişilerle görüştüğünü ancak Anthropic’ten ayrılma kararının tamamen kendisine ait olduğunu söyledi. Açıklamalarının yarattığı büyük tepkiye kendisinin de şaşırdığını belirtti. 

Anthropic şirketinin patronu Dario Amodei'den yapay zekanın gelişim hızının yavaşlatılması çağrısı

Son olarak Anthropic şirketinin patronu Dario Amodei, 12 Eylül Cumartesi günü, yapay zekanın gelişim hızının yavaşlatılması çağrısında bulunarak, evriminin daha iyi kontrol edilmesinin gerekliliğine değindi. Yapay zekanın, “bir sonraki nesil yapay zekayı geliştirme yeteneği” de dahil olmak üzere “olağanüstü derecede hızlı” ilerlediğine dikkat çekti.

Dario Amodei, bugün yayımladığı makalede yapay zekanın geliştirilmesinin durdurulmasının söz konusu olmadığını ancak teknolojiyle bağlantılı risklerin “ciddi” olduğunu ve şirketler ile hükümetlere bu riskleri ele alabilmeleri için zaman tanınması gerektiğini söyledi.

Amodei, yapay zeka modellerinin geliştirilme sürecinde bağımsız biçimde izlenmesi, sektör genelinde düzenlemeler yapılması ve küresel düzenlemelerin hayata geçirilmesini içeren üç maddelik bir plan önerdi. 

“Yavaşlamanın, modeller kritik yetenek düzeylerine ulaşmadan önce bize yalnızca bir veya iki yıl fazladan zaman kazandırması ve bu süreyi uyum çalışmalarını ilerletmek için kullanmamız halinde bile ciddi biçimde yanlış gidebilecek bir şeyin riskini büyük ölçüde azaltabileceğimize inanıyorum” dedi.

"Teknolojinin otoriter ülkelerdeki şirketlerle paylaşılmasını engelleyecek önlemler alınmalı"

Amodei’ye göre bunun, “ticari avantajdan veya ABD’nin yapay zeka alanındaki liderliğinden vazgeçmeden” koordineli biçimde yapılması gerekiyor. Çin’in öne geçmesine fırsat vermemek için herhangi bir yavaşlamanın sınırlı olması gerektiğini söyledi.

Amodei ayrıca ABD hükümetine, ABD şirketlerinin yapay zeka çiplerinin Çin’e satılmasını veya bu teknolojinin otoriter ülkelerle paylaşılmasını engelleyecek önlemler alma çağrısında bulundu.

Kaynaklar: WSJ - Reuters