Yapay zeka sektöründe hız, rekabet ve güvenlik tartışmaları yeni bir aşamaya taşındı. Google Gemini ve ChatGPT’nin rakiplerinden Claude’u geliştiren Anthropic, yayımladığı yeni değerlendirmede, en gelişmiş yapay zeka modellerinin ilerleme hızına ilişkin dikkat çekici bir uyarıda bulundu.
Şirket, yapay zeka sistemlerinin çok hızlı geliştiğini, bu nedenle toplumların, düzenleyici kurumların ve güvenlik araştırmalarının teknolojinin hızına yetişebilmesi için küresel ölçekte yavaşlama ya da geçici duraklama seçeneğinin tartışılması gerektiğini bildirdi.
“GELİŞTİRMEYİ YAVAŞLATMA SEÇENEĞİ DÜNYA İÇİN İYİ OLABİLİR”
Anthropic’in iç araştırma enstitüsünün başındaki Marina Favaro ile şirketin kurucularından Jack Clark tarafından kaleme alınan değerlendirmede, küresel yapay zeka geliştirme hızını yavaşlatabilme kapasitesinin “dünya için iyi bir seçenek” olabileceği belirtildi.
Şirket, bunun tek taraflı bir duraklama değil, önde gelen yapay zeka laboratuvarları arasında küresel bir anlaşmayla ve doğrulanabilir mekanizmalarla yapılması gerektiğini savundu.
Anthropic’e göre amaç, teknolojinin tümüyle durdurulması değil; toplumsal yapılar, güvenlik araştırmaları ve uyum çalışmaları yeterince olgunlaşmadan daha güçlü sistemlerin kontrolsüz biçimde devreye girmesini önlemek.
“KENDİ KENDİNİ GELİŞTİREN YAPAY ZEKA” UYARISI
Şirketin değerlendirmesinde en kritik başlık, “recursive self-improvement” olarak adlandırılan risk oldu.
Bu kavram, yapay zeka sistemlerinin insan müdahalesi olmadan kendi kapasitelerini geliştirmeye başlaması anlamına geliyor.
Yapay zeka güvenliği alanında çalışan bazı uzmanlara göre bu eşik, yalnızca teknolojik ilerleme değil, aynı zamanda toplumlar, ekonomiler ve güvenlik yapıları açısından büyük bir kırılma noktası olabilir.
Anthropic, bu seviyeye henüz ulaşılmadığını ve bunun kaçınılmaz olmadığını belirtti. Ancak şirket, bu ihtimalin birçok kurumun hazırlıklı olduğundan daha erken gündeme gelebileceği uyarısında bulundu.
KÜRESEL ANLAŞMA VE DENETİM MEKANİZMASI ÖNERİSİ
Anthropic, olası bir yavaşlama ya da duraklama kararının anlamlı olabilmesi için geniş katılımlı olması gerektiğini vurguladı.
Şirkete göre yalnızca bazı laboratuvarların yavaşladığı, diğerlerinin ise geliştirmeye devam ettiği bir senaryoda küresel denge daha da riskli hale gelebilir.
Bu nedenle Anthropic, uluslararası ölçekte bir anlaşma ve bu anlaşmaya uyulup uyulmadığını denetleyecek bir doğrulama sistemi öneriyor.
Şirket, bu zorluğu nükleer silah anlaşmalarına benzetti ancak yapay zekada denetimin daha güç olacağını kabul etti. Çünkü büyük model eğitimleri, füze siloları gibi fiziksel ve kolay gözlemlenebilir yapılar değil; çok daha gizli yürütülebilecek dijital ve hesaplama süreçleri.
“DEVAM EDEN LİDERLİĞİ DEVRALABİLİR”
Anthropic’in uyarısında, küresel yavaşlama girişiminin en büyük açmazlarından biri de rekabet riski olarak gösterildi.
Eğer bazı şirketler ya da ülkeler geliştirmeyi durdururken diğerleri devam ederse, durmayan aktörlerin teknolojik liderliği ele geçirebileceği belirtildi.
Bu nedenle şirket, güvenilir bir yavaşlama rejiminin ancak yaygın kabul, teknik izleme ve uluslararası koordinasyonla mümkün olabileceğini savunuyor.
YAPAY ZEKA YARIŞINDA TRİLYON DOLARLIK REKABET
Anthropic’in bu çağrısı, şirketin yapay zeka yarışında çok hızlı yükseldiği bir döneme denk geldi.
Şirketin son fonlama turunda yaklaşık 1 trilyon dolara yakın bir değerlemeye ulaştığı ve halka arz süreci için gizli başvuru hazırlıklarına başladığı bildirildi.
Anthropic’in yıllıklandırılmış gelir hızının, 2025 sonunda 9 milyar dolar seviyesindeyken, bu ay sonu itibarıyla 50 milyar dolara ulaşma yolunda olduğu aktarıldı.
Bu tablo, şirketin bir yandan yapay zeka güvenliği konusunda daha yavaş ve kontrollü ilerleme çağrısı yaparken, diğer yandan sektörün en hızlı büyüyen aktörlerinden biri haline geldiğini gösteriyor.
ELEŞTİRİ: “RAKİPLERİ YAVAŞLATMA STRATEJİSİ Mİ?”
Anthropic’in güvenlik odaklı açıklamaları, teknoloji ve siyaset çevrelerinde uzun süredir tartışma yaratıyor.
Bazı eleştirmenler, şirketin güvenlik ve düzenleme çağrılarının rakiplerini yavaşlatmaya yönelik bir strateji olabileceğini savunuyor.
ABD’de Trump’a yakın isimlerden girişim sermayesi yatırımcısı David Sacks, Anthropic yönetimini geçmişte “regülasyon yoluyla avantaj elde etme” gündemi yürütmekle suçlamıştı.
Sacks’a göre Washington’da güvenlik gerekçesiyle yapılacak aşırı düzenlemeler, özellikle açık kaynaklı yapay zeka modellerinin gelişimini sınırlayabilir.
AÇIK KAYNAK TARTIŞMASI BÜYÜYOR
Yapay zeka alanındaki en büyük gerilimlerden biri, kapalı modeller ile açık kaynaklı modeller arasındaki fark üzerinden yaşanıyor.
Açık kaynaklı modeller, şirketlerin ve kurumların daha düşük maliyetle kendi sistemlerini geliştirmelerine imkan tanıyor.
Ancak bazı güvenlik uzmanları, güçlü açık kaynak modellerin kötü niyetli aktörler tarafından kötüye kullanılabileceğini savunuyor.
Eleştirmenler ise büyük kapalı model şirketlerinin güvenlik söylemi üzerinden açık kaynak rekabetini sınırlamak istediğini ileri sürüyor.
Anthropic’in küresel yavaşlama çağrısı, bu tartışmayı daha da büyütecek nitelikte görülüyor.
“ŞİRKET İÇİNDE GERÇEKTEN GÜVENLİĞE İNANANLAR VAR”
Yapay zeka üzerine çalışmalarıyla bilinen Wharton School öğretim üyesi Ethan Mollick, Anthropic’e yönelik eleştirilerin tamamen göz ardı edilemeyeceğini ancak şirket içinde yapay zeka risklerine samimiyetle inanan güçlü bir araştırmacı grubunun bulunduğunu söyledi.
Mollick’e göre büyük yapay zeka şirketleri aynı anda farklı eğilimleri taşıyor: trilyon dolarlık şirket refleksleri, pazarlama ve hukuk ekipleri, yeni modelleri geliştiren araştırmacılar ve teknolojinin insanlık üzerindeki uzun vadeli etkileri konusunda kaygılı güvenlik odaklı gruplar.
Bu farklı yapıların zaman zaman şirket içinde de gerilim yaratabileceği belirtiliyor.
AGI TARTIŞMASI: İNSAN ZEKASINA YAKLAŞACAK MI?
Anthropic’in uyarısı, yapay zeka sektöründe uzun süredir devam eden AGI tartışmasının da parçası.
AGI, yani yapay genel zeka, sistemlerin insan seviyesinde geniş kapsamlı akıl yürütme, öğrenme ve problem çözme kapasitesine ulaşması anlamına geliyor.
Sektörde bazı araştırmacılar bu eşiğe kısa sürede yaklaşılabileceğini düşünürken, bazıları mevcut büyük dil modellerinin insan zekasına rakip olacak sıçramayı yapamayacağını savunuyor.
Meta’nın eski baş yapay zeka bilimcisi Yann LeCun gibi isimler, bugünkü büyük dil modellerinin insan zekasına ulaşamayacağını, bunların güçlü araçlar olsa da insan düzeyinde genel zekaya sahip olmadığını belirtiyor.
AMODEİ DAHA ÖNCE DE UYARILARDA BULUNMUŞTU
Anthropic CEO’su Dario Amodei, yapay zekanın potansiyel riskleri konusunda uzun süredir kamuoyuna uyarılarda bulunan isimler arasında yer alıyor.
Amodei, daha önce güçlü yapay zeka sistemlerinin yakın gelecekte ortaya çıkabileceğini ve bu sistemlerin öngörülemeyen biçimde zarar verici eğilimler geliştirebileceğini söylemişti.
Ayrıca yapay zekanın gelir eşitsizliğini artırabileceği ve beyaz yakalı giriş seviyesi işlerin önemli bölümünü ortadan kaldırabileceği uyarısında bulunmuştu.
CLARK: BU EŞİK İKİ YIL İÇİNDE GELEBİLİR
Anthropic’in kurucularından Jack Clark da yapay zekada kendi kendini geliştirme eşiğinin beklenenden yakın olabileceğini savunan isimler arasında.
Clark, geçtiğimiz ay Londra’da yaptığı bir konuşmada, bu tür bir teknolojinin daha önce hiç var olmadığını ancak bunun iki yıl içinde, hatta daha erken gerçekleşebileceğine inandığını söyledi.
Clark’a göre bugün dünyada güçlü yapay zeka teknolojileri, ticari ve jeopolitik rekabetin baskısı altında çok yüksek hızla geliştiriliyor.
Bu yarışta şirketler ve ülkeler arasındaki rekabet, teknolojinin insanlık ölçeğindeki varoluşsal etkilerine ilişkin daha büyük soruları geri plana itebiliyor.
ANTHROPİC YENİ ARAŞTIRMA SÜRECİ BAŞLATACAK
Anthropic, iç araştırma birimi Anthropic Institute’un önümüzdeki dönemde olası bir yavaşlama ya da duraklama rejiminin nasıl kurulabileceği üzerine çalışmalar yürüteceğini açıkladı.
Şirket, politika yapıcılar, araştırmacılar ve sektör dışı aktörlerle görüşmeler organize etmeyi planlıyor.
Amaç, kendi kendini geliştiren yapay zeka olasılığı, doğrulama mekanizmaları ve küresel iş birliği modelleri üzerine daha geniş bir tartışma başlatmak.
Anthropic, bu tartışmaya yalnızca yapay zeka şirketlerinin değil, şirket dışındaki toplum kesimlerinin de dahil edilmesi gerektiğini savunuyor.
