Yapay Zeka Kendi Kendini Geliştirecek Mi Anthropic’ten Kritik Uyarı
Anthropic, yapay zekanın kendi kodlarını yazarak evrimleşebileceği eşiğe yaklaştığını bildirdi. Şirket, yapay zekanın kendi halefini tasarlayıp eğitebildiği teorik eşiğin sanılandan çok daha yakın olduğunu belirtti.
Yapay zeka teknolojilerinin kendi kodlarını yazarak insan müdahalesi olmadan evrimleşebileceği bir eşiğe yaklaşması, ABD merkezli yapay zeka şirketi Anthropic’i önlem çağrılarına katılmaya itti. Şirket, “When AI builds itself” (Yapay zeka kendini ürettiğinde) başlıklı makalesinde, otonom yazılım döngülerinin kurulduğunu ve bir yapay zeka modelinin kendi halefini tasarlayıp eğitebildiği teorik eşiğin sanılandan çok daha yakın olduğunu belirtti.
Yapay Zekanın Kendi Kendini Üretme Süreci
Anthropic, yapay zekanın kodlarını kendisinin oluşturması sürecinde önemli bir ilerleme kaydedildiğini duyurdu. Şirketin Claude yazılım sisteminde, üretim kod tabanına entegre edilen kodların yüzde 80’inden fazlasının doğrudan modelin kendisi tarafından yazıldığı açıklandı. Bu oran, 2025 yılı başlarında tek haneli rakamlardaydı.
Şirket, yapay zekadaki gelişimi beş aşamalı bir yolculuk olarak tanımlıyor. İlk aşamada yapay zeka ile çalışma normal bir şirket işleyişi gibiydi. 2023-2025 dönemini kapsayan ikinci aşamada çalışanlar üretken yapay zekalardan yardım alırken, 2025-2026 dönemini kapsayan üçüncü aşamada ajan yapay zekalar kendi kendine kod yazabilir hale geldi. Mevcut dördüncü aşamada ise yapay zeka sistemleri kodları kendi başına çalıştırabiliyor ve işleri diğer yapay zekalara devredebilme yeteneği kazanıyor.
Şirketin öngördüğü beşinci ve son aşamada ise yapay zeka ajanları kendi başlarına modeller oluşturup eğitebilecek yeteneğe ulaşacak. Bu durum, yapay zekanın gelecekteki sürümlerinin bizzat kendisi tarafından sürekli geliştirileceği anlamına geliyor.
Dünyadan Yapay Zeka Durdurma Çağrıları
Anthropic’in uyarılarının yanı sıra, dünya genelinde yapay zekanın gelişimini yavaşlatma veya durdurma yönünde daha önce de çeşitli çağrılar yapıldı. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin de imzaladığı bir mektupta, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitiminin en az altı ay süreyle durdurulması talep edildi.
Mektupta, insan zekasıyla rekabet eden yapay zeka sistemlerinin toplum, ekonomi ve demokrasi için ciddi riskler taşıdığı, dezenformasyon, kitlesel iş kayıpları ve medeniyetin kontrolünün kaybedilmesi gibi senaryoların gündeme gelebileceği vurgulandı. Mayıs ayında ise Papa Francis, yapay zekanın yalnızca teknik olarak durdurulmasını değil, aynı zamanda askeri, ekonomik ve bilişsel rekabet zihniyetinden arındırılarak silahsızlandırılmasını istedi.
Bu çağrılara rağmen, küresel yapay zeka pazarı hızla büyümeye devam ediyor. Gartner raporlarına göre, küresel yapay zeka harcamalarının 2026 yılında 2,59 trilyon dolara, 2027’de ise 3,49 trilyon dolara ulaşması bekleniyor. Bu durum, sektördeki yatırımların ve harcamaların yapay zeka teknolojilerinin gelişimini sürdürmesindeki rolünü gösteriyor.
Yorum Yap