Yapay zeka alanının önde gelen şirketlerinden Anthropic, yayımladığı yeni bir değerlendirmede geleceğin en büyük teknolojik risklerinden biri olarak görülen “kendi kendini geliştiren yapay zeka” senaryosuna dikkat çekti. Şirketin kurucu ortaklarından Jack Clark ile Anthropic Enstitüsü Başkanı Marina Favaro tarafından kaleme alınan “Yapay Zeka Kendini İnşa Ettiğinde” başlıklı blog yazısında, yapay zeka sistemlerinin giderek daha fazla insan müdahalesi olmadan çalışmaya başladığı vurgulandı.
Şirkete göre geçmişte yazılım geliştirme, araştırma ve sistem tasarımı gibi süreçler büyük ölçüde insanlar tarafından yürütülürken, bugün bu görevlerin önemli bir kısmı yapay zeka sistemlerine devredilmeye başlanmış durumda.
Yapay Zeka Kendi Haleflerini Tasarlayabilir
Anthropic’in değerlendirmesinde, mevcut eğilimin sürmesi halinde yapay zekanın yalnızca görevleri yerine getiren bir araç olmaktan çıkarak kendi sonraki nesillerini tasarlayıp geliştirebilen sistemlere dönüşebileceği belirtildi.
Şirket bu süreci “özyinelemeli kendini geliştirme” (recursive self-improvement) olarak tanımlıyor. Buna göre bir yapay zeka sistemi, kendisinden daha gelişmiş bir versiyon oluşturabilecek ve bu süreç teorik olarak sürekli devam edebilecek.
Yazıda, “Henüz bu noktada değiliz ve böyle bir gelişme kaçınılmaz değildir. Ancak birçok kurumun düşündüğünden daha erken gerçekleşebilir” ifadelerine yer verildi.
İnsan Kontrolünün Kaybedilmesi Riski
Anthropic, bu tür sistemlerin bilim, sağlık, mühendislik ve araştırma alanlarında büyük ilerlemeler sağlayabileceğini kabul ederken, aynı zamanda ciddi riskler doğurabileceğine de dikkat çekti.
Şirkete göre yapay zeka sistemleri kendi haleflerini geliştirebilecek seviyeye ulaştığında, insanlığın bu sistemleri denetleme ve yönlendirme kapasitesi kritik hale gelecek. Kontrol mekanizmalarının yetersiz kalması durumunda insanların teknoloji üzerindeki etkisi zayıflayabilir.
Blog yazısında, “Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir” değerlendirmesi yapıldı.
Diğer İçerikler
