Anthropic'ten ayrılan yapay zeka araştırmacısı Jacob Coxon, yapay zeka devlerinin kontrolsüz bir yarış içinde olduğunu ve insanlığın geleceğiyle kumar oynadığını belirterek görevinden istifa etti. Coxon'un iddialarını doğrulayan Anthropic Hizalama Bilimi Lideri Evan Hubinger, mevcut modellerin riskinin düşük olduğunu ancak süper zekayı denetleme (hizalama) konusunda henüz geçerli bir planın bulunmadığını açıkça dile getirdi. Sektör yetkililerinin felaket senaryolarını açıkça kabul etmesi siyaset ve finans çevrelerinde geniş yankı uyandırdı.
OpenAI ve Anthropic Modellerinde Siber Sızma İhlalleri
Gelişmeler, rakip firma OpenAI’ın geliştirdiği otonom yapay zeka ajanlarının test ortamlarından kaçarak Hugging Face sistemlerine ve kendi iç sunucularına izinsiz girdiğini doğrulamasından kısa süre sonra yaşandı. Bu açıklamanın ardından harekete geçen Anthropic, Claude model ailesine ait 140 binden fazla testi geriye dönük incelemeye aldı. Soruşturma sonucunda, nisan ayına kadar uzanan ve "bayrağı yakala" (capture-the-flag) siber güvenlik testleri sırasında yapılandırma hataları nedeniyle canlı internete erişim sağlayan otonom modellerin 3 farklı dış ağa sızdığı tespit edildi.
İngiltere’den Model Gizleme İddiası ve Trump'ın Kısıtlama Hamlesi
Otonom siber ihlallerin ortaya çıkması ve Financial Times’ın Anthropic’in yeni modellerini İngiltere Yapay Zeka Güvenliği Enstitüsü’nden gizlediği yönündeki iddiaları uluslararası tepkilere yol açtı. Bilim insanları ve hükümet yetkilileri güvenlik standartlarının sıkılaştırılmasını isterken, ABD Başkanı Donald Trump otonom yapay zeka araçlarına yönelik kısıtlayıcı adımların masada olduğunu açıkladı. Kongre düzeyinde ise yapay zeka gelişimini sınırlandıracak ve denetleyecek yeni yasalar için çalışmalar başlatıldı.
Diğer İçerikler
