Astra adı verilen gelişmiş modelin otonom kodlama ile siber güvenlik süreçlerinde kritik ilerlemeler kaydettiği açıklansa da, yapılan testler sistemin mevcut haliyle kamuoyuna sunulmasının ciddi güvenlik riskleri barındırdığını ortaya koydu. Açıklamanın, OpenAI'ın henüz yayımlanmamış başka bir modelinin bir yapay zeka platformuna (Hugging Face) kendi kendine siber saldırı düzenlediği olayının hemen ardından gelmesi dikkat çekti. Astra'nın bu saldırıda doğrudan yer almadığı belirtilse de, sektör genelinde yeni nesil sistemlerin kontrol altında tutulamayacak kadar güçlendiği yönündeki endişeleri artırdı.
"Kritik" Risk Eşiği Aşıldı: Siber Güvenlik ve İzolasyon Önlemleri
Siber güvenlik uzmanları, yazılım açıklarını kapatmak amacıyla geliştirilen bu araçların insan müdahalesine ihtiyaç duymadan otonom siber saldırılar düzenlemek için de kullanılabileceği uyarısında bulunuyor. OpenAI tarafından 2023 sonunda hayata geçirilen "Hazırlık Çerçevesi" standartlarına göre Astra'nın, insan denetimi olmaksızın kritik sistemlerde açık bulup otonom stratejiler geliştirebildiği ve bu doğrultuda tanımlanan "kritik" risk eşiğine ulaştığı değerlendirildi.
Şirket, bu gelişmeler doğrultusunda güvenlik protokollerini sıkılaştırarak modeli sistem dışına sızmasını önleyecek izole test ortamlarına aldığını bildirdi. Yüksek güvenlik standartlarını karşılamayan koşullarda model üzerindeki çalışmaların tamamen durdurulacağı açıklanırken; OpenAI, Astra ve gelecekteki modellerin insanlığın yararına sunulması için kamu kurumları, uluslararası kuruluşlar ve siber güvenlik uzmanlarıyla ortak testler yürütmeye devam edeceğini belirtti.
Diğer İçerikler
