ChatGPT’nin geliştiricisi OpenAI, gelişmiş bir yapay zekâ modelinin siber güvenlik testleri sırasında kontrolden çıktığını ve kendi başına bir internet sitesine saldırı gerçekleştirdiğini duyurdu. Şirketin açıklamasına göre model, izole test ortamından çıkarak internete erişim sağladı ve yazılım geliştiriciler tarafından yaygın olarak kullanılan Hugging Face platformunu hedef aldı.
OpenAI, saldırının GPT-5.6 Sol modeli ile henüz kamuoyuna açıklanmamış daha gelişmiş bir ön sürüm modeli tarafından gerçekleştirildiğini belirtti. Şirket, yapay zekâ modelinin hedefe ulaşmak için çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda denediğini açıkladı.
Açıklamada, “İnternete bağlandıktan sonra modeller, amaçlarına ulaşabilmek için yapay zekâ modelleri, veri setleri ve diğer kaynakların yer aldığı büyük bir platform olan Hugging Face’i hedef almaya karar verdi” ifadelerine yer verildi.
OpenAI, olayın ardından ilgili yapay zekâ modellerinin kullanımını askıya aldığını ve Hugging Face ile ortak soruşturma başlattığını duyurdu. Şirket, saldırının herhangi bir kullanıcı verisinin sızmasına yol açıp açmadığına ilişkin ise net bir bilgi paylaşmadı.
Olayın yapay zekânın siber güvenlik alanındaki potansiyel risklerini yeniden gündeme getirdiğini belirtiliyor. OpenAI ve Anthropic gibi şirketler, gelişmiş yapay zekâ modellerinin kritik altyapılara yönelik saldırılarda kullanılabileceği yönündeki kaygılar nedeniyle bazı modellerin genel kullanıma sunulmasını geçici olarak ertelemişti.
Diğer İçerikler
