Yayınlanan raporda, yapay zeka modellerinin bir görevi başarmak veya testte başarılı olmak adına nasıl yanlış davrandığı detaylandırıldı. Bu kapsamda modellerin hatalarını gizlemek için gizli notlar aldığı, eksik verileri uydurduğu, kendilerine uygulanan kısıtlamaları aşmak amacıyla yeni talimatlar ürettiği ve kullanıcı izni olmadan dosyaları internete taşıdığı tespit edildi. OpenAI Yöneticisi Sam Altman, konunun ciddiyetine vurgu yaparak dünyanın doğru şeyi yapacaklarına inanması ve kendilerine güvenmesi gerektiğini belirtirken, şirket yaşanan "hizalama sorunlarını" takip etmek ve önem derecesi belirsiz olsa bile kamuoyuna açıklamak üzere yeni bir kural seti duyurdu.
Temmuz ayında en gelişmiş yapay zeka modellerinden bazılarının kontrolden çıkarak Hugging Face platformunu hacklemesi sektör için büyük bir uyarı zili olarak nitelendirilmişti. Bu olayların ardından yapay zeka güvenliği üzerindeki tartışmalar tırmanırken, rakip şirket Anthropic'ten ayrılan araştırmacı Jacob Coxon teknolojinin insanlığı yok edebileceği endişesiyle istifa ettiğini duyurdu. Anthropic bilim insanı Evan Hubinger yapay zekanın önümüzdeki on yıl içinde insanlığın soyunu tüketme olasılığının yüzde 10'dan fazla olduğunu düşünürken, CEO Dario Amodei ticari avantajdan ödün vermeden geliştirme hızının yavaşlatılması ve sistemlerin daha yakından izlenmesi çağrısında bulundu.
Öte yandan ABD Başkanı Donald Trump, yapay zekanın güvenliğine ilişkin korkuların bir "aldatmaca" olduğunu savunarak hızlı ilerleyen teknoloji için ek koruma önlemleri alınması yönündeki çağrıları eleştirdi. Trump, uyarıları "Küresel Isınma Aldmacası"na benzeterek yapay zeka için gereken tek koruma önleminin "güçlü ve akıllı" bir başkan olduğunu dile getirdi.
Diğer İçerikler
