ALDATMA SANATI

ALDATMA SANATI

Yapay Zekâ Çağında Aldatma Sanatı

İnsan Hâlâ En Zayıf Halka mı?

Sosyal mühendislikten sentetik gerçekliğe, güvenin yeni savaş alanı

“O gün aldatmanın sanatına gülüyorduk; bugün aldatmanın algoritmasıyla mücadele ediyoruz.”

YILLAR ÖNCE GÜLHANE’DE…

Yıllar önce Kevin Mitnick’in “Aldatma Sanatı” adlı kitabı yeni çıkmıştı. Ankara’da Gülhane Askerî Tıp Akademisinde muayene olmak için sıra bekliyordum. Beklerken de elimde Mitnick’in kitabı, okuyordum.

Bir ara başımı kaldırdım. Karşı bankta sıra bekleyen, belli ki yeni evli genç bir çift vardı. Elimdeki kitabın kapağına bakıp kendi aralarında gülüyorlardı. Hak vermemek mümkün mü? Kitabın kapağında kocaman harflerle “ALDATMA SANATI” yazıyordu.

Genç çift bir kitaba değil, muhtemelen kitabın ismine gülüyordu. Öyle ya… Aldatmanın da sanatı mı olurdu?

Aradan yıllar geçti. Bugün o genç çiftle tekrar karşılaşabilsem muhtemelen kitabın kapağını gösterip şöyle derdim: “Meğer aldatmanın sanatı olmakla kalmıyormuş; teknolojisi, endüstrisi, algoritması ve artık yapay zekâsı da varmış…”

Çünkü Kevin Mitnick’in yıllar önce anlattığı dünya değişti. Hem de tahmin ettiğimizden çok daha fazla. Mitnick’in döneminde saldırganın karşısında bir insan vardı. Bugün saldırganın yanında yapay zekâ var. Yarın ise belki saldırganın kendisi insan olmayacak. İşte asıl mesele burada başlıyor.

BİLGİSAYARI DEĞİL, İNSANI HACKLEMEK

Kevin Mitnick’i önemli yapan yalnızca bilgisayar sistemlerine girebilmesi değildi. Mitnick çok daha önemli bir şeyi fark etmişti: Bir sistemi ele geçirmek için her zaman sistemi kırmanız gerekmez. Bazen sistemi kullanan insanı ikna etmeniz yeterlidir.

Şifreyi kırmak yerine şifreyi sahibinden isteyin. Kapıyı zorlamak yerine içerideki birinin kapıyı sizin için açmasını sağlayın. Yetkiyi ele geçirmek yerine yetkili kişiyi kandırın.

Mitnick’in The Art of Deception kitabının temelinde bugün sosyal mühendislik dediğimiz yaklaşım bulunuyordu. İnsan güvenir, yardım etmek ister, otoriteden etkilenir, korkar, merak eder ve belki en önemlisi acele eder. Sosyal mühendis de tam olarak bu özellikleri kullanır.

“Genel Müdürlükten arıyorum…”, “Komutanın talimatı var…”, “Hesabınız birazdan kapatılacak…”, “Sistemde acil bir problem oluştu…” Birkaç doğru bilgi, biraz otorite, bir miktar aciliyet ve uygun psikolojik atmosfer. Kapı açılır.

Bu nedenle siber güvenlik dünyasında yıllarca aynı cümleyi söyledik: İnsan, güvenlik zincirinin en zayıf halkasıdır. Fakat bugün bu cümleyi yeniden düşünmek zorundayız. Çünkü artık insanı kandırmaya çalışan başka bir insan olmak zorunda değil.

ALDATMANIN YENİ ORTAĞI: YAPAY ZEKÂ

Eskiden başarılı bir sosyal mühendislik operasyonu ciddi hazırlık gerektirirdi. Hedef araştırılır, kurumu incelenir, telefon numaraları bulunur, yazışma biçimi öğrenilir ve ikna senaryosu hazırlanırdı. Bugün yapay zekâ bütün bu hazırlık sürecinin önemli bir bölümünü hızlandırabilir.

Bir insan hakkında internette dağınık hâlde bulunan meslek, kurum, arkadaş çevresi, toplantılar, sosyal medya paylaşımları, fotoğraflar, videolar, konuşmalar, ilgi alanları ve seyahatler tek başına anlamsız görünebilir. Yapay zekâ bunları bir araya getirdiğinde ise ortaya bir dijital insan modeli çıkabilir.

Saldırgan artık yalnızca “Bu kişi kim?” diye sormuyor. “Bu kişi kime güvenir?” ve daha önemlisi “Bu kişiyi hangi mesaj ikna eder?” sorularına cevap arıyor. Sosyal mühendislik tarihindeki kırılma noktası tam da budur.

PHISHING ÖLÜYOR, HYPER-PHISHING DOĞUYOR

Yıllarca personele phishing mesajlarını nasıl tanıyacağını öğrettik: yazım hatalarına, garip Türkçeye, şüpheli bağlantılara ve gönderen adresine dikkat edin. Bunlar hâlâ önemlidir; fakat artık tek başına yeterli değildir.

Üretken yapay zekâ kusursuza yakın Türkçe yazabilir; askerî terminolojiyle, hukukçu, bankacı, akademisyen veya yönetici üslubuyla metin üretebilir. Dün gelen kötü hazırlanmış “hesabınız bloke olucaktır” mesajı kolayca fark ediliyordu. Yarın gelecek mesaj ise “Komutanım, dün toplantıda değerlendirdiğimiz sunumun Başkanlığa gönderilecek son şeklini ekte arz ediyorum” diyebilir.

Burada durum değişir. Çünkü mesaj artık yalnızca düzgün değildir; bağlamı vardır. Saldırgan sizi tanıyor, toplantınızı ve konuştuğunuz konuyu biliyor görünmektedir. Yapay zekânın sosyal mühendisliğe kazandırdığı en tehlikeli kabiliyetlerden biri bağlamsal inandırıcılıktır.

TELEFON ÇALDIĞINDA ARTIK KİM KONUŞUYOR?

Bir zamanlar güvenlik eğitimlerinde “Şüpheleniyorsanız kişiyi telefonla arayın” derdik. Bu da artık tek başına yeterli olmayabilir. Çünkü ses taklit edilebilir. İnternette bulunan konuşma örneklerinden bir insanın sesine benzeyen sentetik konuşmalar üretmek giderek kolaylaşmaktadır.

Patronunuz veya komutanınız arıyor; ses, hitap biçimi ve konuşma ritmi tanıdık. “Çok acil bir işlem yapılması gerekiyor.” Ne yapacaksınız? İnsan için ses yalnızca ses değildir; kimliktir. Fakat artık şu soruyu sormak zorundayız: Duyduğumuz ses gerçekten o insana mı ait?

“GÖZÜMLE GÖRDÜM” ARTIK DELİL Mİ?

İnsanlık tarihinin en güçlü doğrulama cümlelerinden biri “Gözümle gördüm” idi. Deepfake teknolojileri bu cümleyi de tartışmalı hâle getiriyor. Bir devlet başkanını, generali, şirket yöneticisini veya gazeteciyi konuşurken görebiliriz; fakat görüntünün tamamı sentetik olabilir.

Bunun ulusal güvenlik açısından anlamı büyüktür. Bir kriz gecesi üst düzey bir yöneticiye ait olduğu düşünülen “Seferberlik ilan edildi”, “Bankalardan paranızı çekin” veya “Sınırda savaş başladı” türü bir görüntü birkaç dakika içinde milyonlara ulaşabilir. Devlet açıklama yapana kadar oluşabilecek paniği düşünün.

Yapay zekâ çağında ilk saldırıya uğrayacak hedeflerden biri gerçekliğin kendisidir.

DAHA DA TEHLİKELİSİ: GERÇEK OLAN DA İNKÂR EDİLEBİLİR

Deepfake’in tehlikesi yalnızca sahte görüntü üretmek değildir. Gerçek görüntü de “deepfake” denilerek inkâr edilebilir. Literatürde “liar’s dividend” olarak tartışılan bu olgu, sentetik içeriğin yaygınlaşmasının gerçek kanıtı da sahte ilan etme imkânı yaratabileceğini anlatır.

Dolayısıyla yapay zekâ yalnızca yalan üretmiyor; doğrunun ispat gücünü de aşındırabiliyor.

SALDIRI YÜZEYİ ARTIK İNSAN ZİHNİ

Siber güvenlikçiler yıllardır “attack surface”, yani saldırı yüzeyi kavramını kullanır: sunucular, portlar, işletim sistemleri, uygulamalar, API’ler ve ağ cihazları. Fakat yeni saldırı yüzeyi bunlardan çok daha eski: insan beyni.

İnsan otoriteye itaat eder, aciliyetten etkilenir, korkuyla hızlı karar verir, merak eder, kendisine benzeyene daha kolay güvenir ve önceden inandığı düşünceleri doğrulayan bilgileri daha kolay kabul edebilir. Saldırganın amacı artık yalnızca teknik zafiyet değil, bilişsel zafiyet aramaktır.

Üstelik yapay zekâ aynı mesajı milyonlarca insana göndermek zorunda değildir. Her insana ayrı mesaj hazırlayabilir. Birine korku, birine ekonomik kaygı, birine aidiyet, bir başkasına siyasi öfke üzerinden yaklaşabilir. Siber güvenlik ile bilişsel savaş burada birbirine yaklaşmaktadır.

PROPAGANDANIN DA KİŞİYE ÖZELİ GELİYOR

Klasik propaganda kitleseldi: afiş, gazete, radyo ve televizyon aracılığıyla aynı mesaj milyonlara gönderilirdi. Sosyal medya bunun ilk kırılmasını yarattı. Yapay zekâ ise ikinci büyük kırılmayı yaratabilir.

Teorik olarak bir milyon insana tek propaganda mesajı değil, bir milyon insana bir milyon farklı mesaj üretilebilir; stratejik amaç ise aynı kalabilir: öfkeyi artırmak, devlete güveni azaltmak, toplumsal fay hatlarını derinleştirmek, ordunun moralini bozmak veya ekonomik paniğe yol açmak.

Savaş artık yalnızca toprağın kontrolü için değil, insanın gerçeği algılama biçiminin kontrolü için de yürütülebilir.

PEKİ YAPAY ZEKÂ KANDIRILABİLİR Mİ?

Asıl sürpriz burada. Yıllarca insanın kandırılmasından söz ettik; fakat yapay zekâ sistemleri de manipüle edilebilir. Büyük dil modellerinin güvenliği açısından en çok tartışılan konulardan biri prompt injection saldırılarıdır.

Bir yapay zekâ sistemine belirli kurallar verilir; saldırgan ise sisteme gösterdiği içerikle onu başlangıçtaki talimatlarından uzaklaştırmaya çalışır. Bugün bunun sonucu yanlış cevap olabilir. Fakat yarın yapay zekâ e-posta okuyacak, takvim yönetecek, dosya açacak, veritabanına bağlanacak, API çağrısı yapacak ve işlem başlatacaktır.

Ajan tabanlı yapay zekâ döneminin güvenlik problemi burada başlar. Bir yapay zekâ ajanını kandırdığınızda yalnızca yanlış cevap veren bir sohbet robotunu değil, yetkili bir dijital çalışanı kandırmış olabilirsiniz.

SOSYAL MÜHENDİSLİK 4.0’A DOĞRU

Gelişimi dört aşamada düşünmek mümkündür: Sosyal Mühendislik 1.0’da insan insanı kandırır. 2.0’da insan, yapay zekâyı kullanarak insanı kandırır. 3.0’da insan veya yapay zekâ başka bir yapay zekâyı manipüle eder. Ufukta ise 4.0 vardır: yapay zekâ ajanlarının başka yapay zekâ ajanlarını ve insanları otonom biçimde manipüle etmesi.

Dijital ekonomide daha fazla işlemi bizim adımıza yapay zekâ ajanları gerçekleştirdikçe soru değişecektir. Bugünün sorusu “Karşımdaki kişi gerçekten o kişi mi?” iken yarının sorusu “Karşımdaki yapay zekâ ajanı gerçekten kimin adına hareket ediyor?” olacaktır.

DEVLET İÇİN MESELE ÇOK DAHA CİDDİ

Bunları yalnızca banka dolandırıcılığı veya şirket güvenliği olarak görmek büyük hata olur. Bir askerî emir, diplomatik mesaj, istihbarat raporu, kriz talimatı, komutanın sesi veya devlet yöneticisinin görüntüsü sentetik olarak üretilebiliyorsa komuta-kontrol güvenliği yeniden tasarlanmalıdır.

Bir askerî emrin gerçekliğinin göstergesi komutanın sesini duymak veya görüntülü konuşmada yüzünü görmek olamaz. Emrin gerçekliği kriptografik olarak doğrulanabilmelidir: Kim gönderdi? Hangi yetkiyle gönderdi? Mesaj değiştirildi mi? Zaman damgası doğru mu? Komuta zincirindeki yeri ne?

KRİPTOGRAFİNİN YENİ GÖREVİ: GERÇEĞİ DOĞRULAMAK

Kriptografi yıllarca gizlilik ve bütünlüğü korudu. Yapay zekâ çağında üçüncü unsur olağanüstü önem kazanıyor: köken. Fotoğrafı kim üretti? Video hangi cihazdan çıktı? Belgeyi kim hazırladı? Ses nerede kaydedildi? Sonradan değiştirildi mi? Yapay zekâ tarafından mı üretildi?

Bu nedenle content provenance, yani içeriğin kaynağının ve değişiklik geçmişinin doğrulanması; askerî emirler, istihbarat raporları, diplomatik belgeler, adli deliller, devlet açıklamaları ve haber görüntüleri için stratejik önem taşımaktadır. Gelecekte bir görüntünün değeri yalnızca görüntünün kendisinden değil, beraberindeki kriptografik soy kütüğünden gelebilir.

ZERO TRUST ARTIK GERÇEKLİĞE DE UYGULANMALI

Siber güvenlikte Zero Trust yaklaşımının basit prensibi “Asla varsayılan olarak güvenme, sürekli doğrula” şeklinde özetlenebilir. Bugüne kadar bunu çoğunlukla ağlara uyguladık: cihazı, kullanıcıyı ve yetkiyi doğrula.

Yapay zekâ çağında kapsam genişletilmelidir: sesi doğrula, görüntüyü doğrula, belgeyi doğrula, talimatı doğrula, yapay zekâ çıktısını doğrula, yapay zekâ ajanını doğrula. Hatta gerçekliği doğrula.

İNSANI “EN ZAYIF HALKA” OLMAKTAN ÇIKARABİLİR MİYİZ?

İnsan hata yapmaya devam edecek; bunu sıfırlamak mümkün değil. Fakat insanı yalnızca güvenlik problemi olarak görmek de doğru değildir. İnsan aynı zamanda olağan dışı davranışı fark edebilen güçlü bir sensördür. “Burada bir tuhaflık var” cümlesi küçümsenmemelidir.

Eğitim modeli değişmelidir. Çalışanlara yalnızca “Şüpheli linke tıklama” demek yetmez. Bağlamı sorgula. Aciliyetten şüphelen. Yetkiyi doğrula. Başka kanaldan teyit et. Ve en önemlisi: kişiyi değil, işlemi doğrula.

EN ZAYIF HALKA ARTIK İNSAN DEĞİL

Yıllardır tekrarladığımız “İnsan güvenlik zincirinin en zayıf halkasıdır” cümlesi artık eksiktir. İnsan kandırılabilir; fakat yapay zekâ da kandırılabilir. Veri zehirlenebilir, algoritma manipüle edilebilir, kimlik taklit edilebilir, ses klonlanabilir, görüntü üretilebilir ve otonom ajan yanıltılabilir.

Bütün bunların ortak noktası güvendir. İnsan yanlış sese, makine yanlış veriye, yapay zekâ yanlış talimata, kurum yanlış kimliğe, toplum yanlış görüntüye güvenebilir.

O hâlde yeni güvenlik paradigmasının cümlesi şöyle olmalıdır: Güvenlik zincirinin en zayıf halkası insan değil, doğrulanmamış güvendir.

GELECEĞİN EN STRATEJİK KAYNAĞI

Sanayi Devrimi’nin stratejik kaynağı kömürdü. XX. yüzyılın en stratejik kaynaklarından biri petroldü. Bilgi çağının kaynağı veriydi. Yapay zekâ çağının stratejik kaynaklarından biri ise belki hepsinden daha soyut olacak: güven.

Vatandaşın devlete, askerin komuta zincirine, toplumun medyaya, insanın gördüğüne, kurumun veriye ve insanların birbirine güveni… Bir topluma sürekli sahte gerçeklikler gösterirseniz ve insanlar sonunda yalnızca yalanlara değil doğrulara da inanmamaya başlarsa ne olur?

Belki geleceğin en tehlikeli bilişsel saldırısı insanları bir yalana inandırmak olmayacak. Hiçbir şeye inanamaz hâle getirmek olacak. Yapay zekâ çağının “Aldatma Sanatı” tam olarak burada başlıyor.

VE YILLAR SONRA YİNE O HASTANE KORİDORU…

Bazen düşünüyorum. Yıllar önce Gülhane’de karşı bankta oturan o genç çift bugün nerede acaba? Muhtemelen çocukları büyümüştür. Belki torunları bile vardır. O gün elimdeki kitabın kapağına bakıp gülmüşlerdi: “Aldatma Sanatı…” Öyle ya, aldatmanın sanatı mı olurdu?

Bugün aynı kitabı ellerine verebilsem altına tek cümle yazardım: “O gün aldatmanın sanatına gülüyorduk; bugün aldatmanın algoritmasıyla mücadele ediyoruz.”

Kevin Mitnick’in dünyasında saldırgan insanı kandırıyordu. Bugünün dünyasında insanı kandırmak için yapay zekâyı kullanıyor. Yarının dünyasında ise yapay zekâ belki başka bir yapay zekâyı kandıracak.

Bu nedenle artık soru “İnsan hâlâ en zayıf halka mı?” değildir. Asıl soru şudur: İnsan, makine ve gerçek arasındaki güveni nasıl koruyacağız?

Çünkü bundan sonraki büyük savaşlardan bazıları yalnızca sınırlarımızda, hava sahamızda veya siber ağlarımızda yapılmayacak. Zihnimizde yapılacak. Ve o savaşta korunması gereken en stratejik varlıklardan biri gerçeğe olan güvenimiz olacak.

ASLINDA:

Güvenlik zincirinin en zayıf halkası insan değil, DOĞRULANMAMIŞ GÜVENDİR.

(E)Tuğg. Halil İbrahim BÜYÜKBAŞ