Siber güvenlik yapay zeka teknolojilerinin her geçen gün hayatımızı daha fazla domine ettiği bu çağda, bireyler, işletmeler ve devletler için global ölçekte endişe verici sonuçlar doğurma potansiyeline sahiptir.

Siber güvenlik, bilgisayar sistemleri, ağlar ve verileri yetkisiz erişim, saldırı ve zarardan koruma amacı güden teknolojik ve yönetimsel süreçlerin bütünüdür. Bu alan, zararlı yazılımlara karşı koruma, veri ihlallerini önleme ve dijital kimlik doğrulama gibi yöntemleri kapsar. Yapay zeka teknolojilerinin giderek artan etkisi altında, bireylerin, işletmelerin ve devletlerin güvenliğini global ölçekte tehdit eden riskler bulunmaktadır.

Özellikle geçtiğimiz yıl ChatGPT ile başlayan, global düzeyde popülerliği ve kullanımı büyük bir hızla yaygınlaşan yapay zeka (YZ) teknolojisi, birçok alanda olduğu gibi siber güvenlik kapsamında da yeni tehdit alanları ve saldırı yöntemleri açısından kritik öneme sahip hususları beraberinde getiriyor.

Yapay Zeka ve Siber Saldırılar

Siber saldırılar, hali hazırda devletler düzeyinde de yapılan, otomatize edilmiş, karmaşık, yıkıcı, tespiti zor ve hedef odaklı olabilmektedir. YZ teknolojisi ile birlikte bu saldırılar çok daha büyük hızla gelişmekte ve yeni saldırı vektörleri ile çok daha karmaşık hale gelebilmektedir.

Yapay zeka teknolojisinin siber güvenliğe etkisini, teknolojinin siber güvenlikte kullanımı ve yapay zeka modellerinin güvenliği olarak iki grupta ele almak uygun bir yaklaşım olacaktır.

Yapay Zeka Teknolojisinin Siber Güvenlikte Kullanımı

Yapay zekanın, siber saldırıların daha hızlı tespit ve analizi, bunlara müdahaleye veya tahmin etmeye yardımcı olabilecek etkin ve güçlü bir araç olarak kullanımının siber güvenlikte bir devrim yarattığını söylemek yanlış olmayacaktır. Yapay zeka destekli güvenlik çözümleri; büyük miktarda verinin analiz edilmesi, anormal davranış örüntülerinin belirlenmesi ve potansiyel siber tehditlerin gerçek zamanlı olarak tespit edilmesi gibi birçok konuda önemli katkılar sunmaktadır.

Diğer taraftan, yapay zeka destekli siber saldırıların ve siber tehditlerin bu paralelde artan karmaşıklığı siber güvenlik uzmanları için yeni zorlukları da beraberinde getirmektedir. Bunlara örnek olarak, sıfır gün güvenlik açıklarını  içerebilen veya geleneksel saldırı tespit araçlarını atlatabilen zararlı yazılımların, daha gelişmiş hedef odaklı kimlik avı saldırılarının ve bu tür eylemler için tespit araçlarının uyum sağlamakta zorluk çekeceği sayısız senaryo oluşturulabilmesi, derin sahtecilik (ing. deep fake) gibi gelişmiş yöntemler ile sosyal mühendislik saldırılarının çok daha ikna edici olması verilebilir.

Bu kapsamda özellikle bireylere yönelik olarak geçmiş dönemde de en başarılı saldırı türlerinden olan sosyal mühendislik temelli oltalama ve kimlik avı saldırıları, yapay zeka teknolojisi kullanılarak çok daha gelişmiş, otomatize edilmiş, sosyal medya verileri ile kişiye özel eğitilmiş modeller ile derin sahtecilik kullanılarak gerçeğinden ayrılması imkansıza yakın senaryolar ile gerçekleştirilebilecektir. Özellikle uzaktan kimlik tespiti gibi işlemlerde derin sahteciliğin yükselen başarı oranı, başta finansal konularda bireysel ve kurumsal mağduriyetleri ciddi oranda artırma potansiyeline sahip olduğunu söylemek yanlış olmayacaktır.

Yapay zeka, hem saldırganlar hem de savunanlar tarafından güçlü birer araç

Görüldüğü gibi yapay zeka, hem saldırganlar hem de savunanlar tarafından güçlü birer araç olarak kullanabilmektedir. Ancak unutulmamalıdır ki, siber güvenlik dünyasında kötü niyetli aktörler tarafının çok daha çevik ve işbirliği içinde olması, saldırganların çoğu zaman bir adım önde olmalarını sağlamıştır.

Kurumların ise hali hazırda hemen hemen tüm yeni teknolojik gelişmelerde olduğu gibi YZ kullanımına da büyük oranda temkinli yaklaşımı olduğu göz önüne alındığında (BlackBerry tarafından geçtiğimiz yılda yapılan bir araştırma, dünya çapındaki kuruluşların %75’inin işyerinde ChatGPT ve diğer üretken YZ uygulamalarının veri güvenliği ve gizliliği nedeniyle yasaklanmasını desteklediğini ortaya çıkarmıştır ) söz konusu bu öncül kullanım farkının saldırganlar lehine YZ ile birlikte daha açılması ve kritik boyuta gelmesi mümkün görünmektedir.

Yapay Zeka Modellerinin Güvenliği

Yapay zeka teknolojisi ve büyükdil modelleri (ing. Large Language Model, LLM) günlük yaşamın ayrılmaz bir parçası haline geldikçe, bunların güvenli, güvenilir, sağlam ve dayanıklı çalışmasına olan ihtiyaç da artmaktadır.

LLM’ler aynı zamanda dijital dünyanın ve yazılım uygulamalarının ayrılmaz bir parçası haline gelerek kurumsal veritabanları ve belgelere entegre edilebilmektedir. Bu şekilde aslında potansiyel olarak gizli ve özel kurumsal verilere yönelik yeni bir saldırı vektörünü de açığa çıkarmaktadır.

Bu modellerin geliştirici firmaları çoğunlukla, dil modellerini oluşturmak için kullanılan veri kümeleri hakkında ayrıntılı bilgi vermekten kaçınmaktadır. Telefon numaraları veya e-posta adresleri gibi hassas kişisel bilgileri içeren bu veri kümeleri kullanıcı gizliliği açısından ciddi riskler oluşturarak güvenlik ve güvenilirlik endişelerini de beraberinde getirmektedir. Bu kapsamda, ABD Ulusal Standartlar ve Teknoloji Enstitüsü nün (NIST) 2024 yılı başında yapay zekanın geliştirilmesini desteklemeye yönelik yayınladığı ‘Adversarial Machine Learning, A Taxonomy and Terminology of Attacks and Mitigations’ başlıklı raporda, yapay zekaya yönelik saldırılar amaç ve yöntemlerine göre sınıflandırılmış (atlatma, veri zehirleme, mahremiyet, kötüye kullanma), kavramlar tanımlanmış ve saldırıların sonuçlarını azaltmak ve yönetmek için yöntemler sunulmuştur. Sunulan yöntemleri şu şekilde özetleyebiliriz:

Atlatma: Bir YZ sistemi konuşlandırıldıktan sonra meydana gelen atlatma (ing. evasion) saldırıları, sistemin ona nasıl tepki verdiğini değiştirmek için bir girdiyi değiştirmeye çalışır. Otonom bir aracın hız sınırı işaretleri olarak yanlış yorumlamasını sağlamak için DUR işaretlerine hatalı yeni işaretler eklemek veya aracı yoldan çıkarmak için kafa karıştırıcı şerit işaretleri oluşturmak örnek olarak verilebilir.

Veri Zehirleme: (ing. poisoning) saldırıları, YZ teknolojilerinin en kritik unsuru olan verilerin bozulmasını amaçlayan ve eğitim aşamasında gerçekleştirilen saldırılardır. Örneğin, eğitim verilerine çok sayıda uygunsuz konuşma kayıtları ekleyerek bir sohbet robotunu bu örnekleri kendi müşteri etkileşimlerinde kullanacak hale getirmesi sağlanabilmektedir.

Mahremiyet: YZ’nın kullanıma açılması sürecinde gerçekleştirilen mahremiyet (ing. privacy) saldırıları, kötüye kullanmak için yapay zeka veya üzerinde eğitildiği veriler hakkında hassas bilgileri öğrenme girişimleridir. Örneğin bir saldırgan, bir sohbet robotuna çok sayıda meşru soru sorabilir ve ardından model üzerinde tersine mühendislik yaparak modelin zayıf noktalarını bulmaya veya kaynaklarını tahmin etmeye çalışabilir.

Kötüye kullanım (ing. abuse) saldırıları ise, bir yapay zekanın eğitim ve kullanıma açıldıktan sonra yararlandığı web sayfalarına veya çevrimiçi belge kaynaklarına yanlış bilgilerin eklenmesi ile gerçekleştirilir. İstem (ing. prompt) enjeksiyonu şeklinde gerçekleştirilen bu tür saldırılar, yukarıda belirtilen zehirleme saldırılarının aksine, YZ sisteminin beklenen uygun kullanım amacını yeniden şekillendirmek için meşru ancak güvenliği ihlal edilmiş bir kaynaktan YZ’ya hatalı bilgi parçaları vermeyi amaçlar.

Yapay zeka çağında siber güvenlik, kuruluşların siber savunmalarını geliştirmeleri ve gelişen siber tehditlere karşı korumaları için hem zorluklar hem de fırsatlar sunmaktadır. Yapay zekanın saldırganlar tarafından kısa vadede mevcut siber saldırı yöntemlerine hız ve ölçek olarak önemli katkı sağlayacağı öngörülmektedir. Diğer taraftan, yapay zeka odaklı güvenlik çözümlerinden yararlanarak, veri korumada en iyi uygulamaları benimseyerek ve siber güvenlik uzmanları arasında işbirliğini teşvik ederek, işletmeler ve hükümetler siber saldırılara karşı dayanıklılıklarını güçlendirebilecek ve giderek daha fazla birbirine bağlı olan dijital ortamdaki hassas bilgilerini koruyabilecektir.

Ek olarak, yaşantımız üzerinde önemli potansiyel etkiye sahip alanlarda güvenli ve güvenilir yapay zeka teknolojileri oluşturmak sorumlu, etik, disiplinler arası araştırma, geliştirme ve politika çabaları yoluyla mümkün olabilecektir.

*Sıfır gün açığı, tedarikçinin veya geliştiricinin bir güvenlik açığından henüz haberdar olmadan ve dolayısı ile herhangi bir yama geliştirmeden önce saldırganlar tarafından keşfedilen ve büyük oranda saldırının başarılı olmasına imkan veren bir yazılım güvenlik açığıdır.

Konuk Yazar: Dr. Cemil ULU