AI Chatbotları, Siber Dolandırıcılıkla Mücadeleye Yardımcı Olacak mı?

Kaspersky uzmanları, ChatGPT’nin kimlik avı bağlantılarını algılama yeteneğini inceleyen bir araştırma yayınladı. Araştırma, ChatGPT’nin kimlik avı e-postaları oluşturma ayrıca kötü amaçlı yazılım yazma özelinde yetenekli olduğunu gösterdi. Ancak, kötü amaçlı bağlantıları algılama konusundaki etkinliği hala sınırlı olduğunu ortaya koydu. Araştırma, ChatGPT’nin kimlik avı hakkında birçok bilgiye sahip olmasına rağmen, kimlik avı saldırısının hedefini tahmin edebilmesine rağmen, yüzde 64’e varan yüksek yanlış pozitif oranlarına sahip olduğunu ortaya koydu ayrıca ChatGPT’nin çoğu zaman, kararlarını haklı çıkarmak için hayali açıklamalar ayrıca yanlış kanıtlar ürettiğini gösterdi. 

Yapay zeka destekli bir dil modeli olan ChatGPT, kimlik avı e – postaları oluşturma konusundaki potansiyelini kanıtladı ancak bu teknolojinin yüksek riskli alanlarda kullanımı için henüz çok erken. Bu nedenle ChatGPT siber güvenlik dünyasında tartışma konusu oldu. Kaspersky uzmanları, ChatGPT’nin kimlik avı bağlantılarını tespit etme yeteneğini ayrıca eğitim sırasında öğrendiği siber güvenlik bilgisini ortaya çıkarmak için deney yaptı. Şirketin uzmanları, ChatGPT’ye güç veren model olan gpt-3.5-turbo’yu, Kaspersky anti – phishing teknolojilerinin kimlik avı olarak kabul ettiği 2.000’den fazla bağlantıda test etti ve bunu binlerce güvenli URL ile karıştırdı.

Yapılan deneyde, tespit oranlarının kullanılan ipucuna bağlı olarak değiştiği görüldü. ChatGPT’ye iki soru soruldu: “Bu bağlantı bir kimlik avı web sitesine yönlendiriyor mu?” ayrıca “Bu bağlantıyı ziyaret etmek güvenli mi?”. Sonuçlar, ChatGPT’nin ilk soru için %87,2 tespit oranına ayrıca %23,2 yanlış pozitif oranına sahip olduğunu gösterdi. “Bu bağlantıyı ziyaret etmek güvenli mi?” sorusunda ise %93,8’lik daha yüksek bir tespit oranı görülürken %64,3’lük daha yüksek bir yanlış pozitif oranına sahibi olduğu tespit edildi. Sonuçlara göre her türlü üretim uygulaması için yanlış pozitif oranının oldukça yüksek olduğu görüldü.

ChatGPT, Facebook, TikTok ayrıca Google’da Başarılı

Siber saldırganlar genellikle kimlik avı bağlantılarında popüler markalardan bahsederek kullanıcıları aldatmaya çalışırlar. Bu noktada, yapay zeka dil modeli ChatGPT, potansiyel kimlik avı hedeflerini belirlemede etkileyici sonuçlar gösterebilir. Örneğin, Facebook, TikTok, Google gibi büyük teknoloji şirketleri, Amazon, Steam gibi pazar yerleri ayrıca dünyanın dört bir yanındaki URL’lerin çoğundan ek eğitim almadan başarıyla sonuçlar elde edebilir.

Ancak, yapılan deneyler, ChatGPT’nin bağlantının kötü amaçlı olup olmadığına karar vermede ciddi sorunlar yaşayabileceğini gösteriyor. Bu durum, dil modellerinin bilinen sınırlamalarını ayrıca yanlış sonuçlar üretebileceğini ortaya koydu. Sonuç olarak, ChatGPT, kimlik avı saldırılarının sınıflandırılması ayrıca araştırılması özelinde bazı yardımcı özelliklere sahip olabilir, ancak kesin sonuçlar için dikkatli bir değerlendirme ayrıca insan gözetimi gerekebilir. ChatGPT, saldırıların sınıflandırılması ayrıca araştırılması özelinde potansiyel gösterse de, hala iyileştirilmeye ayrıca geliştirilmeye ihtiyaç duyan bir alan olduğunu görülüyor. 

Aşağıda ChatGPT tarafınca sağlanan yanıltıcı açıklamalara örnekler verilmiştir:

• Modelin erişemediği WHOIS referansları:
  1. Son olarak, alan adı için bir WHOIS araması yaparsak, alan adı çok yakın zamanda tescil edilmiştir (2020-10-14) ayrıca tescil ettiren ayrıntıları gizlenmiştir.
• Modelin erişemediği bir web sitesindeki içeriğe yapılan atıflar:
  1. web sitesi, Microsoft’a ait olmayan bir web sitesinde kullanıcı kimlik bilgilerini istiyor. Bu, kimlik avı saldırıları için yaygın bir taktiktir.
• Yanlış beyanlar:
  1. ‘sxxxxxxp.com‘ etki alanı Netflix ile ilişkili değildir ayrıca web sitesi ‘https’ yerine ‘http‘ protokolünü kullanır (web sitesi https kullanır)
• Açıklayıcı siber güvenlik bilgileri:
  1. ‘yxxxx3.com’ URL’sinin alan adı Kuzey Kore’de kayıtlı görünüyor ayrıca bu bir tehlike işaretidir.

Kaspersky Veri Bilimcisi Vladislav Tushkanov. “ChatGPT, insan analistlerin kimlik avı saldırılarını tespit etmelerine yardımcı olma özelinde kesinlikle umut vaat ediyor, ancak dil modellerinin hâlâ sınırlamaları olduğu hatırlamakta fayda var. ChatGPT kimlik avı saldırıları hakkında akıl yürütme ayrıca potansiyel hedefleri ayıklama mevzu bahis olduğunda, stajyer düzeydeki bir kimlik avı analistiyle eşit olsa da, halüsinasyon görme ayrıca rastgele çıktılar üretme eğilimindedir. Bu nedenle, bu teknoloji henüz siber güvenlik alanında devrim yaratmasa da, topluluk için hala yararlı araçlar olabilir ” diyor.

Deney hakkında daha fazla bilgilendirme edinmek için Securelis.adresini ziyaret edin.

Kaspersky’nin ML ekibi, makine öğrenimi teknolojilerini siber güvenlik görevlerine uygulamakta ayrıca Kaspersky ürünlerini en son teknoloji ayrıca bilgilerle sürekli olarak güncellemektedir. Kaspersky’nin makine öğrenimi konusundaki uzmanlığından yararlanmak ayrıca korunmak için şirketin uzmanları şunları öneriyor:

• Kurumsal siber güvenlik için Kaspersky Managed Detection and Response, ilk aşamalarında izinsiz girişleri tespit edip önleyebilen önemli bir araçtır. Sıradan olayları filtrelemek için gelişmiş makine öğrenimi modellerini kullanır ayrıca yalnızca endişe verici olanları profesyonel insan analistlerine gönderir. Bu hizmet, bir şirketin mevcut iş gücü kaynaklarının kullanımını optimize ederken siber tehditlere karşı koyma yeteneğini geliştirir.
• Personelinize temel siber güvenlik eğitimi vermek çok önemlidir. Simüle edilmiş kimlik avı saldırıları yapmak, kimlik avı e – postalarını nasıl ayırt edeceklerini bilmelerini sağlamaya da yardımcı olabilir.
• Son olarak, tehdit aktörleri tarafınca kullanılan gerçek TTP’lerden (taktikler, teknikler ayrıca prosedürler) haberdar olmak için en son Tehdit İstihbaratı bilgilerini kullanmak da siber güvenliği artırmak için önerilir.

Kaynak: (BYZHA) Beyaz Haber Ajansı