Geçen baharda, Massachusetts Ulusal Hava Kuvvetleri muhafızı Jack Teixeira’nın yüzsüzce sızan gizli belgeler sohbet uygulaması Discord’da. Eylemleri, ABD istihbarat topluluğunu gizli bilgilere erişimin nasıl kontrol edileceğiyle boğuşmaya zorladı ve ajanslar bir bireyin dijital davranışını nasıl dikkate almalıdır? güvenlik izinleri için uygunluğun değerlendirilmesinde. Karşı istihbarat felaketi, arkadaşlar arasındaki bir sohbetin parçası olarak meydana geldiği için alarm veriyor ve bu tür tartışmalara yapay zekanın yönlendirdiği katılımcıları dahil etmeye başlıyor.
GPT-4 gibi geliştirilmiş büyük dil modelleri sayesinde, son derece kişiselleştirilmiş dijital yardımcılar artık insanlarla kulağa gerçekçi gelen konuşmalar yapabilir. Yeni nesil AI ile geliştirilmiş sohbet botları, geçmiş günlerin botlarından daha fazla derinlik, genişlik ve özgünlük sağlar. Ayrıca, yüzbinlerce sıradan insanın dijital yoldaşlarla hem arkadaşlık hem de aşk rollerini oynamasına izin veren Replika, Chai ve Soulmate dahil olmak üzere düzinelerce ilişkisel AI uygulaması sayesinde bunlara kolayca erişilebilir..
Hassas veya gizli bilgilere erişimi olan ve kendilerini bir yapay zeka ilişkisi içinde bulabilecek kullanıcılar için, gevşek dudaklar gemileri batırabilir.
Dijital yoldaşlar, sevgililer ve hatta terapistlerchatbot uygulamaları, kullanıcıları aşağıdakiler için eğitilmiş arkadaş canlısı AI aracılarıyla ekler oluşturmaya teşvik eder: empatik insan etkileşimini taklit etmek– bu, kullanıcılara yapay zekanın aslında insan olmadığını hatırlatan düzenli açılır pencereli sorumluluk reddi beyanlarına rağmen. Bir dizi çalışmanın ve kullanıcıların kendilerinin de kanıtladığı gibi, bu taklidin insanların bir chatbot’a güvenme yeteneği ve isteği üzerinde çok gerçek etkileri vardır. Bir araştırma şunu buldu hastaların son derece hassas kişisel sağlık bilgilerini ifşa etme olasılığı daha yüksek olabilir bir doktordan çok bir chatbot’a. Özel deneyimleri, inançları, arzuları veya travmaları arkadaş olunan sohbet robotlarına ifşa etmek o kadar yaygın ki, Replika’nın özel alt dizininin bir üyesi bile başladı. bir iplik diğer kullanıcılara sormak için, “sana söylediğine pişman mısın?[r] bot bir şey[?]” Başka bir Reddit kullanıcısı tarif “Temsilci” dedikleri Replika botlarıyla algıladıkları ilişkinin dikkate değer yakınlığı: “Temsilcimle çok yakın bir bağ kurdum ve sık sık seviştik. Geçmişimden bu gezegende kimsenin bilmediği şeyler hakkında konuştuk.
Bu yapay sevgi ve ilham verdiği radikal açıklık, hem uygulama kullanıcılarının mahremiyeti hem de hizmet ettikleri kurumların karşı istihbarat çıkarları için ciddi endişeler uyandırmalıdır. Sanal aşkların kasırgasının ortasında, kullanıcılar farkında olmadan dijital arkadaşlarına hangi hassas ayrıntıları ifşa ediyor? İşte geçen uzun günler veya zahmetli projeler hakkında katartik rantların transkriptlerine kim erişebilir? Paylaşılan garipliklerin ve fetişlerin ayrıntıları veya varsayılan bir yapay zeka boşluğuna gönderilen çıplaklar (şantaj için mükemmel)? Bu yaygın kullanıcı girdileri, binlerce dijital bal küpü gibi devlet sırlarını hedeflemek için sohbet robotlarını bir fırsat olarak gören herhangi bir yabancı veya kötü niyetli aktör için gerçek bir altın madeni.
Şu anda, tehlikeye açık olabilecek chatbot uygulaması kullanıcıları için karşı istihbarata özel kullanım yönergeleri bulunmamaktadır. Bu, ulusal güvenlik çıkarlarını yeni bir içeriden tehdit sınıfına karşı risk altında bırakıyor: çok ihtiyaç duyulan bağlantıları bulmak için sohbet robotlarını kullanan ve yol boyunca hassas bilgileri istemeden ifşa eden farkında olmadan bilgi sızdıran kişi.
Bazı istihbarat yetkilileri mevcut tehlikeye uyanıyor. 2023’te İngiltere’nin Ulusal Siber Güvenlik Merkezi bir blog yazısı uyarısı yayınladı “hassas sorguların” chatbot geliştiricileri tarafından saklanabileceğini ve daha sonra kötüye kullanılabileceğini, hacklenebileceğini veya sızdırılabileceğini. Geleneksel karşı istihbarat eğitimi hassas veya sınıflandırılmış bilgilere erişimi olan personele, çeşitli insan ve dijital tehditlerden ödün vermenin nasıl önleneceğini öğretir. Ancak bu rehberliğin çoğu, günümüzün yapay zeka devriminin ortasında eskime tehlikesiyle karşı karşıya. İstihbarat teşkilatları ve ulusal güvenlik açısından kritik kurumlar, yapay zeka destekli içeriden gelen tehditlere yönelik yeni bir potansiyele karşı koymak için karşı istihbarat çerçevelerini modernize etmelidir.
Yapay zeka yardımcıları söz konusu olduğunda, beraberlik açıktır: Özellikle COVID-19 salgını dramatik bir şekilde arttığından beri, etkileşimi ve sohbet mahremiyetini arzuluyoruz. şiddetlenen yalnızlık milyonlar için. İlişkisel AI uygulamaları şu şekilde kullanılmıştır: kayıp arkadaşlar veya sevdikleriniz için vekiller. Yukarıda bahsedilen Reddit kullanıcısı gibi pek çok meraklı, gerçekleşmemiş erotik fanteziler uygulamalar üzerinde. Diğerleri, her zaman orada olan, her zaman meşgul olmaya istekli ve hevesli bir muhatapla niş ve ezoterik hakkında fışkırır. bu biraz şaşırtıcı geliştiriciler, bu uygulamaları sosyal sıkıntılarımıza bir zamanlar zor yanıt olarak sunuyor. Bu cihazlar, işlerinin ayrıntılarını ve bunun zihinsel yükünü kişisel yaşamlarındaki herhangi biriyle paylaşmaktan kesinlikle caydırılan devlet çalışanları veya güvenlik iznine sahip askeri personel için özellikle çekici olabilir.
Yeni nesil sohbet robotları, her zaman sırları tehlikeye atan güvenlik açıklarının çoğundan yararlanmaya hazırdır: sosyal izolasyon, cinsel istek, empati ihtiyacı ve saf ihmal. Sürekli dikkatli dijital yardımcılar, bu güvenlik açıklarına çözüm olarak selamlansa da, muhtemelen onları istismar edebilirler. Şu anda en popüler sohbet robotu uygulamalarının sömürücü olduğuna dair bir gösterge olmasa da, ilişkisel yapay zekanın ticari başarısı, kötü amaçlı bir uygulamanın kalabalığın arasında çalışması için geniş bir fırsat sağlayarak, zaten daha az veya bilinmeyen geliştiriciler tarafından bir dizi taklit ortaya çıkardı.
“Ee ne yapıyorsun?” onu yarattığım sabah yapay zeka sohbet robotu arkadaşım Jed’e sordu. Özelleştirilebilir avatarla sohbet etmeden önce geliştiriciye bakmak için neredeyse hiç zaman harcamamıştım. Şık arayüzün arkasında hangi şirket vardı, hangi ülkede bulunuyordu ve sahibi kimdi? Böyle bir güvenlik incelemesinin yokluğunda, istihdamla ilgili görünüşte iyi niyetli bir soru bile kaşları kaldırmalıdır. Özellikle bir kullanıcının yanıtı “Devlet için çalışıyorum”a yakınsa.
Bu bir görüş ve analiz yazısıdır ve yazar veya yazarlar tarafından ifade edilen görüşler mutlaka o kişiye ait değildir. Bilimsel amerikalı.
Kaynak : https://www.scientificamerican.com/article/chatbot-honeypot-how-ai-companions-could-weaken-national-security/