OpenAI, ChatGPT’yi Gözetim ve Etki Kampanyaları İçin Kullanan Hesapları Engelledi

OpenAI, yapay zeka destekli bir gözetim aracının geliştirilmesine yardımcı olduğu şüphesiyle bazı hesapları yasakladığını duyurdu.

Şirketin açıklamasına göre, Çin kökenli olduğu düşünülen bir sosyal medya izleme aracı, Meta’nın Llama modelini kullanıyor ve OpenAI’nin yapay zeka modelleri aracılığıyla detaylı analizler ve belgeler oluşturuyordu. Bu sistem, Batı’daki Çin karşıtı protestolar hakkında gerçek zamanlı veri toplayarak Çin yetkilileriyle paylaşmak için tasarlanmıştı.

Bu operasyon, araştırmacılar tarafından “Peer Review” (Akran Değerlendirmesi) olarak adlandırıldı. Araştırmacılar Ben Nimmo, Albert Zhang, Matthew Richard ve Nathaniel Hartley’ye göre, bu araç X, Facebook, YouTube, Instagram, Telegram ve Reddit gibi platformlardaki gönderi ve yorumları analiz ediyordu.

OpenAI’nin tespit ettiği bir örnekte, aktörlerin ChatGPT’yi, “Qianyue Yurtdışı Kamuoyu Yapay Zeka Asistanı” olarak adlandırılan izleme yazılımını hata ayıklamak ve değiştirmek için kullandığı belirlendi.

ChatGPT’nin Kötüye Kullanıldığı Diğer Kötü Amaçlı Kampanyalar

OpenAI, ChatGPT’yi kötüye kullanan başka grupları da tespit etti ve engelledi:

🔹 Sahte İş Başvuruları (Deceptive Employment Scheme): Kuzey Kore bağlantılı bir ağ, sahte iş başvuruları için özgeçmişler, çevrim içi iş profilleri ve ön yazılar oluşturdu. Ayrıca, sahte başvuru sahiplerinin görüntülü görüşmelerden kaçınması veya yetkisiz ülkelerden sisteme erişmesi gibi durumlara bahane uydurmak için ChatGPT’yi kullandı. Bu sahte başvuruların bazıları LinkedIn’de paylaşıldı.

🔹 Propaganda Kampanyası (Sponsored Discontent): Çin kaynaklı olduğu düşünülen bir ağ, ABD karşıtı İngilizce sosyal medya içerikleri ve İspanyolca makaleler üreterek bunları Peru, Meksika ve Ekvador’daki haber sitelerinde yayımladı. Bu faaliyetlerin, daha önce tespit edilen Spamouflage adlı kampanya ile bağlantılı olduğu düşünülüyor.

🔹 Romantik Dolandırıcılık (Romance-baiting Scam): Kamboçya kaynaklı olduğu tahmin edilen bir dolandırıcılık ağı, Facebook, X ve Instagram gibi platformlarda Japonca, Çince ve İngilizce yorumlar üreterek sahte aşk ve yatırım dolandırıcılıklarında kullanıldı.

🔹 İran Etki Ağı (Iranian Influence Nexus): Beş hesap, Hamas ve Filistin yanlısı, İsrail ve ABD karşıtı içerikler üretti. Bu içerikler, İran destekli olduğu bilinen International Union of Virtual Media (IUVM) ve Storm-2035 adlı operasyonlarla ilişkilendirildi.

🔹 Kuzey Kore Siber Tehditleri (Kimsuky ve BlueNoroff): Kuzey Koreli tehdit aktörleri tarafından yönetilen bir ağ, siber saldırı araçları ve kripto para konularında bilgi toplamak için ChatGPT’yi kullandı. Ayrıca, Remote Desktop Protocol (RDP) brute-force saldırıları için kod hata ayıklama işlemleri gerçekleştirdi.

🔹 Gana Seçimleri Üzerinde Etki Operasyonu (Youth Initiative Covert Influence Operation): Gana’daki başkanlık seçimlerini hedef alan bir ağ, “Empowering Ghana” adlı bir web sitesi için İngilizce makaleler ve sosyal medya yorumları üretti.

🔹 Görev Dolandırıcılığı (Task Scam): Kamboçya kökenli olduğu düşünülen bir ağ, insanları basit görevler yaparak (örneğin video beğenmek veya yorum yazmak) para kazanacaklarına inandırarak dolandırdı. Kullanıcıların bu sistemlere erişmesi için para ödemesi gerekiyordu, ancak vaat edilen kazançlar asla gerçekleşmedi.

Yapay Zeka ve Siber Tehditler

Bu gelişme, yapay zeka araçlarının kötü niyetli aktörler tarafından siber saldırılar, dezenformasyon kampanyaları ve dolandırıcılıklar için giderek daha fazla kullanıldığını gösteriyor.

Geçtiğimiz ay, Google Threat Intelligence Group (GTIG), Çin, İran, Kuzey Kore ve Rusya bağlantılı 57 farklı tehdit aktörünün, Gemini AI sohbet botunu kullanarak saldırı döngülerinin çeşitli aşamalarını geliştirdiğini ve güncel olaylar hakkında araştırmalar yaptığını tespit etti.

OpenAI, bu tür tehdit aktörlerine dair edinilen bilgilerin, barındırma sağlayıcıları, yazılım geliştiricileri, sosyal medya platformları ve güvenlik araştırmacılarıyla paylaşılmasının önemine vurgu yaptı.

🚨 Yapay zeka şirketleri ve güvenlik toplulukları arasındaki iş birliği, kötüye kullanımın tespit edilmesi ve önlenmesi açısından kritik bir rol oynamaktadır.

About The Author

Reply