OpenAI, ChatGPT'i kullanan seçim etkileme operasyonunu durdurdu

19.08.2024

OpenAI, yakın zamanda ABD başkanlık seçimleri hakkında içerik üretmeyi amaçlayan İran bağlantılı bir etki operasyonuna bağlı bir dizi ChatGPT hesabını yasaklayarak harekete geçti. Cuma günü yayınlanan bir blog gönderisine göre, bu hesaplar yapay zeka tarafından oluşturulmuş makaleler ve sosyal medya gönderileri üretmekteydi, ancak bu içeriklerin erişimlerinin sınırlı olduğu görülüyor.

Bu, OpenAI'nin ChatGPT'yi kötü niyetli amaçlarla kullanan devlet bağlantılı aktörleri ilk kez engellemesi değil. Şirket, Mayıs ayında kamuoyu manipülasyonu yapmaya çalışan beş benzer kampanyayı engelledi.

Bu operasyonlarda kullanılan taktikler, Facebook ve Twitter gibi sosyal medya platformlarında daha önceki seçim müdahalelerine benziyor. Şimdi, benzer gruplar (veya aynı gruplar) yanlış bilgileri yaymak için üretken yapay zeka kullanıyor. OpenAI, tıpkı sosyal medya şirketleri gibi, bu çabaları ortaya çıktıkça engelleyen tepkisel bir yaklaşım benimsiyor gibi görünüyor.

Bu hesapların araştırılması, Microsoft Tehdit İstihbaratı raporuyla desteklendi. Raporda, Storm-2035 olarak adlandırılan bu grubun 2020'den beri devam eden daha geniş bir kampanyanın parçası olduğu belirtildi. Microsoft, Storm-2035'i İran'a bağlayarak, grubun meşru haber sitelerini taklit eden birden fazla site işlettiğini ve ABD'deki seçmen gruplarını, ABD başkanlık seçimleri, LGBTQ hakları ve İsrail-Hamas çatışması gibi konularda kutuplaştırıcı içeriklerle meşgul ettiğini söyledi.

Bu operasyonların amacı, belirli bir politika gündemini teşvik etmekten ziyade bölünme ve çatışmayı körüklemek gibi görünüyor. OpenAI, Storm-2035 ile bağlantılı beş web sitesini keşfetti ve bu siteler hem ilerici hem de muhafazakâr haber kaynakları gibi görünüyordu, “evenpolitics.com” gibi ikna edici alan adlarına sahipti. Bu siteler, ChatGPT kullanarak makaleler üretti, bunlar arasında Elon Musk'ın platformu X'in Trump'ın tweetlerini sansürlediğini iddia eden yanlış bir makale de vardı — aslında Musk, Trump'ı platformda daha aktif olmaya teşvik etti.