OpenAI kullanım politikasını değiştiriyor, askeri kullanıma yönelik açık yasağı kaldırıyor

16.01.2024

OpenAI'nin kullanım politikasını yakın zamanda güncellediği ve teknolojisinin askeri uygulamalarına dair açık yasakları kaldırdığı göze çarpıyor. Daha önceki 'silah geliştirme' ve 'askeri ve savaş' uygulamalarına yönelik yasaklar, artık 'hizmetimizi kendinize veya başkalarına zarar vermek için kullanmayın' şeklinde daha geniş bir yasakla değiştirilmiştir. OpenAI, bu değişikliğin belgenin açıklığı ve okunabilirliğini artırmaya yönelik önemli bir yeniden yazımın bir parçası olduğunu belirtiyor.

OpenAI sözcüsü Niko Felix, zarardan kaçınma evrensel ilkesine vurgu yaparken, yeni politikanın askeri kullanım konusundaki belirsizliği konusunda endişeler ortaya çıkmıştır. Güncellenen dil, güvenlik yerine yasalara odaklanmaktadır ve OpenAI'nin güncellenmiş politikayı nasıl uygulamayı amaçladığına dair sorulara yol açmaktadır.

Trail of Bits mühendislik direktörü Heidy Khlaaf, askeri uygulamalara yönelik açık bir yasağın daha esnek bir yaklaşımla değiştirilmesinin, yapay zeka güvenliği için sonuçları olabileceğini belirtiyor. Doğrudan öldürücü yeteneklere sahip olmasa da OpenAI'nin araçlarının askeri bağlamlarda kullanılması, belirsiz ve önyargılı operasyonlara katkıda bulunabilir ve bu da artan zarara ve sivil kayıplarına neden olabilir.

Bu politika değişiklikleri, OpenAI'nin askeri kuruluşlarla iş yapma konusundaki tavrını zayıflattığına dair eleştirilere neden oldu. Eleştirmenler, şirketin uygulama yöntemine dair netlik konusunda vurgu yapılmasını gerektiğini savunuyor.

Neden önemli?

Uzmanlar arasında Lucy Suchman ve Sarah Myers West gibi isimler, OpenAI'nin Microsoft ile yakın işbirliğini, önemli bir savunma yüklenicisi olan Microsoft'un şirketin evrilen politikalarını etkileyebilecek bir etken olarak vurguluyor. Microsoft'un, dil modelinin (LLM) geliştirilmesine 13 milyar dolar yatırım yapmış olduğu OpenAI ile ortaklığı, özellikle dünya çapındaki silahlı kuvvetlerin operasyonlarına makine öğrenimi tekniklerini entegre etmeyi düşündüğü bir dönemde, tartışmaya karmaşıklık katıyor.

OpenAI'nin politika değişiklikleri, Pentagon dahil çeşitli askeri kuruluşların, ChatGPT gibi büyük dil modellerini idari görevlerden (örneğin kağıt işleme) daha karmaşık veri analizi gibi çeşitli uygulamalara adapte etme isteğiyle aynı döneme denk gelmektedir. Dil ve açık yasakların kaldırılması, OpenAI'nin araçlarının askeri bağlamlarda nasıl kullanılmasının potansiyel sonuçları hakkında sorular ortaya çıkarmakta ve savunma sektöründe kullanımlarıyla ilişkilendirilen etik sorunları düşündürmektedir.