Microsoft, ABD polis departmanlarının yüz tanıma için AI aracını kullanmasını yasaklıyor

03.05.2024

Microsoft, OpenAI teknolojisi için kapsamlı bir işletme arayüzü olan Azure OpenAI Servisi aracılığıyla yüz tanıma için yapay zeka kullanımını ABD yasal yürütme kurumlarına yasaklanmasını onayladı.

Azure OpenAI Servisi'nin hizmet koşullarında Çarşamba günü tanıtılan dil, Azure OpenAI Servisi'nden gelen entegrasyonların "ABD polis departmanları tarafından yüz tanıma için" kullanılmasını açıkça yasaklıyor. Bu, OpenAI tarafından geliştirilen mevcut ve potansiyel gelecekteki görüntü analiz modelleriyle entegrasyonları kapsıyor.

Koşullara yapılan yeni bir ek, bu kısıtlamanın "küresel olarak herhangi bir yasal yürütme kurumu" için geçerli olduğunu belirtiyor ve "gerçek zamanlı yüz tanıma teknolojisinin" mobil kameralarda, örneğin vücut kameralarında ve göğüs kameralarında kimlik tespiti denemelerini kontrolsüz ortamlarda yapmayı açıkça yasaklıyor.

Bu politika değişiklikleri, askeri ve yasal yürütme için teknoloji ve silah üreten Axon'un, vücut kameralarından ses özetlemek için OpenAI'nin GPT-4 jeneratif metin modelini kullanan yeni bir ürününü tanıtmasının hemen ardından gelmektedir. Halüsinasyonlar gibi potansiyel sorunlar ve eğitim verilerinden kaynaklanan önyargılar gibi konular, özellikle renkli insanların beyaz meslektaşlarına göre polis tarafından durdurulma oranlarına göre endişe verici olarak öne çıkmıştır.

Axon'un GPT-4'ü Azure OpenAI Servisi aracılığıyla kullandığı ve güncellenmiş politikanın Axon'un ürün lansmanı tarafından tetiklenip tetiklenmediği belirsizdir. Daha önce, OpenAI modellerinin yüz tanıma için kullanımı API'ları aracılığıyla sınırlandırılmıştı. Axon, Microsoft ve OpenAI'ye sorular yönlendirildi ve bu gönderi buna göre güncellenecektir.

Güncellenen koşullar, Microsoft'a bazı esneklikler sağlıyor. Azure OpenAI Servisi'nin kullanımına ilişkin açık yasak sadece ABD polis organları için geçerlidir, uluslararası meslektaşlarını kapsamaz. Dahası, bu, ofis ayarları gibi kontrol edilen ortamlarda sabit kameralarla yüz tanıma işlemlerini içermemektedir (ancak ABD polis departmanları tarafından yüz tanıma yapılması koşulları tarafından yasaklanır).

Bu, Microsoft'un ve yakın iş ortağı OpenAI'nin son zamanlarda yasal yürütme ve savunma kuruluşlarıyla ilgili AI ile ilgili etkinliklerine ilişkin duruşuyla uyumludur.

Bu yılın başlarında, Bloomberg, OpenAI'nin Pentagon ile çeşitli projelerde işbirliği yaptığını bildirdi, bunlar arasında siber güvenlik yetenekleri de yer alıyordu ve bu, şirketin önceki politikasından "askeri kuruluşlara AI sağlamaktan kaçınma" bir değişiklik anlamına geliyordu. Ayrıca, Microsoft'un, OpenAI'nin görüntü oluşturma aracı DALL-E'yi, Savunma Bakanlığı'na (DoD) askeri operasyonlar için yazılım geliştirmede yardımcı olmak için kullanmayı önerdiği belirtilmiştir.

Azure OpenAI Servisi, Şubat ayında Microsoft'un Azure Hükümet ürününe dahil edilmiş olup, hükümet kurumları, özellikle yasal yürütme organları için özel uyumluluk ve yönetim özellikleri sunmaktadır. Microsoft'un hükümet bölümü Microsoft Federal'in SVP'si Candice Ling, bir blog gönderisinde, Azure OpenAI Servisi'nin DoD tarafından DoD görevlerini desteklemek için yetkilendirme için daha fazla değerlendirmeye tabi tutulacağını taahhüt etti.