OpenAI takes steps to boost AI-generated content transparency

09.05.2024

OpenAI, İçerik Kökeni ve Doğruluğu İçin Koalisyon'un (C2PA) yönlendirme komitesinin bir parçası olarak, açık standart metadatasını üretken yapay zeka modellerine dahil edecek ve üretilen içeriğin şeffaflığını artıracak.

C2PA standardı, dijital içeriği kökenlerini kanıtlayan metadatalarla sertifikalandırır; bu içerik tamamen yapay zeka tarafından oluşturulmuş, yapay zeka tarafından geliştirilmiş veya geleneksel olabilir. OpenAI, en son DALL-E 3 modeli çıktılarındaki görüntülere C2PA metadatası eklemeye başladı, bu da ChatGPT ve OpenAI API'ında bulunmaktadır. Bu metadata ayrıca OpenAI'nin yakında daha geniş bir şekilde piyasaya sürülecek olan video üretim modeli Sora'ya da entegre edilecek.

OpenAI şöyle açıklıyor: "Bireyler bu bilgi olmadan hala aldatıcı içerik üretebilirler (veya potansiyel olarak kaldırabilirler), ancak bu bilgiyi kolayca sahteleştiremez veya değiştiremezler, bu da güven inşası için değerli bir kaynak yapar."

Bu adım, bu yıl ABD, İngiltere ve diğer yerlerdeki büyük seçimlerden önce yapay zeka tarafından üretilen içeriğin potansiyel olarak seçmenleri yanıltma endişelerine yanıt veriyor. AI oluşturulan medyanın doğrulanması, manipülasyonu ve diğer manipüle içeriklerin karşılanmasına yardımcı olabilir.

Teknik önlemler gereklidir ancak OpenAI, içerik doğruluğunun pratikte sağlanmasının platformlar, yaratıcılar ve içerik işleyicilerinden kolektif eylem gerektirdiğini kabul ediyor, bu da son kullanıcılar için metadatanın korunması gerektiği anlamına gelir.

C2PA entegrasyonunun yanı sıra, OpenAI, ses ve görüntü tespiti sınıflandırıcıları için aldatılması zor su damgası gibi yeni köken yöntemleri geliştiriyor.

OpenAI, araştırmacı erişim programı aracılığıyla DALL-E 3 görüntü tespiti sınıflandırıcısına erişim başvurularını açtı. Bu araç, bir görüntünün OpenAI'nin modellerinden birinden kaynaklanma olasılığını tahmin eder.

“Our aim is to enable independent research assessing the classifier’s effectiveness, analyzing its real-world application, raising relevant considerations for such use, and exploring the characteristics of AI-generated content,” the company stated.

Şirket, DALL-E 3 görüntülerini yanlışlıkla işaretlenmiş olmayan 'inin ve yapay zeka olmayan görüntülerin azından %0,5'inin yanlışlıkla işaretlendiği konusunda yüksek doğruluk seviyelerine işaret eden iç testler yaptı. Ancak, sınıflandırıcının DALL-E tarafından üretilen görüntüler ile diğer üretken AI modelleri tarafından üretilen görüntüler arasındaki farkı belirlemede daha fazla zorlukla karşılaştığını kabul ediyor.

OpenAI, ses dalgasını şu anda sınırlı önizleme olarak kullanılabilen Voice Engine özel ses modeline entegre etmiştir.

Şirket, standartların artan benimsenmesinin, içeriğin yaşam döngüsü boyunca metadatanın eşlik etmesine neden olacağına inanıyor ve bu da "dijital içerik doğruluğu uygulamalarındaki kritik bir boşluğu ele alacak."

OpenAI, Microsoft ile birlikte, AARP, International IDEA ve Partnership on AI'dan katkılarla, 2 milyon dolarlık bir toplumsal direnç fonu başlatıyor.

OpenAI, "Bahsedilen teknik çözümler gibi aktif savunma araçları sağlasa da, içerik doğruluğunun etkili bir şekilde sağlanması için kolektif eyleme ihtiyaç duyulacağını" belirtiyor.

Şirket, "köken hakkındaki çabalarımız, daha geniş bir endüstri çabasının sadece bir yönüdür - birçok akran araştırma laboratuvarımız ve üretken yapay zeka şirketi de bu alandaki araştırmayı ilerletiyor. Bu çabaları takdir ediyoruz - endüstri, anlayışımızı artırmak ve çevrimiçi şeffaflığı teşvik etmek için işbirliği yapmalı ve bilgileri paylaşmalıdır."