OpenAI's Sora, a new text-to-video tool, has alarmed one AI expert

19.02.2024

Sora'nın ortaya çıkışı, OpenAI tarafından geliştirilen bir generatif yapay zeka aracının sahte video oluşturmanın potansiyel hızlandırılması ve çeşitli endüstriler için bu durumun olası etkileri konusunda endişelere yol açmaktadır. Bu araç, yazılı talimatları alır ve bunları detaylı sahneler, karmaşık kamera hareketleri ve canlı duygular sergileyen çoklu karakterlere sahip orijinal videolara dönüştürme yeteneğine sahiptir.

Şu anda Sora, genel kullanıma açık değildir; OpenAI, geri bildirim toplamak amacıyla kullanımını "kırmızı ekip üyeleri" ve yaratıcı alanlarda seçilmiş bireylere sınırlamıştır. OpenAI ayrıca, güvenlik uzmanlarının aracı değerlendirmesini ve yanlış bilgi ve zararlı içerik oluşturma ile ilgili potansiyel riskleri anlamak amacıyla değerlendirme yapmasını amaçlamaktadır.

Yapay zeka uzmanı Oren Etzioni, generatif yapay zeka araçlarının hızlı evriminin ve bunların demokrasi üzerindeki etkilerinin, özellikle seçim gibi kritik olaylarda endişe yaratıcı olduğunu ifade ediyor. Etzioni, bu teknolojinin kötüye kullanımını önlemek için denge ve denetimlerin gerekliliğine vurgu yapmaktadır. Etzioni, Sora veya benzer teknolojilerin muhtemelen önümüzdeki aylarda genel kullanıma sunulacağını düşünmektedir.

Kimlik doğrulama firması iProov'un Baş Bilimsel Sorumlusu Dr. Andrew Newell, Sora'nın kötü niyetli aktörlerin yüksek kaliteli video deepfake'leri oluşturmasını kolaylaştırabileceği konusunda uyarıda bulunarak, bu durumun sıradan vatandaşlar ve ünlüler dahil bireylere bir tehdit oluşturabileceğini belirtmektedir. Newell, özellikle bankalar gibi video kimlik doğrulama güvenlik önlemlerine güvenen organizasyonların, potansiyel tehditlere karşı korunmak için kendi yapay zeka tabanlı araçlarını geliştirmeleri gerekebileceğini öne sürmektedir.

Araç, içerik oluşturma endüstrilerinde, özellikle de film yapımı, medya ve reklamcılıkta en güçlü şekilde hissedileceği tahmin edilmektedir. Seslendirme ve kısa video oluşturma gibi meslekleri potansiyel olarak sarsabilir. ABI Research'de kıdemli analist olan Reece Hayden, Sora'nın yeteneklerinin pazarlama ve yaratıcı profesyoneller için bir oyun değiştirici olabileceğini, film ve televizyon yapımcılarına insan aktörler yerine yapay zeka üretilen içeriğin yaygınlaşmasına olanak tanıyarak önemli mali tasarruflar sağlayabileceğini belirtiyor.

Ayrıca, Sora'nın kullanıcı dostu arayüzü, sanatsal yeteneklere sahip olmayan bireylerin bile görsel içerik oluşturmasına olanak tanıyabilir ve choose-your-own-adventure tarzı medyanın gelişimine katkıda bulunabilir. Netflix gibi büyük oyuncuların, kullanıcıların talimatlara dayalı kendi içeriklerini oluşturmalarına izin verme olasılığı da belirtilmiştir.

Genel görüş, Sora gibi generatif yapay zeka araçlarının hızlı ilerlemesinin etik ve güvenlik konularının dikkatlice düşünülmesini, uygun güvenlik önlemlerinin ve düzenlemelerin geliştirilmesini gerektirdiği yönündedir.