Deepfake’lerden ChatGPT’ye kadar, yanlış bilgiler yapay zekadaki ilerlemelerle gelişiyor: rapor – Ulusal

Yeni bir rapor, yapay zekadaki hızlı ilerlemelerin, yanlış bilgilerin önümüzdeki yıl gelişmesine yardımcı olabileceği uyarısında bulunuyor.

buna göre 2023 için En Büyük Risk RaporuEurasia Group’un ABD merkezli jeopolitik risk analistlerinden yıllık bir belge.

Raporda, hızlı teknolojik yeniliklerden ortaya çıkan “kitlesel yıkım silahlarının” “toplumsal güveni aşındıracağı, demagogları ve otoriterleri güçlendireceği ve işletmeleri ve pazarları bozacağı” belirtildi.

Bu nedenle bu tehdit, yalnızca giderek daha saldırgan hale gelen Çin ve haydut Rusya’nın yarattığı risklerle aşılarak listesinde üçüncü sırada yer aldı.

“Bu yıl, yıkıcı teknolojinin toplumdaki rolü için bir devrilme noktası olacak. Raporda, üretken yapay zeka olarak bilinen yeni bir yapay zeka biçimi, kullanıcıların yalnızca birkaç cümlelik rehberlikle gerçekçi görüntüler, videolar ve metinler oluşturmasına olanak tanıyacak” denildi.

“GPT-3 ve yakında piyasaya sürülecek olan GPT-4 gibi büyük dil modelleri, makinelerin insan zekasını taklit etme yeteneği için bir Rubicon olan Turing testini güvenilir bir şekilde geçebilecek.”

Bu modeller, deepfake (en sevdiğiniz şarkıcıdan başbakana kadar herkesi simüle edebilen dijital olarak değiştirilmiş videolar) alanındaki ilerlemelerle birleştiğinde, yüz tanıma teknolojisi ve ses sentezleme yazılımı “kişinin benzerliği üzerindeki kontrolünü geçmişin bir kalıntısı haline getirecek” uyarısında bulunuyor.

“ChatGPT ve Stable Diffusion gibi kullanıcı dostu uygulamalar, teknolojiden en az anlayan herkesin yapay zekanın gücünü kullanmasına izin verecek” dedi.

Devrim niteliğindeki teknolojiler “insanın ilerlemesini sağlama” gücüne sahip olsa da, bu genellikle “insanlığın en yıkıcı eğilimlerini artırma yetenekleriyle” eşleşir ve rapor, Eurasia Group’un dünyayı uyardığı riskin tam da bu olduğunu ekliyor.

Dezenformasyon ve yanlış bilgilendirme, yapay zekadan bir adım önde olmasa bile, şimdiden jeopolitik sahnede bir sıçrama yaptı.

Akademisyenler tarafından en az altı milyon tweet ve retweet – ve bunların kökenleri – üzerinde yapılan bir analiz, Kanada’nın buradaki kamuoyunu etkilemek için Rusya tarafından hedef alındığını ortaya çıkardı.

Calgary Üniversitesi Kamu Politikası Okulu’nun Haziran ayında yaptığı araştırma, Ukrayna’daki savaşla ilgili çok sayıda tweet ve retweet’in izinin Rusya ve Çin’e kadar uzandığını, Rusya yanlısı duyguları ifade eden daha da fazla tweet’in ABD’ye kadar izlenebildiğini ortaya çıkardı.

Bu aralar moda

• Jeremy Renner kazadan sonra hastaneden ilk fotoğrafını paylaşıyor, ‘herkese’ sevgi gönderiyor

• Adam, içinde 2 çocukla kasıtlı olarak arabayı California uçurumundan aşağı sürmekle suçlanıyor

Bu aralar moda

• ‘Shell şok’: Ontario ailesi büyük Loto Max galibiyetini kutluyor

• UFC başkanı Dana White, eşine tokat attığı videonun ardından ‘utandı’

Şubat 2022’de Ottawa şehir merkezindeki sokakları üç hafta boyunca tıkayan protestolarda COVID-19 aşılarının güvenliği ve etkinliği hakkında yanlış bilgiler yaygındı ve çoklu çalışmalar bulduk botların virüs hakkında yanlış anlatıların yayılmasına yardım etmede ağır bir eli vardı.

Yapay zeka teknolojisi geliştikçe, yanlış bilgi yaymak için kullananlar da dahil olmak üzere bu teknolojiyi kullananlar için olanaklar da gelişiyor.

Raporda, “Bu ilerlemeler, AI’nın insanları manipüle etme ve siyasi kaos yaratma potansiyelinde bir adım değişikliğini temsil ediyor.”

“İçerik oluşturmaya yönelik giriş engelleri artık ortadan kalktığında, içeriğin hacmi katlanarak artar ve bu da çoğu vatandaşın gerçekle kurguyu güvenilir bir şekilde ayırt etmesini imkansız hale getirir. Dezenformasyon gelişecek ve sosyal uyum, ticaret ve demokrasinin zaten zayıf olan temeli olan güven daha da aşınacak.”

Siyasi hedefleri olan insanlar, kendilerini bu hızlı gelişmelerden özellikle güçlenmiş bulabilirler.

“Siyasi aktörler yapay zeka atılımlarını, yan adayları yüceltmek, komplo teorileri ve ‘sahte haberler’ pazarlamak, kutuplaşmayı körüklemek ve aşırılıkçılığı ve hatta şiddeti alevlendirmekle görevli insan benzeri botlardan oluşan düşük maliyetli ordular oluşturmak için kullanacaklar; yankı odaları,” diye uyardı rapor.

“Bu eğilimin bu yıl ABD ön seçim sezonunun ilk aşamalarında ve ayrıca İspanya ve Pakistan’daki genel seçimlerde ortaya çıkacağından hiç şüphemiz yok.”

Kanada hükümeti, çevrimiçi dezenformasyonla mücadele etmek için adımlar atma sözü verdi.

Kasım ayında hükümet bir faturayı masaya yatırdı kanunlaştırmak vaat edilen dijital tüzük. Mevzuat, yapay zeka yayıldıkça çevrimiçi kişisel bilgilere yönelik korumaları modernleştirmeyi amaçlıyor ve aynı zamanda “seçimlerin ve demokratik kurumların bütünlüğünü baltalamak için tasarlanmış çevrimiçi tehditlere ve dezenformasyona karşı koruma” sözü veriyor.

Bu arada, hükümet daha da ileri gitme çağrılarıyla karşı karşıya kaldı.

Miras Bakanı Pablo Rodriguez, çevrimiçi zararlar mevzuatını şekillendirmesine yardımcı olması için bir uzmanlar heyeti atadı. Yaz boyunca, önerilen yasa tasarısının kapsamına – derin sahte videolar ve aldatma yayan botlar dahil – dezenformasyonu dahil etmesi için yalvardılar.

Seçim Kurulu Başkanı Stephane Perrault da Haziran ayında Avam Kamarası’na gönderilen bir raporda hükümeti harekete geçmeye çağırdı. Kanada’nın oylama süreci hakkında bilerek dezenformasyon yaymayı ve meşru bir seçim sonucunu baltalamayı yasadışı hale getirmesini önerdi.

Bu çağrılar yankılanırken, Avrasya Grubu ABD tarzı bölünmenin Kanada’ya yayıldığı konusunda uyarıda bulunuyor.

“Geleneksel medya kuruluşlarına duyulan güvenin azalması” ve “Kanada’nın ABD siyasi ve medya ekosistemine derin ve benzersiz maruz kalması”nın birleşimi sayesinde, En Yüksek Risk Raporu, Kanada’nın “savaşçı partizan ve bölgesel siyasetinin bir yön değiştirmeye hazır olduğu” konusunda uyardı. daha da kötüsü.”

“Siyasi sıcaklık yükseldikçe, Amerikan ve Kanadalı aşırı sağ ve aşırı sol uç gruplar arasında daha yakın koordinasyon göreceğiz – artan aksamalar, protestolar, sivil itaatsizlik ve hatta şiddet riskiyle birlikte” uyarısında bulundu.

“ABD hapşırdığında, Kanada nezle oluyor. 2023’te sınırın kuzeyinde burun akıntısına dikkat edin.”

— The Canadian Press’ten alınan dosyalarla