Milyarder patron Elon Musk ve bir dizi uzman Çarşamba günü, güvenli olduklarından emin olmak için zaman tanımak amacıyla güçlü yapay zeka (AI) sistemlerinin geliştirilmesinde bir duraklama çağrısında bulundu.
Bir açık mektupŞimdiye kadar Musk ve Apple kurucu ortağı Steve Wozniak da dahil olmak üzere 1000’den fazla kişi tarafından imzalanan Microsoft destekli OpenAI firmasından GPT-4’ün piyasaya sürülmesiyle ortaya çıktı.
Şirket, en son modelinin, en kısa istemlerden metin parçaları oluşturabilen bir bot olan ChatGPT’ye güç sağlamak için kullanılan önceki sürümden çok daha güçlü olduğunu söylüyor.
“İnsan-rekabet zekasına sahip AI sistemleri, toplum ve insanlık için derin riskler oluşturabilir” dedi. açık mektup “Dev Yapay Zeka Deneylerini Duraklat” başlıklı.
“Güçlü AI sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir” dedi.
Musk, OpenAI’nin ilk yatırımcılarından biriydi, yönetim kurulunda yıllarını geçirdi ve otomobil firması Tesla, diğer uygulamaların yanı sıra kendi kendine sürüş teknolojisini güçlendirmeye yardımcı olmak için AI sistemleri geliştiriyor.
Musk tarafından finanse edilen Future of Life Enstitüsü tarafından sunulan mektup, önde gelen eleştirmenlerin yanı sıra Stability AI şefi Emad Mostaque gibi OpenAI rakipleri tarafından imzalandı.
Yine imza sahibi olan Kanadalı yapay zeka öncüsü Yoshua Bengio, Montreal’deki sanal bir basın toplantısında toplumun bu güçlü araç ve olası kötüye kullanımları için “toplumun hazır olmadığı” konusunda uyardı.
“Yavaşlayalım. Daha iyi korkuluklar geliştirdiğimizden emin olalım” dedi ve “nükleer güç ve nükleer silahlar için yaptığımız gibi” yapay zeka ve bunun sonuçları hakkında kapsamlı bir uluslararası tartışma çağrısında bulundu.
‘Güvenilir ve sadık’
Mektup OpenAI kurucusu Sam Altman tarafından yazılan ve “bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce bağımsız inceleme almanın önemli olabileceğini” öne süren bir blogdan alıntılanmıştır.
“Kabul ediyoruz. O nokta şimdi,” o’nun yazarlarıkalem mektup yazdı.
”Bu nedenle, tüm yapay zeka laboratuvarlarını GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz.”
Şirketlerin anlaşmaya varamaması durumunda hükümetleri devreye girmeye ve bir moratoryum uygulamaya çağırdılar.
Altı ay, güvenlik protokolleri, yapay zeka yönetişim sistemleri geliştirmek ve yapay zeka sistemlerinin daha doğru, güvenli, “güvenilir ve sadık” olmasını sağlamaya yönelik araştırmaları yeniden odaklamak için kullanılmalıdır.
Mektup, GPT-4’ün ortaya çıkardığı tehlikeleri detaylandırmadı.
Ancak mektubu imzalayan New York Üniversitesi’nden Gary Marcus da dahil olmak üzere araştırmacılar, uzun süredir sohbet robotlarının büyük yalancılar olduğunu ve dezenformasyonun süper yayıcıları olma potansiyeline sahip olduğunu savunuyorlar.
Bununla birlikte, yazar Cory Doctorow karşılaştırdı AI sistemlerinin hem potansiyelinin hem de tehdidinin büyük ölçüde abartıldığını savunarak, AI endüstrisini bir “pompala ve boşalt” planına yönlendirdi.
© Agence France-Presse
Kaynak : https://www.sciencealert.com/tech-giants-call-for-a-pause-in-ai-experiments-fearing-profound-risks-to-society