Araştırmacılar Süper Akıllı Bir Yapay Zekayı Kontrol Etmenin İmkansız Olacağını Söylüyor : ScienceAlert


Yapay zekanın insanlığı devirme fikri on yıllardır konuşuluyor ve 2021’de bilim adamları, üst düzey bir bilgisayar süper zekasını kontrol edip edemeyeceğimiz konusundaki kararlarını verdiler. Cevap? Neredeyse kesinlikle hayır.

Buradaki mesele şu ki, insan kavrayışının çok ötesinde bir süper zekayı kontrol etmek, o süper zekanın analiz edebileceğimiz (ve kontrol edebileceğimiz) bir simülasyonunu gerektirecektir. Ama idrak edemiyorsak böyle bir simülasyon yaratmamız mümkün değil.

Yeni makalenin yazarlarına göre, bir yapay zekanın ortaya çıkaracağı senaryoların türünü anlamazsak, ‘insanlara zarar vermemek’ gibi kurallar belirlenemez. Bir bilgisayar sistemi, programcılarımızın kapsamının üzerinde bir düzeyde çalıştığında artık sınır koyamayız.

“Bir süper zeka, tipik olarak ‘robot etiği’ başlığı altında incelenenlerden temelde farklı bir sorun teşkil eder,” araştırmacıları yazdı.

“Bunun nedeni, bir süper zekanın çok yönlü olması ve bu nedenle, insanlar için potansiyel olarak anlaşılmaz olan hedeflere ulaşmak için potansiyel olarak çeşitli kaynakları harekete geçirme yeteneğine sahip olmasıdır.

Takımın mantığının bir kısmı şundan geldi: durma sorunu Alan Turing tarafından 1936’da ortaya atılmıştır. Problem, bir bilgisayar programının bir sonuca ve cevaba ulaşıp ulaşmayacağını (böylece durur) veya sonsuza kadar bir döngü bulmaya çalışıp çalışmayacağını bilmeye odaklanır.

Turing’in bazılarıyla kanıtladığı gibi akıllı matematik, bazı belirli programlar için bunu bilsek de, yazılabilecek her potansiyel program için bunu bilmemize izin verecek bir yol bulmak mantıksal olarak imkansızdır. Bu bizi, süper akıllı bir durumda olası her bilgisayar programını aynı anda belleğinde tutabilecek olan AI’ya geri getiriyor.

AI’nın insanlara zarar vermesini ve dünyayı yok etmesini durdurmak için yazılmış herhangi bir program, örneğin, bir sonuca varabilir (ve durabilir) veya gelmeyebilir – her iki şekilde de kesinlikle emin olmamız matematiksel olarak imkansızdır, yani kapsanamaz.

“Aslında bu, sınırlama algoritmasını kullanılamaz hale getiriyor,” dedi bilgisayar bilimcisi Iyad Rahwan Almanya’daki Max-Planck İnsani Gelişme Enstitüsü’nden 2021’de.

Yapay zekaya biraz etik öğretmek ve ona dünyayı yok etmemesini söylemenin alternatifi – araştırmacıların söylediğine göre hiçbir algoritmanın kesinlikle emin olamayacağı bir şey – süper zekanın yeteneklerini sınırlamaktır. Örneğin internetin bazı bölümlerinden veya belirli ağlardan kesilebilir.

Çalışma bu fikri de reddetti ve yapay zekanın erişimini sınırlayacağını öne sürdü; Argüman, eğer onu insanların kapsamı dışındaki sorunları çözmek için kullanmayacaksak, neden yaratıyoruz?

Yapay zeka ile ilerleyeceksek, kontrolümüz dışında bir süper zekanın ne zaman geldiğini bile bilmeyebiliriz, işte onun anlaşılmazlığı. Bu, gideceğimiz yönler hakkında bazı ciddi sorular sormaya başlamamız gerektiği anlamına geliyor.

“Dünyayı kontrol eden süper akıllı bir makine kulağa bilim kurgu gibi geliyor” dedi bilgisayar bilimcisi Manuel Cebrian Yine 2021’de Max-Planck İnsani Gelişme Enstitüsü’nden. “Ancak programcılar bunu nasıl öğrendiklerini tam olarak anlamadan belirli önemli görevleri bağımsız olarak gerçekleştiren makineler zaten var.”

“Bu nedenle, bunun bir noktada kontrol edilemez ve insanlık için tehlikeli hale gelip gelemeyeceği sorusu ortaya çıkıyor.”

Araştırma, dergide yayınlandı. Yapay Zeka Araştırmaları Dergisi.

Bu makalenin önceki bir sürümü ilk olarak Ocak 2021’de yayınlandı.



Kaynak : https://www.sciencealert.com/researchers-say-itll-be-impossible-to-control-a-super-intelligent-ai

Yorum yapın

SMM Panel PDF Kitap indir