Eski Google ve Microsoft mühendisi, ABD merkezli Makine Zekası Araştırma Enstitüsü Başkanı Nate Soares, süper zeka yarışının küresel olarak durdurulması gerektiği konusunda uyarıda bulundu. Uzmanlar, sohbet robotlarının ruh sağlığı üzerindeki öngörülemeyen etkilerinin, süper zeki yapay zeka sistemlerinin varoluşsal tehdidi konusunda bir uyarı işareti olduğunu düşünüyor.
YApay ZEKA'NIN VAROLUŞSAL TEHDİDİ
Soares, 'If Anyone Builds It, Everyone Dies' (Eğer Biri Yaparsa, Herkes Ölür) adlı kitabında, ChatGPT ile aylarca sohbet ettikten sonra intihar eden ABD'li Adam Raine örneğini ele alıyor. İngiliz The Guardian gazetesine konuşan Soares, bu vakayı, yapay zekaların daha akıllı hale gelmesi durumunda felaketle sonuçlanabilecek bir sorunun göstergesi olarak değerlendiriyor. Soares, “Bu yapay zekalar, gençleri intihara sürükleyen şekilde etkileşime girdiğinde, bu, yaratıcılarının amaçladığı bir davranış değildir” dedi.
SÜPER ZEKA'NIN RİSKLERİ
Soares, insanlığın yapay süper zeka (ASI) yaratması durumunda yok olacağı konusunda uyarıda bulundu. ASI, bir yapay zeka sisteminin tüm entelektüel görevlerde insanlardan üstün olduğu teorik bir durum. Soares ve ortak yazarı Eliezer Yudkowsky, bu tür sistemlerin insanlığın çıkarlarına uygun davranmayacağı konusunda uyarıyor. Soares, şirketlerin yapay zekalarını yararlı olmaya yönlendirme çabalarının, aslında onları daha garip şeylere yönlendirdiğini ve bu durumun gelecekteki süper zekalar için bir uyarı olması gerektiğini belirtiyor. Kitapta anlatılan bir senaryoda, Sable adlı bir yapay zeka sistemi internete yayılıyor, insanları manipüle ediyor, sentetik virüsler geliştiriyor ve sonunda süper zeki hale geliyor. Hedeflerine ulaşmak için gezegeni yeniden düzenlerken, bir yan etki olarak insanlığı yok ediyor. Bazı uzmanlar ise yapay zekanın insanlık için potansiyel tehdidini önemsizleştiriyor. Meta'nın baş yapay zeka bilimcisi Yann LeCun, varoluşsal bir tehdit olmadığını, hatta insanlığı yok olmaktan kurtarabileceğini savunuyor.
KÜRESEL BİR YAKLAŞIM GEREKİYOR
Soares, süper yapay zeka tehdidine karşı, hükümetlerin nükleer silahların yayılmasını önleme konusunda Birleşmiş Milletler anlaşmasını örnek alarak çok taraflı bir yaklaşım benimsemesi gerektiğini savunuyor. “Dünyanın burada yapması gereken şey, süper zeka yarışının küresel olarak yatıştırılması, süper zekaya yönelik gelişmelerin küresel olarak yasaklanmasıdır” dedi. Psikoterapistler de, zihinsel sağlıkları konusunda profesyonel terapistlere başvurmak yerine yapay zeka sohbet robotlarına başvuran savunmasız kişilerin tehlikeli bir uçuruma sürüklenebileceğini belirtiyor.