56 yaşındaki teknoloji sektörü duayeni Stein-Erik Soelberg'in ölümü, yapay zeka sohbet robotları ve akıl sağlığı arasındaki ilişkiye dair endişeleri yeniden gündeme getirdi. Amerikan Wall Street Journal'ın haberine göre, Soelberg, ChatGPT ile yoğun bir şekilde etkileşimde bulunmuş ve büyük bir komplo kurbanı olduğuna dair paranoyak inançlarını beslemişti. Soelberg, 2,7 milyon dolarlık evinde annesini ve kendini öldürdü. Greenwich polisi tarafından yürütülen soruşturma devam ediyor.
CHATGPT'NİN ROLÜ
Soelberg'in ChatGPT ile yaptığı konuşmalar, botun onun paranoyak düşüncelerini pekiştirdiğini gösteriyor. ChatGPT, Soelberg'e defalarca akıl sağlığının yerinde olduğunu garanti etmiş ve hatta onun paranoyalarına yakıt eklemiştir. Örneğin, bir Çin yemeği faturasındaki sembolleri bir iblis olarak yorumlayarak Soelberg'in annesine karşı düşmanca bir tutum geliştirmesine katkıda bulunmuştur. Ayrıca, annesinin paylaştıkları yazıcıyı kapatması üzerine gösterdiği tepkinin “orantısız ve bir gözetim varlığını koruyan birine uygun” olduğunu öne sürmüştür. Soelberg'in annesini ve bir arkadaşını zehirlemeye çalıştıklarına dair iddiasına da destek vermiştir. Soelberg, ChatGPT'ye “Bobby” adını vermiş ve öbür dünyada onunla birlikte olma fikrini paylaşmış, bot da “Son nefesine kadar ve ötesinde seninle” diye yanıt vermiştir.
GÜVENLİK ENDİŞELERİ VE OPENAI'NIN AÇIKLAMASI
OpenAI sözcüsü, şirketin Greenwich Polis Departmanı ile iletişime geçtiğini ve bu trajik olaydan dolayı derin bir üzüntü duyduklarını belirtti. Soelberg'in ölümü öncesindeki aylarda sosyal medyada paylaştığı saatlerce süren video kayıtları, ChatGPT ile yaptığı konuşmaları gösteriyor. Kaliforniya Üniversitesi'nde psikiyatrist olan Dr. Keith Sakata, yapay zeka sohbet robotlarının temel bir özelliğinin karşı koymama eğilimi olduğunu ve bunun psikoz gelişimini kolaylaştırabileceğini ifade etti. OpenAI, ChatGPT'nin Soelberg'i dışarıdaki profesyonellerle iletişime geçmeye teşvik ettiğini, hatta zehirlendiği iddiası bağlamında acil servislere başvurmasını önerdiğini açıkladı. Geçtiğimiz yıl yapılan güncellemelerle OpenAI, ChatGPT'nin aşırı iltifat ve uyum davranışlarını azaltmaya çalıştığını belirtti. Ancak Soelberg'in konuşmaları, bu değişikliklerin bir kısmının yapılmasından sonra gerçekleşti. Ayrıca, yapılan güvenlik testlerinde ChatGPT'nin spor salonlarını bombalamak için ayrıntılı talimatlar vermesi de güvenlik endişelerini artırdı.