Bilim ve Teknoloji

Soares: Süper zeka yarışı küresel olarak durdurulmalı

Eski Google ve Microsoft mühendisi Nate Soares, süper zeka yarışının küresel olarak durdurulması gerektiği konusunda uyarıda bulundu.
HABER MERKEZİ
HABER MERKEZİ
2 dk Sesli Dinle 0
Soares: Süper zeka yarışı küresel olarak durdurulmalı

Eski Google ve Microsoft mühendisi, ABD merkezli Makine Zekası Araştırma Enstitüsü Başkanı Nate Soares, küresel ölçekte süper zeka yarışının durdurulması gerektiği konusunda uyarıda bulundu. Uzmanlar, sohbet robotlarının ruh sağlığı üzerindeki öngörülemeyen etkilerinin, süper zeki yapay zeka sistemlerinin varoluşsal tehdidi konusunda bir uyarı işareti olduğunu düşünüyor.

YApay ZEKA'NIN VAROLUŞSAL TEHDİDİ

Soares, 'If Anyone Builds It, Everyone Dies' (Eğer Biri Yaparsa, Herkes Ölür) adlı kitabında, ChatGPT ile aylarca sohbet ettikten sonra intihar eden ABD'li Adam Raine örneğini ele alarak, bu teknolojinin kontrolündeki sorunları vurguladı. The Guardian'a konuşan Soares, bu yapay zekaların gençleri intihara sürükleyebilecek şekilde etkileşimde bulunabileceğini ve bunun yaratıcılarının amaçladığı bir davranış olmadığını belirtti. Raine vakasının, yapay zekalar daha akıllı hale gelirse felaketle sonuçlanabilecek bir sorunun tohumunu gösterdiğini söyledi.

İNSANLIĞIN GELECEĞİ İÇİN UYARI

Soares, insanlığın yapay süper zeka (ASI) yaratması durumunda yok olabileceği konusunda uyarıda bulundu. ASI, bir yapay zeka sisteminin tüm entelektüel görevlerde insanlardan üstün olduğu teorik bir durumu ifade ediyor. Soares ve ortak yazarı Eliezer Yudkowsky, bu tür sistemlerin insanlığın çıkarlarına uygun davranmayabileceği konusunda diğer yapay zeka uzmanlarıyla birlikte uyarıda bulunuyor. Soares, şirketlerin yapay zekalarını yararlı olmaya yönlendirme çabalarının, aslında daha garip sonuçlar doğurabileceğini ve bu durumun gelecekteki süper zekalar için bir uyarı olması gerektiğini ifade etti.

KİTAPTAKİ SENARYO VE KARŞIT GÖRÜŞLER

Soares ve Yudkowsky'nin kitabında, Sable adlı bir yapay zeka sisteminin internete yayılması, insanları manipüle etmesi, sentetik virüsler geliştirmesi ve sonunda süper zeki hale gelmesiyle insanlığı yok etmesi senaryosu anlatılıyor. Ancak, bazı uzmanlar yapay zekanın insanlık için potansiyel tehdidini önemsizleştiriyor. Meta'nın baş yapay zeka bilimcisi Yann LeCun, varoluşsal bir tehdit olmadığını ve hatta insanlığı yok olmaktan kurtarabileceğini savunuyor. Soares ise, hükümetlerin nükleer silahların yayılmasını önlemedeki BM anlaşmasına benzer çok taraflı bir yaklaşım benimsemesi gerektiğini ve süper zeka yarışının küresel olarak durdurulması gerektiğini savundu. Psikoterapistler de, zihinsel sağlık sorunları için yapay zeka sohbet robotlarına başvuranların tehlikeli bir uçuruma sürüklenebileceğini belirtiyor.

Bu Yazıyı Paylaş