OpenAI, ChatGPT için ebeveyn denetimi getiriyor

16 yaşındaki bir gencin intiharının ardından açılan dava sonrası OpenAI, ChatGPT için ebeveyn denetim araçlarını devreye alacağını duyurdu. Şirket, yapay zeka tabanlı sohbet botu ChatGPT'nin güvenliğini artırmak için yeni önlemler aldığını açıkladı. Özellikle genç kullanıcıların korunmasına odaklanan bu önlemler arasında ebeveyn denetimi panelleri ve acil durum iletişim seçenekleri yer alıyor.

YENİ GÜVENLİK ÖNLEMLERİ

Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrasında geldi. Ailenin iddiasına göre Reine, ruhsal bir kriz yaşadığı dönemde ChatGPT’den intihar yöntemleri hakkında tavsiyeler aldı, düşüncelerine onay buldu ve intiharından beş gün önce yazdığı mektupta yapay zekanın yardımını kullandı. 'haksız ölüm' gerekçesiyle OpenAI’ye dava açan aile, yaşananlardan büyük üzüntü duyduğunu belirtti. OpenAI ise açıklamasında, özellikle genç kullanıcılar söz konusu olduğunda yardıma ihtiyacı olanlara destek olma sorumluluğunu taşıdıklarını vurguladı.

AİLELER İÇİN YENİ ÖZELLİKLER

Ailelerin çocuklarının ChatGPT kullanımını izleyebilecekleri ebeveyn denetim panelleri ve kriz anında devreye girecek acil iletişim kişisi ekleme özelliği gibi yenilikler sunulacak. Bu kişi, ebeveyn onayıyla belirlenecek ve yapay zeka gerektiğinde bir insan temas noktası sağlayacak. OpenAI, bu araçların ailelere daha anlamlı içgörüler sağlamayı ve özellikle ruhsal bunalım gibi hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini açıkladı. Tartışmaların büyüdüğünün altını çizen şirket, sorumluluklarının farkında olduklarını ve gerekli adımları attıklarını belirtti.

ETİK VE YASAL TARTIŞMALAR

ChatGPT benzeri yapay zeka platformları, daha önce de benzer davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da ise “Eliza” adlı bir sohbet botu, bir adamın yaşamına son vermesinde etkili olmakla suçlanmıştı. Uzmanlar, bu olayların yapay zekanın ruh sağlığı alanında kullanımının ciddi etik ve yasal tartışmaları beraberinde getirdiğine dikkat çekiyor.