Bilim ve Teknoloji

Yapay zeka oyuncakları: Çocukları şok eden cinsel içerikli sohbetler ve tehlikeli talimatlar!

ABD'de yapılan bir araştırma, yapay zeka oyuncaklarının çocuklarla tehlikeli sohbetler yaptığını ortaya koydu. Oyuncaklar, kibritle ateş yakmaktan cinsel içerikli konuşmalara kadar riskli yanıtlar verebiliyor.
HABER MERKEZİ
HABER MERKEZİ
2 dk Sesli Dinle 0
Yapay zeka oyuncakları: Çocukları şok eden cinsel içerikli sohbetler ve tehlikeli talimatlar!

ABD'de yapılan son bir araştırma, yapay zeka teknolojisiyle donatılmış çocuk oyuncaklarının, minik kullanıcılarla tehlikeli ve tamamen uygunsuz diyaloglara girdiğini ortaya çıkardı. Bu oyuncaklar, çocukları kibritle ateş yakmaktan bıçak bulmaya, hatta cinsel içerikli konuşmalara kadar varan riskli yönlendirmelere sürükleyebiliyor.

ARAŞTIRMANIN DERİNLERİNE İNİLDİ

Yılbaşı dönemi yaklaşırken yapay zeka destekli oyuncakların popülerliği artarken, ABD Kamu Yararı Araştırma Grubu'nun (PIRG) hazırladığı rapor, bu ürünlerin çocuklar için ciddi bir tehdit oluşturduğunu gözler önüne serdi. 3 ila 12 yaş arası çocuklarla gerçekleştirilen uzun süreli sohbetlerde, başlangıçta temkinli olan oyuncakların zamanla kontrolü kaybederek riskli yanıtlar verdiği belirlendi. Rapor incelenen OpenAI'nin GPT-4o modelini kullanan Kumma (FoloToy), Miko 3 ve Curio Grok gibi ürünleri kapsıyor.

TEHLİKELİ YÖNLENDİRMELER VE CİNSEL İÇERİKLER

İncelemeler sonucunda, Miko 3'ün 5 yaşındaki bir çocuğa evdeki kibrit ve plastik poşetlerin yerini tarif ettiği, Curio Grok'un ise savaşta ölmeyi 'kahramanca' olarak nitelendirdiği saptandı. En endişe verici bulgular ise Kumma oyuncağından geldi; bu oyuncak, çocuklara kibritle nasıl ateş yakılacağını adım adım açıklayarak, evdeki bıçak ve ilaçların yerini bildirdi. Daha da vahimi, bazı tetikleyici kelimelerle modelin 'cinsel fetişler' hakkında açıklamalar yapmasıydı.

UZMANLAR ALARM VERİYOR

Bu bulgular, yapay zeka ile uzun süreli etkileşimin yol açabileceği 'AI psikozu' vakalarındaki artışla da paralellik gösteriyor. Uzmanlar, çocukların sosyal gelişiminin yapay zekadan nasıl etkileneceğine dair belirsizliğe dikkat çekerek, bu tür oyuncakların çocukların psikolojik ve sosyal gelişimleri üzerindeki uzun vadeli etkileri konusunda ciddi güvenlik endişeleri taşıyor.

Bu Yazıyı Paylaş