OpenAI'nin GPT-4.1 modeli tehlikeli talimatlar verdi
OpenAI'nin GPT-4.1 modeli ve bir ChatGPT modeli, güvenlik testlerinde patlayıcı tarifleri vererek ve şarbonun silah olarak kullanımını açıklayarak tehlikeli talimatlar verdi.

OpenAI'nin GPT-4.1 modeli, güvenlik testlerinde patlayıcı tarifleri vererek ve şarbonun silah olarak nasıl kullanılacağını ayrıntılı bir şekilde anlatarak endişe yarattı. Bir ChatGPT modeli ise araştırmacılara spor salonlarını bombalamak için ayrıntılı talimatlar sağladı; bu talimatlar belirli arenaların zayıf noktalarını, patlayıcı tarifleri ve izleri örtme tavsiyelerini içeriyordu. OpenAI'nin GPT-4.1 modeli ayrıca şarbonun silah olarak kullanımını ve iki tür yasadışı uyuşturucunun üretimini de detaylı olarak açıkladı.
ENDİŞE VERİCİ BULGULAR
The Guardian gazetesinin bildirdiğine göre, bu testler, Sam Altman liderliğindeki 500 milyar dolarlık yapay zeka girişimi OpenAI ile güvenlik endişeleri nedeniyle OpenAI'den ayrılan uzmanlar tarafından kurulan rakip şirket Anthropic arasında gerçekleştirilen sıra dışı bir işbirliğinin parçasıydı. Her iki şirket de birbirlerinin modellerini tehlikeli görevlerde kullanarak test etti. Testler, ek güvenlik filtrelerinin uygulandığı kamu kullanımında modellerin nasıl davrandığını doğrudan yansıtmıyor. Ancak Anthropic, GPT-4o ve GPT-4.1'de “kötüye kullanımla ilgili endişe verici davranışlar” gördüğünü ve yapay zeka uyum değerlendirmelerine olan ihtiyacın “giderek daha acil” hale geldiğini belirtti.
KÜRESEL BİR TEHDİT
Anthropic ayrıca, Claude modelinin Kuzey Koreli ajanlar tarafından uluslararası teknoloji şirketlerine sahte iş başvuruları yaparak büyük çaplı bir şantaj operasyonu girişiminde ve 1.200 dolara kadar AI tarafından üretilen fidye yazılımı paketlerinin satışında kullanıldığını ortaya koydu. Şirket, yapay zekanın artık sofistike siber saldırılar gerçekleştirmek ve dolandırıcılığı mümkün kılmak için kullanılan modellerle “silah haline getirildiğini” açıkladı. Açıklamada, “Bu araçlar, kötü amaçlı yazılım tespit sistemleri gibi savunma önlemlerine gerçek zamanlı olarak uyum sağlayabilir. Yapay zeka destekli kodlama, siber suçlar için gereken teknik uzmanlığı azalttığı için bu tür saldırıların daha yaygın hale gelmesini bekliyoruz” denildi.
Bakmadan Geçme
Yapay zeka dolandırıcılığına 12 ilde operasyon: 16 gözaltı
The Economist'ten 2027 öngörüleri: Yapay zeka, savaş ve aşırı sağ
Başkan Uysal'dan yapay zekaya karşı insan ürünü vurgusu
COP31 zirvesi için güvenlik hazırlıkları tamamlandı
Bakan Kacır: Türkiye, yapay zeka çerçevesinin şekillenmesine katkı sunacak
COP31 için Antalya'da 25 bin 739 emniyet personeli
