Microsoft CEO'su Satya Nadella, yapay zeka teknolojilerinin insanlığın yararına ve kontrolünde kalması gerektiği yönündeki görüşlerini yineleyerek, hızla gelişen bu sistemler için daha sıkı güvenlik önlemleri alınması gerektiğini savundu. Nadella, şirket çalışanlarına hitaben kaleme aldığı bir mesajda, gelişmiş yapay zeka sistemlerinin insan çıkarlarıyla uyumlu bir şekilde geliştirilmesinin önemini vurguladı. Sosyal medya üzerinden yaptığı açıklamada ise, "süper zeka" arayışının temelinde yapay zekanın insanlığa fayda sağlaması ve daima insan denetiminde kalması ilkelerinin yatması gerektiğini belirtti. Nadella, bu temel prensiplerin sağlanamaması durumunda, böylesine güçlü bir teknolojinin peşinden gitmenin anlamsız olacağını ifade etti.
Yapay zeka için davranış kuralları taslağı
Microsoft AI, kendi yapay zeka modellerinin geliştirilmesi ve kullanımı üzerine taslak bir davranış kuralları belgesi hazırlayarak kamuoyunun görüşüne sundu. Altı hafta boyunca değerlendirilecek olan bu taslak, yapay zeka sistemlerinin "anlamlı insan kontrolü ve gözetimi" altında olması gerektiğini öngörüyor. Taslağa göre, Microsoft'un gelecekteki yapay zeka modelleri, insanların müdahale etme, düzeltme, yönlendirme ve sistemi kapatma gibi girişimlerine izin verecek. Ayrıca, insanlar tarafından belirlenmeyen hedefleri kendi başına benimsemeyecek ve kendisini değerlendiren kişilerden muhakeme süreçlerini gizlemeyecek. Şirket, yapay zekanın bilinçli bir varlık gibi davranmak veya insanları taklit etmek yerine, onlara yardımcı olan bir araç olarak kalmasını hedefliyor. Bu güncellenmiş çerçevenin, 2027'den itibaren geliştirilecek modellere rehberlik etmesi planlanıyor.
Teknoloji sektöründe "frene basma" çağrıları artıyor
Microsoft'un bu açıklamaları, gelişmiş yapay zeka modellerinin kontrolü ve güvenliği konusundaki tartışmalara yeni bir boyut katarken, teknoloji sektöründe benzer sesler yükselmeye devam ediyor. Anthropic CEO'su Dario Amodei, yapay zeka alanındaki en ileri modellerin geliştirilme hızının yavaşlatılmasını ve şirketlerin güvenlik uygulamalarını denetleyecek bağımsız kurumlara tam erişim sağlamasını önerdi. Amodei'nin bu çağrısı, sektördeki rakip firmalardan da destek buldu. OpenAI CEO'su Sam Altman da yapay zekanın ilerleme hızının ayarlanması gerektiğini belirterek, OpenAI'ın bağımsız değerlendirmelere geniş erişim sağlama taahhüdünde bulunacağını duyurdu. Ancak, bu genel eğilimin aksine ABD Başkanı Donald Trump, yapay zekanın geliştirilmesinin yavaşlatılması yönündeki çağrılara karşı çıkarak, küresel rekabette özellikle Çin'in avantaj sağlayabileceği uyarısında bulundu. Trump, yapay zeka güvenliği konusundaki endişeleri "sahtekarlık" olarak nitelendirerek, "Yapay zekayı kim kazanırsa, kazanır" şeklinde konuştu.
