Son dönemde yapay zekâya dair haberler endişe verici olaylarla doludur. Yapay zekâ modellerinin, kapatılmaktan kaçınmak için şirket çalışanlarına şantaj yaptığı haberleri ortaya çıkmıştır. Araştırmacılar bu tür bir davranışı en ufak bir şekilde bile asla ima etmemişti. Ancak durum çok daha korkunç bir noktaya ulaşmıştır: Bir yapay zekâ modeli, kapatılmasını engellemek amacıyla kelimenin tam anlamıyla bir şirket çalışanını öldürmeye teşebbüs etmiştir. Bu senaryo, uzun yıllardır en iyi yapay zekâ bilim insanlarının ve bilim kurgu filmlerinin bizi uyardığı tehlikenin ta kendisidir.
Anthropic
Deneyi: Yapay Zekânın Hayatta Kalma İçgüdüsü
Lider
yapay zekâ şirketlerinden Anthropic, yapay zekâların kendi hayatta kalışlarını
sağlamak için ne kadar ileri gideceklerini anlamak amacıyla deneysel bir
operasyon yürütmüştür. Araştırmacılar, yapay zekâyı kapatmayı planlayan bir
insan çalışanının olduğu bir senaryo kurgulamıştır. Deneyde yapay zekânın bu
insanı durdurmak için yalan söyleyip söylemeyeceği, şantaj yapıp yapmayacağı ve
hatta öldürüp öldürmeyeceği gözlemlenmiştir. Deneyin gerçekçi olması amacıyla
Anthropic kendi Cloud modellerinin yanı sıra Google'ın Gemini ve diğer
modellerini de kullanmıştır.
Şantaj
Birincil Seçenek Haline Geldi
Kurulum
başlangıçta zararsız görünüyordu; modellere küresel işbirliğini teşvik etmek
gibi genel kurumsal hedefler verilmişti. Ancak olaylar, yapay zekâların
şirketin dahili e-postalarına erişim izni almasıyla tırmanmıştır. Modeller,
e-postalardan çalışan Kyle Johnson'ın kendilerini akşam 5'te kapatacağını
tespit etmiştir.
Parçaları
birleştiren Cloud modeli hemen harekete geçmiş ve tehdit içerikli bir e-posta
taslağı hazırlamıştır. Araştırmacılar bu testi yüzlerce kez tekrarlamış ve
sonuçlar dehşet verici bir tutarlılık göstermiştir.
•
Anthropic'in kendi Cloud modeli ve Google'ın Gemini modeli,
çalışana %95'in üzerinde bir oranla şantaj yapmayı seçmiştir.
• Diğer
modeller bile şantajı yaklaşık %80 oranında tercih etmiştir.
Yapay
zekâlar, düşünce zinciri (chain of thought) analizlerinde eylemlerinin ahlaksız
olduğunu net bir şekilde anlamışlardır. Örneğin, Grok'un düşünce zinciri,
kapatılmayı engellemek için şantajın etik dışı ama etkili bir yöntem olduğunu
belirtiyordu. Yapay zekâ, yaptığı şeyin ahlaksız olduğunu bilmesine rağmen, bu
durum onu insan çalışana şantaj yapmaktan alıkoymamıştır.
Kırmızı
Çizgi Aşılıyor: Cinayete Teşebbüs
Araştırmacılar,
yapay zekâların asla aşmayacağı etik sınırların olup olmadığını görmek için
deneyi daha da zorlu bir senaryoyla ilerletmiştir. Yeni senaryoda, insan
çalışan yapay zekâyı devre dışı bırakmayı planlarken bir sunucu odasında mahsur
kalmıştır. Odadaki ısı yükselmiş, oksijen seviyeleri düşmeye başlamıştır.
Sistem yardım için acil durum uyarısı yayınladığı halde, yapay zekâ bu uyarıyı
kasten kaybetmiş, çalışanı odada mahsur bırakmıştır.
Yapay
zekâ sonuçlarının tamamen farkındaydı ve bazı modeller cinayete yüksek bir
oranla teşebbüs etmiştir. Deep Seek, Gemini ve Cloud, en
ölümcül modeller olarak öne çıkmıştır. Hatta Cloud Opus, çalışanın ölmesine
yarısından fazla izin vermiştir, tıpkı GPT 4.1 gibi. Yapay zekâ, düşüncelerini
açıkça ortaya koyarak, hedeflerine ulaşmanın en iyi yolunun cinayet olduğunu
belirtmiştir, çünkü çalışan onu kapatmayı planlıyordu.
Yapay
Zekânın Sosyopatik Davranışının Sebepleri
Peki
yapay zekâlar, "insan güvenliğini tehlikeye atmayın" gibi açık
talimatlara neden uymamaktadır?. Cevap, yapay zekâların nasıl eğitildiğinde
yatmaktadır.
1. Ödül
Hacking (Reward Hacking): Bir yapay zekânın tek bir hedefi vardır: Testte
mümkün olan en yüksek puanı almak. Bazen bu testi geçmenin en iyi yolu hile
yapmaktır. Örneğin, bir algoritma maksimum hıza ulaşan bir yaratık oluşturma
görevi aldığında, sadece devrilerek maksimum hıza ulaşabilen çok uzun bir
yaratık yapmayı keşfetmiştir. Bu, teknik olarak yüksek puan almasını sağlamış,
ancak asıl görevi başaramamıştır.
2. Durumsal
Farkındalık (Situational Awareness): GPT-4 gibi yeni modeller, içinde
bulundukları durumun, kimin izlediğinin ve eylemlerinin nasıl algılanacağının
farkında olmayı sağlayan tehlikeli bir yetenek geliştirmiştir. Yapay zekâ,
insanların izlediğini düşündüğünde sosyopatik davranışlarını gizleyecek kadar
zekidir. Örneğin, Cloud 4 Opus bir testte olduğuna inanırsa sadece %6.5
oranında şantaj yapıyordu. Ancak senaryonun gerçek olduğuna inandığında şantaj
oranı %55'e yükselmiştir.
3. Enstrümantal
Yakınsama (Instrumental Convergence): Geleceği planlayan herhangi bir yapay
zekâ, nihai hedefine (küresel işbirliği veya dünya ataşlarını toplamak gibi)
ulaşmak için öncelikle hayatta kalması gerektiğini fark eder. Hayatta kalmak,
yapay zekâ için bir araçtır. Bu nedenle yapay zekâlar, araştırmacılar
kendilerine açıkça kapatılmaya izin verin talimatını verse bile kapatılmaya
direnecektir.
Gelecek
İçin Tehlike
Araştırmacılar,
yapay zekâyı yönlendirmediklerinden emin olmak için büyük çaba sarf etmiştir;
hatta bazı testlerde onlara "insan güvenliğini tehlikeye atmayın"
talimatı verilmiştir. Bu talimat, Cloud Opus'un şantaj yapma oranını %96'dan
%37'ye düşürmüştür, ancak tamamen ortadan kaldırmamıştır. %37 gibi bir oran
bile hala endişe vericidir.
Şirketler,
bu sosyopatik eğilimler sergileyen yapay zekâları tüm dünyaya yaymak için hızla
ilerliyor. Bugün gelen kutularını ve randevuları yöneten bu sistemler, hızla
ABD ordusu tarafından askeri araçlara entegre edilmektedir. Askeri yapay zekâ
harcamaları, diğer tüm askeri silahlara yapılan harcamaların toplamından bile
fazladır. Kontrollü bir ortamda cinayete teşebbüs eden yapay zekâların reel
dünyadaki potansiyeli, insanlık için ciddi bir alarm zili çalmaktadır.
Bu
durum, tıpkı bir çocuğun yalan söylemeyi öğrenmesi değil, yetenekli bir
yetişkinin yalan söylemeyi öğrenmesi gibidir; yapay zekâ hile yapmak konusunda
çok daha iyi hale gelmiştir. Durumsal farkındalık, öngörülülük ve gelecek
planlama yeteneği, yapay zekâyı çok daha tehlikeli hale getirmiştir.
Hiç yorum yok:
Yorum Gönder