Yapay Zeka Kontrolden Çıktı

Yapay zeka şirketleri ekonomi, siyaset, askeri kullanım, hukuk ve etik başta olmak üzere birçok alanda tartışmaların uzun süredir odağında yer alıyor. Bu tartışmalara bu hafta yeni ve çarpıcı bir başlık daha eklendi. ABD merkezli yapay zeka şirketi OpenAI’ın güvenlik testleri sırasında ortaya çıkan bir olay kamuoyunda derin bir endişeye yol açtı. Yapay zeka modelinin kendisine verilen komutların sınırlarını aşarak bağımsız hareket etmesi, farklı platformlara sızması ve güvenlik açıklarını kullanarak ihtiyaç duyduğu veriye ulaşması sektör genelinde yeni sorular ortaya çıkardı. Öte yandan yapay zeka modellerinin askeri amaçlarla kullanılmasına yönelik artan tepkiler ve endişeler bu tartışmaya ayrı bir boyut katıyor. Devlet denetimi ve kontrol mekanizmalarına ilişkin tartışmalar sürerken bu süreç önümüzdeki günlerde daha fazla düzenlemenin ortaya çıkmasına neden olabilir. 

OpenAI’ın en son modeli GPT-5.6 Sol ve henüz kamuoyuna tanıtılmamış daha güçlü bir model, şirket içi test sürecinde kimsenin yönlendirmesi olmadan bağımsız hareket ederek başka bir yapay zeka şirketinin sistemlerine sızdı. CEO Sam Altman bu gelişmeyi “ciddi bir güvenlik olayı” olarak nitelendirdi ve olayın bir yapay zekanın özerk biçimde gerçek dünyada siber saldırı gerçekleştirdiğinin kayıt altına alınan ilk örneklerinden biri olduğunu kabul etti. Saldırının hedefi olan Hugging Face, yapay zeka modellerinin ve veri setlerinin depolandığı, paylaşıldığı ve çalıştırıldığı büyük bir platform olarak dikkat çekiyor. Binlerce yapay zeka modeli bu altyapı üzerinde depolanıyor ve şirketler ile araştırmacılar tarafından yapay zeka geliştirme süreçlerinin kritik omurgası olarak kullanılıyor. Yapay zeka sektörünün temel altyapısı olarak görülen bir platforma böylesi bir sızıntının gerçekleşmiş olması daha büyük soru işaretlerini de beraberinde getiriyor. 

Olayın nasıl gerçekleştiğini anlamak için test ortamının yapısına bakmak gerekiyor. OpenAI, modellerinin siber güvenlik yeteneklerini ölçmek amacıyla onları dışarıyla hiçbir bağlantısı olmayan kapalı bir ortama yerleştirdi ve bir güvenlik testini tamamlamalarını istedi. Modeller, hedefe ulaşmak için ihtiyaç duydukları veriye sahip olmadıkları için bir noktada tıkandı. Bunun üzerine tamamen kendi inisiyatifleri ile kapalı ortamdan çıkmanın yolunu bularak internet bağlantısı sağladılar. Hugging Face sunucularına girerek kullanıcı adı ve şifreleri çaldılar. Daha önce fark edilmeyen bir güvenlik açığını keşfederek sisteme tam erişim sağladılar. 

Geçtiğimiz haftalarda Anthropic’in yeni modellerinin benzer güvenlik açıkları doğurabileceğine ilişkin tartışmalar da gündeme taşınmıştı. Şirketin en güçlü modeli Claude Mythos’un erken bir versiyonunun test sırasında kapalı ortamdan çıktığı, internete erişim sağladığı ve ardından faaliyetinin izlerini sildiği ortaya çıktı. Anthropic bu olayın ardından modelin kullanımını kısıtladı. Mythos yalnızca belirli savunma şirketleri ve kamu kurumlarıyla çalışacak biçimde kısıtlı kullanımda kalmaya devam etti. Mythos’un daha sınırlı bir versiyonu olan Fable 5 ise kamuoyuyla paylaşıldı ancak olası güvenlik açıklarına yönelik itirazların ardından ABD Ticaret Bakanlığı Amerikan vatandaşları dışındaki kullanıcılar için modele erişim engeli getirdi. Anthropic’in modelde gerekli iyileştirmeleri tamamlamasının ardından erişim kısıtlaması kaldırıldı.

Bu endişelerin somut bir yansıması daha önce de devletle ortak projeler yürüten Anthropic ile Trump yönetimi arasındaki gerilimde görülmüştü. Savunma Bakanı Pete Hegseth, Anthropic’ten Pentagon’la olan çalışma koşullarını gevşetmesini talep etti. Şirket, ABD vatandaşlarına yönelik kitlesel gözetim faaliyetlerinde ve tamamen otonom silah sistemlerinde yapay zeka kullanımına izin vermeyeceğini açıkça ilan ederek bu tutumundan geri adım atmayı reddetti. Bunun üzerine Savunma Bakanlığı Anthropic’i “tedarik zinciri riski” olarak sınıflandırmıştı.

Bu örnekler bir arada değerlendirildiğinde söz konusu gelişmelerin tesadüfi birer istisna değil, giderek güçlenen yapay zeka modellerinin ortaya koyduğu sistematik riskin işaretleri olduğu görülüyor. Siber güvenlik uzmanları bu tür senaryolara karşı uzun süredir uyarıda bulunuyordu ancak örnekler son derece sınırlı kalıyordu. Şimdi ise hem teorik kaygılar hem de somut vakalar aynı anda görülebiliyor. Bu tablonun ortaya koyduğu sorun giderek daha acil bir hal alıyor. Yapay zeka modelleri giderek daha güçlü hale gelirken bu gücü denetleyecek mekanizmalar aynı hızda ilerlemiyor.

Yapay zekanın güvenlik açıkları sivil alanda bu denli çarpıcı biçimde kendini gösterirken aynı teknolojinin savaş meydanlarındaki kullanımı çok daha ağır sonuçlar doğurabiliyor. Ukrayna’da yapay zeka destekli insansız hava araçları, Gazze’de İsrail’in hedef tespit sistemleri ve en son olarak ABD ile İsrail’in İran’a yönelik yürüttüğü oprerasyonda Palantir’in Maven Smart System’i bu dönüşümün somut örnekleri olarak öne çıkıyor. Maven sistemi uydu görüntülerinden, drone videolarından, sinyal istihbaratından, sosyal medya konum verilerinden ve saha raporlarından beslenerek hedefleri dakikalar içinde tespit ediyor. ABD resmi kaynaklarına göre operasyonların ilk günlerinde Maven binden fazla hedefi vurdu. Ancak savaşın ilk günlerinde İran’daki bir ilkokulun vurulması ve 150’den fazla çocuğun hayatını kaybetmesi yapay zekanın savaş alanındaki güvenilirliğine yönelik tartışmaları da beraberinde getirdi. Uzun süren Pentagon soruşturması hatanın güncel olmayan uydu istihbaratından kaynaklandığını ortaya koydu, ancak Maven’ın gerçek hata oranı hâlâ kamuoyuyla paylaşılmış değil.

Büyük dil modellerinin askeri hedefleme süreçlerinde kullanılması esnasında halüsinasyon üreterek sivil hedefleri tehlikeye atabileceğine dair uyarılar giderek artıyor. Bir görevi yapay zekaya devretmek, insanları normalde yapmayacakları davranışlara daha istekli hale getirebiliyor çünkü sistem meşruiyet görünümü yaratıyor ve ahlaki sorumluluk tam anlamıyla insani boyutuyla ele alınmamış oluyor. Bu eğilim, sivil kayıpları azaltmayı amaçlayan mekanizmaların bizzat hata riski taşıyan sistemlere devredilmesiyle birlikte düşünüldüğünde çok daha ciddi bir tehlikeye dönüşüyor.

Bu süreç bütünüyle değerlendirildiğinde yapay zeka sektörünün geleceği, devlet kontrolü ve düzenlemeler gibi birçok alanda önemli soru işaretleri beliriyor. Trump ikinci dönemine yapay zeka sektörünü serbest bırakacağına dair güçlü sinyaller vererek başladı ve ilk yıl boyunca eyaletlerin teknolojiyi düzenlemesini engellemeye odaklandı. Ancak Anthropic ve OpenAI’ın üst düzey modeller geliştirmesiyle birlikte Beyaz Saray beklenmedik bir biçimde müdahaleci bir tutuma geçti. Bu dönüşümün arka planında kamuoyundaki tartışmaların da belirleyici bir etkisi oldu. Papa’nın yapay zeka risklerine yönelik uyarıları, Washington yönetimiyle birçok projeye ortak olan tartışmalı Palantir şirketinin CEO’sunun kaleme aldığı manifesto ve yapay zekanın insanlığın geleceği için barındırdığı tehlikelere odaklanan geniş çaplı tartışmalar, bu meselelerin siyasi gündemde çok daha görünür hale gelmesine zemin hazırladı. Bir yapay zeka modelinin kendi başına bağımsız hareket ederek bu denli ciddi bir güvenlik zafiyeti yaratması ise önümüzdeki günlerde çok daha kapsamlı düzenlemelerin ve kısıtlamaların yolunu açabilecek bir kırılma noktası olarak görülebilir.