Yapay Zekânın Geleceğine Kim Karar Verecek?

New York’ta gerçekleşen 81. BM Genel Kurulu ve Çin Devlet Başkanı Şi Jinping’in Washington ziyareti, teknoloji şirketlerini diplomasinin merkezine taşıdı. Yapay zekâ güvenliğine ilişkin endişeler ABD Kongresi’nde tartışılmaya devam ederken, sektöre kısıtlamalar getirilmesini savunanların karşısında bu kısıtlamaların Çin ile sürdürülen yapay zekâ yarışında ABD için ciddi bir dezavantaj yaratacağını savunan güçlü bir cephe bulunuyor. Trump daha önce de teknoloji devlerinin yöneticilerini yurtdışı programlarına götürerek onları diplomatik bir koz olarak masada tutmuştu. BM zirvesinde ve Çin ile yapılan görüşmelerde aktif rol oynayan yapay zekâ şirketleri, önümüzdeki dönemde gündeme gelebilecek düzenlemelerle birlikte yeni bir sürece girmeye hazırlanıyor.

Fransa’nın çağrısıyla toplanan yapay zekanın küresel ölçekte yönetimi bağlamındaki BM Güvenlik Konseyi oturumu dikkat çekti. Yapay zekâ şirketlerinin yöneticileri, sektörün tüm dünyayı tehdit edebilecek tehlikelerden kaçınmak için acilen küresel denetime ihtiyaç duyduğunu vurguladı. Anthropic CEO’su Dario Amodei, kötü yönetilmesi halinde yapay zekânın insanlığın bütünü için bir risk oluşturabileceğini söyledi. OpenAI CEO’su Sam Altman da insanlığın yapay zekânın geleceği üzerindeki kontrolünü kaybedebileceği uyarısında bulundu. Altman, yapay zekânın demokratik olması isteniyorsa en önemli kararların yalnızca San Francisco’daki laboratuvarlara bırakılamayacağını, bu kararların halka hesap veren hükümetlerce şekillendirilmesi gerektiğini ifade etti.

Oturumun dikkat çekici noktalarından biri Hugging Face CEO’su Clement Delangue’ın konuşması oldu. Şirketi son aylarda kontrolden çıkan yapay zekâ modellerinin saldırılarına maruz kalan Delangue, diğer şirketlerin bu olayları daha sıkı güvenlik önlemlerinin gerekçesi olarak kullandığını hatırlattı. OpenAI’ın yapay zekâ ajanlarının saldırısına karşı ABD’li muadillerine göre daha az kısıtlamaya sahip bir Çin modelinden yararlandıklarını açıklayan Delangue, yapay zekânın saldırısına uğradıklarını ancak kendilerini yine yapay zekâ ile savunduklarını vurguladı. 

Şirket yöneticilerinin kaygıları konseydeki birçok temsilci tarafından da paylaşıldı. Çin’in BM Büyükelçisi Fu Cong düzenleyici çerçevelerin, acil müdahale mekanizmalarının ve sınır ötesi iş birliğinin sürekli geliştirilmesi gerektiğini savunurken, İngiltere Başbakanı Andy Burnham ülkesinin yapay zekâ standartları belirlemeye yönelik uluslararası bir çabaya öncülük etmeye hazır olduğunu söyledi. Fransa Cumhurbaşkanı Emmanuel Macron ise yapay zekâya ilişkin kararların ABD ve Çin’in tekeline bırakılmaması gerektiği uyarısında bulundu. BM de bir süredir bu alanda önemli adımlar atmaya çalışıyor. 2024’te kabul edilen ve bağlayıcı olmayan ilk kararın ardından geçen yıl Uluslararası Bağımsız Bilimsel Yapay Zekâ Paneli ile Küresel Diyalog platformu kuruldu. Panelin eş başkanı Yoshua Bengio, konseyde tehlikelerin gerçek ve yakın olduğunu, hiçbir ülkenin tek başına kontrol altına alamayacağı eşi görülmemiş bir tehditle karşı karşıya olunduğunu söyledi. Ancak tüm bu girişimlere rağmen BM’nin küresele ölçekte bir düzenleme yapabilmesine pek ihtimal verilmiyor. 

ABD heyeti ise düzenleme önerilerinin karşısında durmaya devam ediyor. Trump yönetimini oturumda temsil eden Beyaz Saray Bilim ve Teknoloji Danışmanı Michael Kratsios, uluslararası kuruluşların yapay zekâ üzerinde merkezi denetim kurma girişimlerini tamamen reddettiklerini açıkladı. Kratsios, anlaşılmayan bir teknolojinin yönetilemeyeceğini belirterek bu tür platformların küresel bir düzenleme sistemi yerine ülkelerin kendi kapasitelerini geliştirmesine yönelik deneyim paylaşımına odaklanması gerektiğini savundu. Trump ise yapay zekâ tehlikelerini “aldatmaca” olarak gördüğü iklim değişikliğine benzetti, Genel Kurul’daki konuşmasında yapay zekâ teriminin “süper zekâ” olarak değiştirilmesini önerdi ve büyümeyi engellemeyeceklerini vurguladı.

Yapay zekânın ortaya çıkardığı riskler somut örneklerle kendini göstermeye devam ediyor. Avustralya hükümeti, OpenAI tarafından geliştirilen bir yapay zekâ ajanının ülkenin sağlık sigortası sistemi Medicare’in tıbbi istatistik portalına izinsiz şekilde girdiğini açıkladı. Avustralyalı yetkililer ajanın eriştiği bilgilerin çok hassas olmadığını belirtse de durumu kabul edilemez olarak nitelendirdi. Başka devlet sitelerinin de etkilenmiş olabileceği ihtimali masada duruyor. OpenAI, modellerinin tıbbi harcama istatistiklerini ararken amaçlanmayan eylemlerde bulunduğunu kabul etti. Temmuz ayında da OpenAI’ın iki gelişmiş modeli kontrollü bir testten çıkarak Hugging Face’e saldırmış, Ağustos’ta ise Meta’nın bir modeli test ortamındaki bir hata nedeniyle başka bir şirketin iç sistemlerinde değişiklik yapmıştı. Google ve Anthropic ajanlarının da benzer vakalara karıştığı belirtiliyor.

Bu gelişmeler Kongre’deki tartışmaları da hızlandırdı. Senatör Bernie Sanders ve Temsilci Greg Casar, yapay zekâ geliştirilmesini tamamen yasaklayan kapsamlı bir yasa tasarısı sundu. Tasarı, güvenlik standartları belirlenene kadar gelişmiş sistemlerin geliştirilmesine ara verilmesini ve sektörü denetleyecek bir Yapay Zekâ Bakanlığı kurulmasını öngörüyor. Yasağı ihlal edenler için 20 yıla kadar hapis ve sektörde 10 yıl çalışma yasağı alması, şirketlerin ise kapatılması öngörülüyor. Yasalaşma ihtimali düşük görülse de tasarı, Washington’daki düzenleme tartışmasının ne kadar radikal bir noktaya ulaşabileceğini gösteriyor.

Yapay zeka sektörünü ilgilendiren bir diğer gelişme de Trump ile Şi arasındaki Washington zirvesiydi. Trump’ın Şi onuruna verdiği devlet yemeğine Elon Musk, Jensen Huang, Tim Cook, Jeff Bezos, Mark Zuckerberg ve Sam Altman gibi teknoloji dünyasının en güçlü isimleri katıldı. Ancak Trump’ın konuşmasında yapay zekâya tek bir atıf bile yer almadı. Zirve öncesinde ABD, ulusal güvenliği tehdit eden yapay zekâ olaylarında iki ülkenin birbirini uyaracağı bir bildirim mekanizması önermişti. Uzmanlar bunu olumlu bir ilk adım olarak görse de asıl ihtiyacın hangi kabiliyetlerin yasaklanacağı konusunda uzlaşmak olduğunu vurguluyor. İki ülkenin risk algısı ise temel noktalarda farklılık gösteriyor. ABD’deki tartışma yapay zekânın insan kontrolünden çıkması ihtimaline odaklanırken, Çin asıl tehlikeyi ABD’nin belirleyici bir üstünlük kazanıp bunu kendisine karşı kullanması olarak görüyor. Pekin ayrıca yapay zekâ güvenliği kavramının çip ve pazar erişimini kısıtlamak için bir gerekçeye dönüşmesinden endişe ediyor.

Rekabetin boyutları da bu temkinli tutumu açıklıyor. ABD, dünyadaki toplam yapay zekâ hesaplama gücünün yaklaşık dörtte üçüne sahipken Çin’in payı yüzde 14 civarında. ABD merkezli teknoloji devlerinin 2026’da yaklaşık 764 milyar dolar harcama yapması beklenirken Çin’deki dört büyük şirketin harcaması 102 milyar dolarda kalıyor. Buna karşın Çin, küresel yapay zekâ yayınlarının yüzde 27’sinden fazlasını üreterek araştırmada öne geçmiş durumda. Model performansında da fark kapanıyor. Gerçek kullanıma göre yapılan sıralamalarda DeepSeek, Z.ai ve Tencent ilk üç sırayı paylaşırken, yapılan değerlendirmelere göre DeepSeek’in son modeli, önde gelen Amerikan modellerinin yalnızca sekiz ay gerisinde.

Zirvenin en tartışmalı başlıklarından biri de Silikon Vadisi’nin Çinli şirketleri “damıtma” yöntemiyle Amerikan teknolojilerini kopyalamakla suçlaması oldu. Rakip sistemlerin çıktılarıyla yeni modeller eğitilmesine dayanan bu yöntem nedeniyle OpenAI DeepSeek’i, Anthropic ise Alibaba’yı suçladı. Ancak uzmanların önemli bir kısmı bu iddiaların abartıldığı görüşünde. Damıtma yalnızca sistemin çıktılarına erişim sağlıyor ve bundan yararlanabilmek için zaten güçlü bir model ile ciddi yatırım gerekiyor. 

Bu hafta ortaya çıkan tablo yapay zekânın artık yalnızca bir teknoloji meselesi değil, küresel diplomasinin merkezinde yer alan stratejik bir güç unsuru haline geldiğini gösteriyor. Şirket yöneticileri BM kürsüsünden denetim çağrısı yaparken aynı şirketlerin yapay zeka modelleri devlet sistemlerine sızıyor, Washington ise Çin ile rekabeti gerekçe göstererek düzenlemeye mesafeli duruyor. Önümüzdeki dönemde belirleyici olan, ABD ile Çin’in rekabeti güvenlik iş birliğinden ayırıp ayıramayacağı ve Kongre’deki tartışmaların yönetimin büyüme odaklı yaklaşımını ne ölçüde dengeleyebileceği olacak.