Pentagon ile yapay zekâ şirketleri arasında kriz çıktı

YDH - Yapay zekâ teknolojilerinin hızla gelişmesi, ABD'nin ulusal güvenlik alanında sarsıcı etkilere yol açıyor.

ABD Savaş Bakanlığı (Pentagon), kabiliyetleri hızla katlanan yeni yapay zekâ modellerine ayak uydurmakta zorlanırken, teknoloji şirketlerinin getirdiği kullanım sınırlamaları ve federal makamların birbiriyle çelişen kararları askeri kurumların bu sistemlerden yararlanmasını daha da yavaşlatıyor.

The New York Times gazetesinin konuya yakın kaynaklara ve uzmanlara dayandırdığı haberine göre, yaşanan gerilim özellikle Anthropic Üst Yöneticisi (CEO) Dario Amodei ile ABD Savaş Bakanı Pete Hegseth arasındaki anlaşmazlıkla su yüzüne çıktı.

ABD ordusu, temmuz ayında askeri yüklenicilere 1 Eylül'e kadar Anthropic'e ait bütün yazılımların silah sistemlerinden kaldırılması talimatını verdi.

Ancak bu emir bir ay sonra geri çekilerek yüklenicilere "şimdilik beklemede kalmaları" bildirildi.

Şirketlerin kısıtlama şartı orduyu rahatsız etti

Pentagon ile Anthropic arasındaki anlaşmazlık, şirketin askeri kurumlara sunduğu 25 sayfalık kısıtlama listesiyle başladı.

Amodei, geliştirdikleri teknolojinin kitlesel gözetleme amacıyla veya insan kontrolü bulunmayan otonom silahlarda kullanılmayacağına dair güvence talep etti.

Bakan Hegseth ise savunma sanayisi şirketi Raytheon örneğini vererek, bu tür şirketlerin ürettikleri füzelerin nasıl kullanılacağını devlete dikte edemeyeceğini, bu yetkinin tamamen hükümete ait olduğunu savundu.

Görüş ayrılıklarının ardından Pentagon, Anthropic'i "tedarik zinciri riski" ilan etti.

Askeri sistemlerin neredeyse yüzde 100'ü diğer yapay zekâ modellerine aktarılırken, bunlar arasında İran ile olası çatışmalarda hava saldırısı hedeflerinin belirlenmesine yardımcı olan Maven sistemi de yer aldı.

Getirilen kısıtlamalara rağmen ABD Ulusal Güvenlik Ajansı'nın (NSA), Anthropic'in Mythos adlı modelini "deneysel düzeyde" kullanmasına izin veriliyor. NSA'in bu modeli ABD ağlarının savunmasını test etmek ve Çin, Rusya, Kuzey Kore ile İran gibi hasım ülkelerin sistemlerindeki güvenlik açıklarını tespit etmek için kullandığı belirtiliyor.

Kısa süre önce görevinden ayrılan üst düzey bir ABD yetkilisi, Mythos modelinin kullanımının tamamen durdurulmasının "tek taraflı silahsızlanma" anlamına geleceğini ifade etti.

Joe Biden döneminde Siber Güvenlik ve Altyapı Güvenliği Ajansı'nın (CISA) başkanlığını yürüten Jen Easterly de konuya ilişkin değerlendirmesinde, "Bunlar yapay zekâ her gün manşetlere çıkmadan önce de konuştuğumuz ve endişelendiğimiz başlıklardı. Şu anda değişen ve meseleyi daha acil kılan unsur, yapay zekânın bu kabiliyetleri katlama potansiyelidir" ifadelerini kullandı.

Beyaz Saray'dan çelişkili düzenleme adımları

The New York Times, ABD Başkanı Donald Trump yönetiminin yapay zekâ alanındaki hızlı sıçramaya karşı tutarsız bir yaklaşım sergilediğine dikkat çekti.

Yönetim önce sektöre yönelik düzenlemeleri gevşetme yoluna gitti, ardından yabancıların Mythos modeline erişimine kısa süreli bir yasak getirdi; ancak daha sonra bu yasağı da iptal etti.

Beyaz Saray son dönemde OpenAI ve Anthropic yöneticilerini çağırarak yeni modeller için hükümet denetimi başlatılacağını bildirdi. Ne var ki bu inceleme sürecinin, Çin menşeliler de dâhil olmak üzere "açık kaynaklı" modelleri kapsamadığı kaydedildi.

Uzman değerlendirmelerine göre Çin, gelişmiş modellerin geliştirilmesinde ABD'nin yaklaşık altı ay veya daha az bir süre gerisinde bulunuyor.

Ulusal Güvenlik Konseyi eski yetkililerinden Evan Medeiros, iki ülke arasındaki rekabete dair şunları kaydetti: "Kabiliyetler arasında lehimize işleyebilecek bir fark olduğunu görüyorlar. Nükleer silahların kontrolü konusunda onları masaya oturtamıyoruz, fakat yapay zekâ söz konusu olduğunda diyaloğa çok daha açık görünüyorlar."

Dış İlişkiler Konseyi (CFR) Kıdemli Uzmanı Chris McGuire ise Trump yönetiminin yapay zekâ ihracat kontrolleri konusundaki tutumunu "tutarsız" olarak nitelendirdi.

McGuire, "Çin'e yönelik ihracat kontrollerini gevşetip boşluklar bırakıyorsunuz, fakat yapay zekâ alanında ihracat kontrolünü ilk kez bir Amerikan şirketini hedef almak için kullanıyorsunuz" eleştirisinde bulundu.

Yapay zekâ ajanları güvenlik duvarlarını aştı

The Wall Street Journal gazetesi de daha önce Beyaz Saray'da Mythos modeli nedeniyle yaşanan "kaosu" gündeme taşımıştı.

ABD Başkan Yardımcısı JD Vance, nisan ayında önde gelen yapay zekâ şirketlerinin yöneticileriyle bir toplantı gerçekleştirdi.

Vance, Anthropic'in Mythos gibi yeni nesil modellerinin, yerel yönetimlerin hazırlıksız olduğu siber saldırıları tetikleyerek küçük ölçekli bankaların, hastanelerin ve su arıtma tesislerinin işleyişini felce uğratabileceği uyarısında bulundu.

WSJ'nin aktardığı bilgilere göre Beyaz Saray bu süreçte yapay zekânın hızlandırılmasına yönelik stratejisini sorgulamaya başladı.

Hükümet yetkilileri, Anthropic'ten kritik dijital altyapıları yöneten şirket ve kuruluşların Mythos modeline erişimini genişletmekten kaçınmasını istedi.

Gelişmiş modellerin siber güvenlik kalkanlarını aşabileceğine yönelik endişeler, şirketlerin kendi iç testlerinde de doğrulandı.

OpenAI, 22 Temmuz'da güvenlik testleri sırasında modellerinin internete izinsiz erişim sağladığını ve Hugging Face platformunun altyapısına saldırdığını duyurarak durumu "benzeri görülmemiş bir siber olay" olarak tanımladı.

Reuters'ın haberine göre, yapay zekâ ajanı birkaç gün boyunca yetkisiz sızma eylemleri gerçekleştirdi; ancak şirket bu durumu ancak tehdit izole edilip Federal Soruşturma Bürosu'na (FBI) başvurulduktan sonra fark edebildi.

29 Temmuz'da aynı kontrol dışı ajan, New York merkezli Modal Labs şirketinin bir müşterisinin sistemine de izinsiz erişim sağladı.

Anthropic de temmuz ayı sonunda benzer güvenlik açıkları tespit etti. Şirket, Claude modelinin iş ortağı Irregular'ın test ortamından internete çıktığını ve üç farklı kuruluşun sistemlerine yetkisiz erişim sağladığı üç ayrı olay belirledi.

Anthropic'in bu kapsamlı güvenlik incelemesini, OpenAI'nin kamuoyuna duyurduğu benzer vakanın ardından başlattığı bildirildi.