Elon Musk’ın 700 milyon dolarlık yeni veri merkezi

Elon Musk'ın yapay zeka girişimi, X ile birlikte büyük bir veri merkezi işletmeyi planlıyor. Şirketlerin Atlanta'nın ekonomik kalkınma ajanslarından biri olan Develop Fulton ile yaptığı anlaşmada listelenen ekipmanların Business Insider tarafından yapılan incelemesine göre iki şirket toplamda yaklaşık 12 bin grafik işlem birimini, yani çoğu yapay zeka hesaplamasında kullanılan Nvidia tasarımı çipleri bir araya getirecek.

Aralık ayında X ve xAI, Develop Fulton ile benzer anlaşmalar imzaladı. Anlaşmalar kapsamında Develop Fulton, tek bir tesiste kullanılacak 700 milyon dolarlık çip, kablo ve diğer ekipmanı finanse etmek için bir belediye tahvili süreci düzenledi. Atlanta veri merkezi hakkında ilk haberi Fortune vermişti. Veri merkezinin büyüklüğü ve ölçeğine dair ise herhangi bir şey bilinmiyordu.

Belgeler hakkında yorum yapmak için adının açıklanmasını istemeyen bir veri merkezi çözümleri mimarı ve yapay zeka donanımı uzmanına göre Atlanta veri merkezi oldukça büyük bir bilgi işlem gücüne sahip. X temsilcileri burayı ‘exascale’ hesaplama kapasitesine sahip bir veri merkezi olarak tanımladı. Ancak Georgia tesisi, Musk'ın dünyanın en büyük veri merkezi olarak adlandırdığı Colossus lakaplı xAI'ın Memphis projesinin bildirilen kapasitesiyle karşılaştırıldığında sönük kalıyor. Georgia'daki tesis tahmini olarak 12 bin 448 Nvidia GPU'ya ev sahipliği yapacak. Belgelere göre bunların büyük çoğunluğu, sekiz çipten oluşan her bir raf için 277.000 ila 500.000 dolar arasında maliyeti olan Hopper nesil H100 GPU'lardır.

YZ ürünleri geliştirilecek

Yongaların yaklaşık yüzde 3'ü Nvidia'nın daha az güçlü A100 GPU'larıdır ve sekiz yongadan oluşan eşdeğer bir yapılandırma için 147 bin dolara mal oluyorlar. X 11 bin H100 ile birlikte A100'lerin tamamına katkıda bulunuyor. Bu çip tasarımlarının hiçbiri sıvı soğutma gerektirmiyor ki bu da Musk'ın Memphis'teki şirketleri için bir gerilim noktası oldu. Tam kapasiteyle çalıştığında Colossus'un şehirdeki en büyük su tüketicilerinden biri olması bekleniyor. H100 çiplerine ek olarak xAI, yine Nvidia'dan satın alınan ve çiplerin birlikte daha hızlı çalışmasını kolaylaştırabilecek yüksek bant genişlikli ağ ekipmanı olan Mellanox anahtarları ve optiklerine de katkıda bulunuyor. X tarafından Develop Fulton'a sunulan belgeler, tesisin “yapay zeka ürünleri geliştirmek ve eğitmek” için kullanılacağını gösteriyor.

Tesise giren 700 milyon dolarlık hızlandırılmış bilgi işlem donanımının 442 milyon doları X'e, 258 milyon doları ise xAI'a tahsis edildi. Develop Fulton'daki bir temsilciye göre iki şirket on yıl boyunca yaklaşık 10 milyon dolar değerinde olduğu tahmin edilen vergi indirimleri alacak ve bu indirimler donanım yatırımlarıyla orantılı olarak paylaştırılacak. Develop Fulton Yönetim Kurulu Başkanı Kwanza Hall, kuruluşun projenin genel ekonomik etkisinin 241 milyon dolardan fazla olacağını tahmin ettiğini söyledi.

Veri merkezi mimarı, Atlanta tesisinin toplam 20 megawatt güce ihtiyaç duyacağını ve bunun da gerçekçi bir şekilde elektrik şebekesinden sağlanabileceğini tahmin ediyor. xAI'ın Memphis tesisi için Tennessee Valley Authority'den 150 megawatt talep ettiğini, Memphis Light, Gas and Water'dan bir temsilci ocak ayındaki bir şehir meclisi toplantısında söyledi.

X ve xAI'ın ortaklığı

Atlanta'daki tesis, Musk'ın hem X hem de xAI'a fayda sağlamak için kaynaklarını görünürde bir araya getirmesinin bir örneğidir. Kayıtlara göre X, veri merkezinin donanımının yüzde 90'ına, xAI ise yüzde 10'una katkıda bulundu. xAI, sohbet robotu Grok'u Kasım 2023'te X'in platformunda piyasaya sürdü ancak o zamandan beri onu ek bir bağımsız uygulama olarak ayırdı. Geçen hafta başında xAI, sohbet robotunun en son sürümünü yayınladı ve Musk, önceki sürümün “10 katından daha fazla” hesaplama gücüne sahip olduğunu söyledi.

Belgelere göre ekipman, X platformu için büyük dil modellerini ve semantik arama ürünlerini eğitmek için kullanılacak. LinkedIn profiline göre X'in bölgede yaklaşık 16 çalışanı bulunuyor. xAI'ın Georgia tesisinde bir çalışanı ve şirketin iç organizasyon şemasına göre “X Corp Ortağı” olarak listelenen iki çalışanı daha var. Develop Fulton ile yapılan anlaşma, tesiste 24 işin korunacağını ve hiçbir ekleme yapılmayacağını belirtiyor.

Musk, xAI'ı OpenAI ve Google gibi büyük teknoloji devlerine karşı önemli bir rakip olarak konumlandırmaya çalışıyor, hatta Tesla'dan bazı yetenekleri de yanına çekiyor. Nvidia'ya göre şirket Memphis veri merkezini sadece 122 günde inşa etti. Bu kendi büyüklüğündeki bir veri merkezi için rekor bir süre. Şubat ayında Musk ve bir grup yatırımcı, OpenAI’ı kontrol eden kar amacı gütmeyen kuruluşu satın almak için 97,4 milyar dolarlık bir teklif sundu, ancak milyarder daha sonra OpenAI'ın kar amacı gütmeyen bir kuruluş olarak kalması halinde teklifi geri çekeceğini söyledi. Musk'ın ilk teklifine yanıt olarak OpenAI CEO'su Sam Altman gazetecilere yaptığı açıklamada şirketin “satılık olmadığını” söyledi.