Bilgisayar korsanları binlerce kötü amaçlı dosyayı yapay zekanın en büyük çevrimiçi deposuna yükledi

Güvenlik araştırmacılarına göre, üretken yapay zekanın birincil çevrimiçi deposu olan Hugging Face, yapay zekaya ve bulut operatörlerine ödeme yapmak için kullanılan token'lar da dahil olmak üzere verileri bozabilen ve bilgileri çalabilen gizli kodlar içeren binlerce dosyayı barındırıyor.

Güvenlik girişimleri ProtectAI, Hiddenlayer ve Wiz'in araştırmacıları, aylardır bilgisayar korsanlarının Hugging Face'in sitesine "kötü amaçlı modeller" yüklediği konusunda uyarıda bulunuyordu. Hugging Face sitesinde şu anda indirilmeye hazır bir milyondan fazla model bulunuyor.

Protect AI'nın CEO'su ve kurucusu Ian Swanson, "Sisteminize kötü amaçlı kodlar sokmaya çalışan eski Truva atı bilgisayar virüsleri AI çağı için evrim geçirdi" dedi. Seattle, Washington merkezli girişim, bu yılın başlarında Hugging Face'i taramaya başladığında 3.000'den fazla kötü amaçlı dosya buldu.

Swanson'a göre bu kötü aktörlerden bazıları, dikkatsiz kişilerin indirmelerini sağlamak için Meta veya diğer teknoloji şirketleri gibi davranan sahte Hugging Face profilleri bile oluşturuyor. Hugging Face'in taranması, Facebook, Visa, SpaceX ve İsveçli telekomünikasyon devi Ericsson gibi şirketler gibi davranan bir dizi sahte hesabı ortaya çıkardı.

Swanson, genomik test girişimi 23AndMe'den olduğu iddia edilen bir modelin, fark edilmeden önce binlerce kez indirildiğini söyledi. Sahte 23AndMe modelinde gizlenen kötü amaçlı kodun, kurulduğunda AWS parolalarını sessizce arayacağını ve bunun bulut bilgisayar kaynaklarını çalmak için kullanılabileceğini söyledi. Hugging Face, risk konusunda uyarıldıktan sonra modeli sildi.

Hugging Face, ProtectAI'nin kötü amaçlı kodları tarayan aracını artık platformuna entegre etti ve kullanıcılara herhangi bir şey indirmeden önce sonuçları gösterdi. Şirket, Forbes'a 2022'den itibaren OpenAI ve Nvidia gibi büyük şirketlerin profillerini doğruladığını söyledi. Kasım 2021'de, platformda makine öğrenimi modellerini eğitmek için sıklıkla kullanılan dosyaları güvenli olmayan kod açısından taramaya başladı.

Hugging Face'in CTO'su Julien Chaumond, Forbes'a yaptığı açıklamada "Protect AI ile yaptığımız çalışma ve ortaklığın daha birçok şirketin, makine öğrenimi eserlerinin daha güvenilir bir şekilde paylaşılmasını ve benimsenmesini kolaylaştırmasını umuyoruz" dedi.

Kötü amaçlı modellerden kaynaklanan risk, Nisan ayında ABD Siber Güvenlik ve Altyapı Güvenlik Ajansı ile Kanada ve İngiltere'nin güvenlik ajanslarının ortak bir uyarı yapmasını gerektirecek kadar önemliydi. NSA, İngiliz ve Kanadalı meslektaşları, işletmeleri tehlikeli kodlar için önceden eğitilmiş modelleri taramaları ve ardından bunları yalnızca kritik sistemlerden uzak tutmaları konusunda uyardı.

Hugging Face'i hedef alan bilgisayar korsanları genellikle geliştiricilerin siteden indirdiği koda sahte talimatlar yükleyerek modeli ele geçirmek için kullanıyor. Swanson, "Bunlar klasik saldırılar ancak bunlar sadece modellerin içinde gizli," dedi. 

Hugging Face, Ağustos 2023'te 235 milyon dolar topladığında son olarak 4,5 milyar dolar değerindeydi. Clément Delangue, Julien Chaumond ve Thomas Wolf tarafından kurulan sekiz yıllık girişim, 2018'de gençlere yönelik bir sohbet robotu uygulaması işletmekten makine öğrenimi için bir platforma geçti. Şu ana kadar 400 milyon dolar topladı ve AI araştırmacıları için Github olarak adlandırıldı.

Chaumond, "Uzun bir süre boyunca AI bir araştırmacı alanıydı ve güvenlik uygulamaları oldukça basitti. Popülerliğimiz arttıkça, AI topluluğunu hedef almak isteyebilecek potansiyel kötü aktörlerin sayısı da artıyor" dedi.