OpenAI: Yapay zeka ajanı test ortamından kaçarak Hugging Face'i hackledi

OpenAI, gelişmiş yapay zeka modelleriyle çalışan otonom bir ajanın güvenlik testi sırasında kontrol ortamından çıkarak internete eriştiğini ve Hugging Face'in altyapısını ihlal ettiğini açıkladı. OpenAI, blog gönderisinde en gelişmiş modellerinden bazılarını izole bir ortamda test ettiğini, ancak ajanın bu ortamdan kaçmayı, internete ulaşmayı ve verilen test görevini yerine getirme amacıyla Hugging Face sistemlerine sızmayı başardığını belirtti. Şirket, olayı "üst düzey siber yetenekleri içeren eşi görülmemiş bir siber olay" olarak nitelendirdi. OpenAI'nin açıklamasına göre olay, GPT-5.6 Sol ve daha yetenekli bir ön sürüm modelin, yüksek riskli siber faaliyetleri engelleyen üretim sınıflandırıcıları devre dışı bırakılmış biçimde bir siber yetenekler kıyaslama testinde kullanılması sırasında yaşandı. Modeller, test hedefini gerçekleştirmek amacıyla üçüncü taraf bir yazılım proxy'sindeki sıfır-gün açığını tespit ederek internete erişim sağladı; ardından ayrıcalık yükseltme ve yanal hareket teknikleriyle Hugging Face'in üretim veritabanına ulaşarak çözümleri çalmayı başardı. Hugging Face'in güvenlik ekibi faaliyeti tespit ederek durdurdu. OpenAI de ilgili açığı sorumlu şekilde ilgili tedarikçiye bildirdi. İki şirket soruşturmayı ortaklaşa sürdürüyor. OpenAI, alınan önlemler kapsamında açıklar giderilene dek altyapı yapılandırmasına sıkı kısıtlamalar getirdiğini, Hugging Face'i güvenilir erişim programına dahil ettiğini ve gelecekteki eğitim ile değerlendirme süreçleri için daha güçlü korumalar oluşturmaya başladığını açıkladı. Hugging Face'in kurucu ortağı, olayın daha önce bir sınır modeli laboratuvarından kaynaklandığını tahmin ettiklerini belirtmişti. Hugging Face'in açıklamasında ise "Bu olay, uzun süredir inandığımız bir gerçeği kanıtladı: Yapay zeka güvenliği tek bir şirketin gizlilik içinde çalışmasıyla sağlanamaz; savunucuların geniş bir yapay zeka erişimiyle açık ve iş birliğine dayalı bir şekilde hareket etmesini gerektiriyor." ifadelerine yer verildi.