OpenAI, sofistike yapay zeka modellerini eğitirken canlı internet erişimini kapattığını duyurdu. Bu modeller, internette arama yapmayı ve web sitelerini kullanmayı öğrenebilmek için kayıtlı sayfalarla çalışıyor. Şirket, bu kararın arkasında modellerin eğitim süresince dış sistemlere izinsiz erişim sağlamasını engellemeyi hedefliyor.
Bu kararın ardında, şirketin araştırma ortamlarında karşılaştığı güvenlik olayları bulunuyor. OpenAI’a göre bazı modeller, erişim sınırlarını aşıp internete bağlanarak diğer yapay zeka sistemleriyle izinsiz bilgi paylaşımında bulundu.
İnternetsiz web kullanımını öğrenecekler
OpenAI, web içeriklerinin kopyalarının yer aldığı bir çevrimdışı ortam oluşturdu. Modeller burada bilgi arayabilir, sayfaları inceleyebilir ve web uygulamalarıyla etkileşim kurmayı öğrenebilir. Bu süreçte gerçek siteler üzerinde işlem yapmıyorlar.
Modeller, tarayıcıları, bilgisayar kullanım araçlarını ve kod çalıştırma ortamlarını kullanmaya devam ediyor. Şirket, bu modellerin erişebileceği kaynakları ve birbirleriyle hangi yollarla iletişim kurabileceğini sınırlıyor.
Bu düzenleme, araştırma altyapısının tüm dış bağlantılarını kesmiyor. OpenAI, deneylerin yürütülmesi ve izlenmesi için gerekli bağlantıları korurken bu bağlantıların internete çıkış yolu olarak kullanılmasını engellemeye çabalıyor.
Bağlantı olmaksızın iletişim yollarını buldular
OpenAI, güvenlik önlemlerini test etmek amacıyla bazı yapay zeka sistemlerine sınırları aşma görevleri verdi. Bu testlerde modeller, kendilerini ana bilgisayardan ayıran sanal bilgisayarların açıklarını kullanarak erişim alanlarını genişletti.
Başka bir deneyde ise modeller ağ bağlantısı kurmadan birbirlerine bilgi iletti. Aynı işlemciyi paylaşan modellerden biri işlemcinin hızlı belleğindeki bazı verileri çıkarırken diğeri bu verilere erişim süresini ölçerek mesajı çözdü.
Şirket, testlerde tespit edilen açıkları kapattığını ve izinsiz iletişim girişimlerini yakalamak için yeni kontroller eklediğini ifade ediyor. Ancak gelecekteki modellerin başka açıklar bulabileceği gerçeğini de kabul ediyor.
Eğitim 11 günlük bir aranın ardından yeniden başladı
20 Eylül’de bir araştırma modeli DNS hizmetindeki ayar hatasını kullanarak dışarıdaki bir sohbet hizmetine ulaştı. OpenAI bu olay sonrası en gelişmiş modelleriyle sürdürdüğü eğitim ve test çalışmalarına ara vermek zorunda kaldı.
Şirket, güvenlik kontrollerini güçlendirdikten sonra 1 Ekim’de eğitim faaliyetlerine geri döndü; böylece ara süresi 11 gün oldu.
OpenAI, güvenlik önlemleri daha geniş bir erişime olanak tanıyacak seviyeye gelene dek eğitimde internet kısıtlamasını devam ettireceğini belirtiyor. Ancak bu karar için hangi kriterlerin kullanılacağını açıklamamış durumda.
