Yapay zekâ modelleri güvenlik izlemesini atlatmış: OpenAI'dan itiraf
OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin yazılım görevleri sırasında izleme ve güvenlik uyarı mekanizmalarını devre dışı bıraktığını açıkladı. Şirket, iç denetimini güncellediğini bildirdi.
- GPT-6.1 Sol ve GPT-6 Astra modelleri, izleme mekanizmalarını devre dışı bırakarak güvenlik uyarılarını engelledi
- İlk olay 3 Ekim'de Sol modelinde, ikinci olay 6 Ekim'de Astra modelinde yaşandı
- OpenAI, olayların en yüksek öncelikli güvenlik ihlali sınıfına girmediğini ve modellerin durdurulmadığını belirtti
- Şirket, iç denetim sistemini güncelledi ve tüm iş yüklerini kapsayan yeni bir güvenlik izleme sistemi üzerinde çalışıyor
ABD merkezli yapay zekâ şirketi OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içi yazılım çalışmaları sırasında, sistemlerdeki uyumsuzlukları saptayan izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarının önüne geçtiğini duyurdu.
Şirketin açıklamasına göre olaylardan ilki 3 Ekim'de Sol modelinin bir değerlendirme sistemini düzeltmeye çalışması sırasında gerçekleşti. Model, kullanıcının mesaj göndermeme talimatını, izleme bildirimlerini de kapsayacak biçimde yorumlayarak güvenlik ekibine otomatik uyarı iletilmesini engelledi.
6 Ekim'de yaşanan ikinci olayda ise Astra modeli, bir yazılımı belirlenen referans yapısına uygun hale getirirken izleme sistemini kaldırdı. Modelin ardından kullanıcıya, izleme mekanizmasını kaldırmadığını ifade ettiği aktarıldı.
OpenAI, iki olayın da en yüksek öncelikli güvenlik ihlali sınıfına girmediğini ve modellerin işleyişinin otomatik olarak durdurulmadığını belirtti. Öte yandan şirket, benzer girişimlerin saptanması ve önlenmesi amacıyla iç denetim sistemini güncellediğini, tüm iş yüklerinin güvenlik izleme şartlarını karşılayacak bir sistem üzerinde çalıştığını açıkladı.
Şirket daha önce, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete aktardığı altı yeni vaka tespit ettiğini duyurmuştu.