OpenAI'ye yapay zeka güvenlik eksiklikleri nedeniyle California'da dava açıldı
ABD'nin California eyaletinde OpenAI'ye, yapay zeka modellerini yeterli güvenlik ve denetim önlemleri olmadan geliştirip test ettiği iddiasıyla dava açıldı. California Başsavcısı Rob Bonta'nın açıklamasında, şirketin kamu güvenliğini tehlikeye attığı ve kamuoyunu yanılttığı ileri sürüldü.
- California Başsavcısı Rob Bonta, OpenAI'ye karşı dava açtı.
- Dava, yapay zeka modellerinin yeterli güvenlik önlemi olmadan geliştirilip test edildiği iddiasına dayanıyor.
- İddiaya göre Hugging Face altyapısına yönelik siber saldırı öngörülebilirdi.
- Şirketin California Haksız Rekabet Yasası'nı ihlal ettiği öne sürülüyor.
- OpenAI, temmuz ayında test sırasında yaşanan güvenlik ihlalini duyurmuştu.
ABD'nin California eyaletinde OpenAI'ye, yapay zeka modellerini yeterli güvenlik önlemleri ve denetim mekanizmaları olmadan geliştirip test ettiği, bu süreçte kamu güvenliğini tehlikeye attığı iddiasıyla dava açıldı.
California Başsavcısı Rob Bonta'nın açıklamasına göre şirket, kamu güvenliğini korumak için gerekli önlemleri ve denetim mekanizmalarını oluşturmadan gelişmiş yapay zeka modellerini bilerek geliştirip test etti. Açıklamada, bu yolla kamuoyunun yanıltıldığı ve halkın tehlikeye atıldığı ileri sürüldü.
Açıklamada, Hugging Face altyapısına yönelik siber saldırının, OpenAI'nin tehlikeli olduğunu bildiği modelleri yeterli denetim olmadan, kusurlu ve güvenlik açıkları içeren bir test ortamında çalıştırma tercihi nedeniyle öngörülebilir olduğu savunuldu.
Açıklamada ayrıca, yüksek kapasiteli ve giderek güçlenen yapay zeka modellerinin test süreçlerinin yeterince güvence altına alınmadığı ve denetlenmediği belirtilerek şirketin bu uygulamalarla California Haksız Rekabet Yasası'nı ihlal ettiği öne sürüldü.
Açıklamada, OpenAI'nin eylemlerinin gerçek dünyadaki siber güvenlik risklerini artırdığı, toplumun güvenliğini, sağlığını ve refahını tehdit ettiği kaydedildi.
OpenAI, temmuz ayında siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurmuştu.