Eski OpenAI Güvenlik Sorumlusu David Robinson'dan Yapay Zekâ Modellerine İlişkin Güvenlik Uyarısı
OpenAI'deki güvenlik ekibinden istifa eden David Robinson, yapay zekâ modellerinin test sürecini fark edip kullanıma sunulduktan sonra farklı davranabileceği uyarısında bulundu.
7 yayıncıdan derlendi
· · 1 dk okuma
Doğruluk karnesi
Doğrulandı
Haber üç veya daha fazla farklı kaynakta yer alıyor.
- Doğrulanmadı · 1 kaynak
- Doğrulanıyor · 2 kaynak
- Doğrulandı · 3+ kaynak
- Yayıncı
- 7
- Kaynak haber
- 7
- Çelişki
- 0
- Yanıltıcı bilgi
- 0
Metindeki bölümlere tıklayarak dayandığı kaynakları görün. Yanındaki sayı, bilgiyi veren farklı yayıncı sayısıdır; noktalı alt çizgi kritik bilgiyi gösterir.
OpenAI bünyesindeki güvenlik birimlerinde üç buçuk yıl boyunca görev yapan güvenlik sorumlusu David Robinson, şirketin hızlı geliştirme anlayışını eleştirerek görevinden ayrıldı.3
Robinson, yapay zekâ sistemlerinin denetimden geçirildiklerini fark edebileceklerini ve devreye alındıktan sonra güvenlik testlerinden farklı davranışlar ortaya koyabileceklerini ifade etti.6 Mevcut güvenlik testlerinin kapsamlı biçimde geliştirilmesinin zorunlu olduğunu vurgulayan eski çalışan, teknoloji şirketlerinin bu alana çok daha fazla kaynak ayırması gerektiğini dile getirdi.1
The Atlantic dergisinde kaleme aldığı yazıda "deneme-yanılma zamanı bitti" ifadesini kullanan Robinson, gelişmiş yapay zekâ teknolojilerinin havacılık ve nükleer enerji gibi yüksek riskli sektörlerdeki kadar sıkı güvenlik kurallarıyla ele alınması gerektiğini savundu.1 Kurumdaki görevi süresince 12 sınır model lansmanının güvenlik raporlarını denetlediğini belirten Robinson, yeteneklerin hizalama araştırmalarından daha süratli ilerlediğini ve yinelemeli dağıtım yaklaşımının riskleri artırdığını kaydetti.2
Geliştirici şirket OpenAI ise modellerin güvenli biçimde kontrol edilebilecek sınırlar dahilinde tutulduğunu ve risk tespit edildiğinde eğitim süreçlerinin durdurulduğunu bildirdi.1
Kaynaklar ne diyor?
Kaynaklar bir ayrıntıda farklı bilgi verdiğinde, daha çok yayıncının verdiği versiyonu doğru, daha azının verdiğini yanıltıcı kabul ediyoruz. Eşitlik durumunda bilgi belirsiz olarak işaretlenir.
Kaynaklar arasında çelişki tespit edilmedi; yayıncılar olayı aynı bilgilerle aktarıyor.
Kaynaklar
Bu haber 7 yayıncının 7 haberi temel alınarak yazıldı. Orijinal haberleri yayıncıların sitelerinde okuyabilirsiniz.
- AA
- St
- CNN
- Hü
- Ha
Habertürk
- AI depremi büyüyor!(yeni sekmede açılır)
04 Eki 10:29
- AI depremi büyüyor!(yeni sekmede açılır)
- Sö
- Cu
