OpenAI'nin yeni güvenlik ekibi, aralarında CEO Sam Altman'ın da bulunduğu yönetim kurulu üyeleri tarafından yönetiliyor
OpenAI'nin sahip olduğu yaratıldı şirketten iki haftadan kısa bir süre sonra yeni Emniyet ve Güvenlik Komitesi İnsanlığı korumakla görevli ekibi dağıttı Yapay zekanın varoluşsal tehditlerinden. OpenAI'nin güvenlik korkuluklarından sorumlu olan grubun bu son versiyonunda iki yönetim kurulu üyesi ve CEO Sam Altman yer alacak ve bu durum, hareketin kendi kendini denetleme tiyatrosundan biraz daha fazlası olup olmadığı konusunda soruları gündeme getiriyor. Kâr ve hakimiyet için tehlikeli yarış yanında iş ortağı Microsoft.
OpenAI yönetim kurulu tarafından oluşturulan Emniyet ve Güvenlik Komitesi, yönetim kurulu üyeleri Bret Taylor (Başkan), Nicole Seligman, Adam D'Angelo ve Sam Altman (CEO) tarafından yönetilecek. Yeni ekip takipte kurucu ortak Ilya Sutskever ve Jan Leike'nin yüksek profilli istifaları, bu birkaç kaştan fazlasını kaldırdı. Eski “Süper Hizalama Ekibi” yalnızca geçen Temmuz ayında oluşturuldu.
Leike istifasının ardından yazdı 17 Mayıs'ta bir X (Twitter) dizisinde, şirketin temel misyonuna inanmasına rağmen iki tarafın (ürün ve güvenlik) “bir kırılma noktasına ulaşması” nedeniyle ayrıldığını söyledi. Leike, yapay zeka daha akıllı hale geldikçe güvenlikle ilgili sorunları yeterince ele alma yönünde “bir yolda olmadığımızdan endişe duyduğunu” da sözlerine ekledi. Superalignment ekibinin yakın zamanda şirket içinde “rüzgara karşı yelken açtığını” ve “güvenlik kültürü ve süreçlerinin parlak ürünlere arka planda kaldığını” belirtti.
Bir yandan yüksek profilli güvenlik sapmalarının halkla ilişkiler darbesini savuşturmaya çalışırken, bir yandan da öncelikli olarak “parlak ürünlere” odaklanan bir şirketin, bu parlak ürünlere doğru hızla ilerleyen aynı kişiler tarafından yönetilen yeni bir güvenlik ekibi oluşturabileceği alaycı bir yaklaşım olacaktır.
Bu ayın başındaki güvenlik kesintileri şirketten son zamanlarda gelen tek endişe verici haber değildi. Ayrıca başlattı (ve hızla çekildi) yeni bir ses modeli sesi iki kez Oscar Adayı olan Scarlett Johansson'a benziyordu. Jojo Tavşanı aktör daha sonra OpenAI Sam Altman'ın sesini bir yapay zeka modelini eğitmek için kullanma iznini istediğini ancak reddettiğini açıkladı.
Engadget'e yaptığı açıklamada Johansson'un ekibi, OpenAI'nin, kendisine “ürkütücü derecede benzeyen” bir seslendirme sanatçısını, yetkilendirmesini aldıktan sonra seçmesi karşısında şok olduğunu söyledi. Açıklamada, Johansson'un “en yakın arkadaşları ve haber kuruluşlarının aradaki farkı anlayamadığı” ifade edildi.
OpenAI ayrıca aşağılamama anlaşmalarında geri adım atıldı Ayrılan yöneticilerden, onları uygulamayacağını söylemek için tavrını değiştirmesini talep etmişti. Bundan önce şirket, işten ayrılan çalışanlarını şirket aleyhinde konuşabilmek ile kazanılmış özsermayeyi elinde tutmak arasında seçim yapmaya zorluyordu.
Emniyet ve Güvenlik Komitesi, önümüzdeki 90 gün içinde şirketin süreçlerini ve önlemlerini “değerlendirmeyi ve daha da geliştirmeyi” planlıyor. Bundan sonra grup önerilerini tüm yönetim kuruluyla paylaşacak. Liderlik ekibinin tamamı vardığı sonuçları gözden geçirdikten sonra, “kabul edilen tavsiyelere ilişkin bir güncellemeyi emniyet ve güvenlikle tutarlı bir şekilde kamuya açık olarak paylaşacak.”
OpenAI, yeni Emniyet ve Güvenlik Komitesini duyuran blog yazısında şirketin şu anda başarılı olacak bir sonraki modelini eğittiğini doğruladı. GPT-4. Şirket, “Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duysak da, bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz” diye yazdı.
Kaynak: https://www.engadget.com/openais-new-safety-team-is-led-by-board-members-including-ceo-sam-altman-164927745.html?src=rss