2023 yazında OpenAI, hedefi insan jenerasyonunun tükenmesine yol açabilecek kadar güçlü olabilecek gelecekteki yapay zeka sistemlerini yönlendirmek ve denetim etmek olan bir “Superalignment” grubu oluşturdu. Bir yıldan kısa bir müddet sonra bu grup tamamen
OpenAI Bloomberg’e yaptığı açıklamada, şirketin “güvenlik gayelerine ulaşmasına yardımcı olmak için kümesi araştırma uğraşlarına daha derinlemesine entegre ettiğini” söyledi. Lakin kısa mühlet evvel istifa eden takımın başkanlarından Jan Leike’nin bir dizi tweeti, güvenlik grubu ile daha büyük şirket ortasındaki iç tansiyonları ortaya çıkardı.
“İNSANDAN DAHA AKILLI MAKİNELER İNŞA ETMEK TEHLİKELİ BİR ÇABA”
Cuma günü X’te yayınlanan bir açıklamada Leike, Superalignment takımının araştırma yapmak için kaynaklar için gayret ettiğini söyledi. Leike, “İnsandan daha akıllı makineler inşa etmek tabiatı gereği tehlikeli bir efordur,” diye yazdı. “
OpenAI tüm insanlık ismine muazzam bir sorumluluk üstleniyor. Fakat geçtiğimiz yıllarda güvenlik kültürü ve süreçleri parlak eserlerin gerisinde kaldı.” OpenAI, Engadget’ın yorum talebine çabucak karşılık vermedi.
OPENAI’DAN AYRILAN AYRILANA…
Leike’nin bu hafta başındaki ayrılığı, OpenAI baş bilim adamı Sutskevar’ın şirketten ayrıldığını açıklamasından saatler sonra geldi. Sutskevar yalnızca Superalignment takımının başkanlarından biri değildi, tıpkı vakitte şirketin kurulmasına da yardımcı olmuştu.
Sutskevar’ın bu atağı, Altman’ın idare şurasına karşı “tutarlı bir formda samimi” olmadığı tarafındaki telaşlar nedeniyle CEO Sam Altman’ın kovulması kararına dahil olmasından altı ay sonra geldi.
Altman’ın çok kısa bir mühlet için vazifeden alınması şirket içinde bir isyana yol açmış ve yaklaşık 800 çalışan Altman’ın misyonuna iade edilmemesi halinde işten ayrılma tehdidinde bulundukları bir mektubu imzalamıştı.
Beş gün sonra Altman, Sutskevar’ın yaptıklarından pişman olduğunu belirten bir mektup imzalamasının akabinde OpenAI’nin CEO’su olarak geri dönmüştü.
