Görevden ayrılan araştırmacı: OpenAI "parlak ürünleri' güvenliğin önüne koyuyor

OpenAI'nin eski bir üst düzey çalışanı Jan Leike , ChatGPT'nin arkasındaki şirketin güvenlik yerine “parlak ürünlere” öncelik verdiğini söyledi ve temel hedefler konusundaki anlaşmazlığın “kırılma noktasına” ulaşmasının ardından işten ayrıldığını açıkladı.

Jan Leike, güçlü yapay zeka sistemlerinin insani değerlere ve amaçlara bağlı kalmasını sağlayan süper uyumun eş başkanı olarak OpenAI'de kilit bir güvenlik araştırmacısıydı. Leike'nin müdahalesi, önümüzdeki hafta Seul'de düzenlenecek olan ve politikacılar, uzmanlar ve teknoloji yöneticilerinin teknolojinin gözetimini tartışacağı küresel yapay zeka zirvesi öncesinde geldi.

Leike, San Francisco merkezli şirketin en son yapay zeka modeli GPT-4o'yu piyasaya sürmesinden günler sonra istifa etti. Leike'nin ayrılması, OpenAI'nin kurucu ortağı ve süper uyumun diğer eş başkanı Ilya Sutskever'in istifasının ardından bu hafta OpenAI'deki iki üst düzey güvenlik figürünün ayrıldığı anlamına geliyor.

Leike, Cuma günü X'te yayınlanan ve güvenlik kültürünün daha düşük bir öncelik haline geldiğini söylediği bir başlıkta ayrılma nedenlerini ayrıntılı olarak açıkladı.

“Geçtiğimiz yıllarda, güvenlik kültürü ve süreçleri parlak ürünler karşısında arka planda kaldı” diye yazdı.