OpenAI, yapay zekânın karanlık yüzüne karşı önlem alıyor

OpenAI, yapay zekâ modellerinin yol açabileceği potansiyel riskleri önceden öngörmek ve bu risklere karşı şirketin güvenlik stratejisini şekillendirmek amacıyla yeni bir Preparedness (Hazırlık) Direktörü arayışına girdi. Bu adım, ChatGPT’nin kullanıcıların ruh sağlığı üzerindeki etkilerine dair artan eleştirilerin ve bazı hukuki süreçlerin ardından geldi.

Ruh sağlığı endişeleri gündemde

2025 yılı boyunca OpenAI, ChatGPT’nin kullanıcılar üzerindeki psikolojik etkileriyle ilgili çok sayıda suçlamayla karşı karşıya kaldı. Bunlar arasında, yanlış yönlendirme iddialarına dayanan ve “haksız ölüm” gerekçesiyle açılan davalar da bulunuyor.

OpenAI CEO’su Sam Altman, X (eski adıyla Twitter) üzerinden yaptığı paylaşımda, yapay zekâ modellerinin ruh sağlığı üzerindeki olası etkilerinin 2025’te net biçimde ortaya çıktığını kabul etti. Altman, bu etkilerin, modellerin artan yetenekleriyle birlikte gelen “gerçek ve ciddi zorluklar” arasında yer aldığını vurguladı.

“Kritik bir dönemde kritik bir rol”

Altman’a göre Preparedness Direktörlüğü, şirket için son derece kritik bir görev. “Bu stresli bir iş ve göreve gelir gelmez derin sulara atlayacaksınız” diyen Altman, pozisyonun öneminin altını çizdi.

İş ilanına göre bu görev, OpenAI’nin Preparedness çerçevesinin teknik stratejisini ve uygulamasını yönetmeyi kapsıyor. Söz konusu çerçeve, ileri seviye yapay zekâ yeteneklerinin doğurabileceği ciddi zarar risklerinin izlenmesini ve bu risklere karşı hazırlıklı olunmasını hedefliyor. Pozisyon için yıllık 555 bin dolar maaş ve buna ek olarak hisse opsiyonları sunuluyor.

Güvenlik ekibinde sık değişim

OpenAI’nin güvenlik ve hazırlık ekipleri son yıllarda önemli değişimler yaşadı. Şirketin eski Preparedness Direktörü Aleksander Madry, Temmuz 2024’te başka bir göreve atanmıştı. O dönemde Sam Altman, bu sorumluluğun yöneticiler Joaquin Quinonero Candela ve Lilian Weng tarafından üstlenileceğini açıklamıştı.

Ancak bu yapı uzun ömürlü olmadı. Weng birkaç ay sonra şirketten ayrılırken, Candela ise Temmuz 2025’te Preparedness ekibinden çekilerek OpenAI’nin işe alım süreçlerinin başına geçtiğini duyurdu. Yeni direktör arayışı da bu boşluğun ardından hız kazandı.