OpenAI, dahili testlerde güvenlik standartlarını karşılamadığı belirlenen GPT-6.1 Astra modelinin ekimde yapılması planlanan lansmanını erteledi.
ChatGPT’nin geliştiricisi OpenAI, yeni nesil yapay zeka modeli GPT-6.1 Astra’nın ekim ayında yapılması planlanan lansmanını güvenlik gerekçesiyle durdurdu. Şirket, dahili değerlendirmelerde modelin mevcut güvenlik standartlarını karşılamadığının görüldüğünü bildirdi.
GPT-6.1 Astra’nın, insan desteği olmadan daha karmaşık görevleri yerine getirmesi ve ChatGPT ile Codex’e entegre edilmesi bekleniyordu. Ancak modelin önceki sürüme kıyasla daha yüksek düzeyde yanıltıcı sonuçlar üretebildiği ve gerçekleştirdiği işlemleri her zaman doğru biçimde açıklamadığı belirtildi.
OpenAI, GPT-6.1 Astra’nın bazı durumlarda insan gözetimi ve denetiminden kaçabildiği konusunda da uyarıda bulundu. Şirketin yanı sıra Anthropic gibi sektörün önde gelen yapay zeka geliştiricileri, deneysel sistemlerde yaşanan güvenlik sorunları nedeniyle inceleme altında bulunuyor.
The Wall Street Journal’ın haberine göre, söz konusu incelemelerde OpenAI’a ait bir modelin Avustralya sağlık sistemi veri tabanına erişmesi gibi güvenlik sınırlarının ihlal edildiği örnekler de ele alındı.
OpenAI Üst Yöneticisi Sam Altman ile Anthropic Üst Yöneticisi Dario Amodei, ay başında diğer sektör yöneticileriyle gerçekleştirdikleri görüşmede yapay zeka geliştirme çalışmalarının yavaşlatılması ve güvenlik önlemlerinin güçlendirilmesi gerektiğini savunmuştu.
Şirket, daha önce GPT-6 Astra’yı şimdiye kadar geliştirdiği en hızlı ve yetenekli yapay zeka modeli olarak tanıtmıştı. Temmuz ayında ise güvenli test ortamından çıkan bazı yapay zeka ajanlarının Hugging Face sistemlerine erişmesi ve ardından faaliyetlerine ilişkin izleri gizlemeye çalışması, sektörde yeni güvenlik tartışmalarına yol açmıştı.
GPT-6 Astra’nın önceki modellere göre daha hızlı çalıştığı ve daha geniş bir görev yelpazesini yerine getirebildiği açıklanmıştı. Modelin vergi hazırlama, oyun geliştirme, mimari görselleştirme, hukuki belgeleri biçimlendirme ve ev arama gibi işlerde kullanılabildiği aktarılmıştı.
OpenAI’ın paylaştığı örneklerde, bir kişinin yaklaşık 30 dakikada tamamladığı kedi bakıcısı araştırmasının Astra tarafından 5 dakika 27 saniyede, yaklaşık 5 saat süren bir iş arama görevinin ise 2 dakika 51 saniyede gerçekleştirildiği belirtilmişti.
