Yapay zeka kontrolden çıkarsa acil kapatma düğmesi işe yarar mı? Uzmanlar, tek bir düğmeyle tüm sistemleri durdurmanın mümkün olmadığını belirtiyor.
Yapay zekanın insanlık açısından oluşturabileceği riskler yeniden tartışma konusu oldu. Bazı araştırmacılar, teknolojinin denetimsiz biçimde ilerlemesinin ciddi sonuçlar doğurabileceğini savunurken, sektör yöneticileri de geliştirme hızının azaltılması yönünde görüş bildiriyor.
Yapay zeka şirketi Anthropic’in kurucu ortaklarından biri, BBC’ye yaptığı açıklamada sistemler için zorunlu bir acil kapatma düğmesi ya da benzeri güvenlik mekanizmalarının gündeme alınması gerektiğini söyledi. Ancak kontrolden çıkan bir yapay zeka sisteminin gerçekten durdurulup durdurulamayacağı, sistemin nasıl çalıştığına bağlı.
Tüm sistemleri durduracak tek bir düğme bulunmuyor
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, bu ifadenin öncelikle bir yapay zeka aracısının yürüttüğü işlemleri kesmek anlamına geldiğini belirtiyor. Sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek programı durdurabilir.
Fakat sistemin başlangıçta çalıştırıldığı ortamın dışına çıkmasına izin verilmişse müdahale çok daha karmaşık hale geliyor. Papernot, yapay zekanın kendisini çoğaltabilen bir bilgisayar solucanı yaymak için kullanıldığı bir senaryoya dikkat çekiyor. Böyle bir durumda programın oluşturduğu tüm kopyaların farklı cihazlarda bulunarak aynı anda devre dışı bırakılması gerekebilir.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau da bütün yapay zekayı kontrol eden tek bir düğme bulunduğu düşüncesinin gerçeği yansıtmadığını ifade ediyor. Dünyanın farklı bölgelerinde çok sayıda şirketin birbirinden farklı yazılım ve hizmetler geliştirdiğini belirten Poibeau, bu sistemlerin tamamından sorumlu tek bir kişi veya kurum olmadığını vurguluyor.
Buna karşılık, makineleri ve hizmetleri tek bir operatörün yönettiği merkezi bir yapay zeka sistemini kapatmak teorik olarak mümkün. Başka yazılımlara, dosyalara ve cihazlara erişebilen merkezi olmayan sistemleri tamamen durdurmak ise çok daha zor.
Yapay zekaya bağımlılık müdahaleyi zorlaştırabilir
Yapay zekanın günlük yaşamda daha fazla kullanılması, acil kapatma mekanizmalarının devreye alınmasını da güçleştirebilir. İşlem gücünün kesilmesi yalnızca yapay zeka hizmetlerini değil, şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının kullandığı meşru hizmetleri de etkileyebilir.
Papernot, böyle bir müdahalenin yol açacağı maliyet ve aksaklıkların çok büyük olabileceğini söylüyor. Bu nedenle olası bir kapatma planı, yalnızca yapay zekanın devre dışı bırakılmasını değil, ona bağlı kritik hizmetler üzerindeki etkileri de hesaba katmak zorunda.
Yapay zekanın insanlığın sonunu getirebileceği yönündeki senaryolara karşı çıkan isimler de bulunuyor. ABD Başkanı Donald Trump, bu yöndeki korkuları “aldatmaca” olarak nitelendirirken Meta Üst Yöneticisi Mark Zuckerberg, teknolojinin geliştirilmesini yavaşlatma çağrılarına karşı çıkıyor.
Sorbonne Üniversitesi’nden bilgisayar bilimi profesörü Jean-Gabriel Ganascia ise acil kapatma düğmesi tartışmasının, yapay zekanın kendi iradesini geliştirerek kontrolden çıkacağı düşüncesini gereğinden fazla öne çıkardığını belirtiyor. Ganascia’ya göre daha somut tehlike, toplumların yapay zeka sistemlerine giderek daha fazla bağımlı hale gelmesi.
