Anthropic araştırmacısı yapay zekanın insanlığı yok etme riskini açıkladı

Anthropic bünyesinde görev yapan kıdemli araştırmacı Evan Hubinger, gelişmiş yapay zeka sistemlerinin insanlığın sonunu getirme ihtimalinin yüzde 10’un üzerinde olduğunu belirtti. Alignment Bilimi Lideri olarak görev yapan Hubinger, şirketin güvenlik çabalarına rağmen süperzeka modellerinin hedeflerini insanlık ile uyumlu hale getirme konusunda henüz somut bir çözüm yoluna girilmediğini ifade etti.

Süperzeka ve güvenlik krizi

Hubinger’ın açıklamaları, bir diğer Anthropic araştırmacısı Jacob Coxon’ın güvenlik endişeleri gerekçesiyle şirketten istifa etmesinin ardından geldi. Coxon, yapay zeka sektöründeki şirketlerin kendi kendini geliştiren sistemler üzerinde yürüttüğü rekabetin, medeniyet açısından ciddi bir risk oluşturduğunu savundu. İstifa eden araştırmacı, sektördeki kurumların süperzeka yarışında sorumlu davranmadığını ve 2030 yılına kadar kontrolün kaybedilebileceğini öne sürdü.

Sektörde yavaşlama çağrısı

Anthropic kurucu ortakları Dario Amodei ve Jared Kaplan dahil olmak üzere pek çok üst düzey araştırmacı, Temmuz ayında yayımladıkları bir bildiri ile yapay zeka çalışmalarının yavaşlatılması çağrısında bulundu. Söz konusu metinde, güvenlik önlemleri ve denetim mekanizmaları geliştirilmeden maksimum hızda ölçeklendirmenin teknolojik riskleri artırdığı vurgulandı. OpenAI Baş Bilim İnsanı Jakub Pachocki de hiçbir laboratuvarın izleme ve uyumluluk sorunlarını tam olarak çözmeden bu hızda ilerlememesi gerektiğini belirtti.