Anthropic’in önde gelen bir güvenlik araştırmacısı, yapay zekanın çok hızlı ilerlediğini ve önümüzdeki 10 yıl içinde “tüm insanları öldürme” ihtimalinin %10’dan fazla olduğuna inandığını söyledi. Evan Hubinger, X’te yaptığı paylaşımda, mevcut modellerden kaynaklanan riskin “düşük” olduğunu ama teknolojinin kısa sürede gelişip kendini iyileştirerek insanlık için varoluşsal bir risk yaratabileceğinden “endişe duyduğunu” belirtti.Ancak Hubinger yapay zeka sistemlerinin gelecekte insanlığın yok olmasına nasıl yol açabileceği konusundaki düşüncelerini ayrıntılı olarak açıklamadı.Bu ifadeler, yapay zekaya ilişkin giderek daha sertleşen uyarılar dizisinin sonuncusu ve tartışma, yapay zekanın gerçekten bir risk oluşturup oluşturmadığından, bu riskin ne kadar büyük olduğuna doğru kayıyor.Hubinger, Anthropic’ten yeni ayrılmış ve daha önce OpenAI’da çalışmış bir yapay zeka araştırmacısı olan Jacob Coxon’ın X’teki bir paylaşımına yanıt niteliğinde. Coxon, “İki şirket de sorumlu davranmıyor” diye yazdı.”Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yapabilecek ve gerçek güç ve kaynak elde edebilen insanüstü sistemler olacak.”Konuyla ilgili yorumu için OpenAI ile temas kuruldu ancak henüz yanıt alınamadı. Öte yandan Financial Times gazetesi, Anthropic’in en son modelini, yapay zeka riskini değerlendirme konusunda dünyanın önde gelen kuruluşlarından biri olan İngiltere Yapay Zeka Güvenliği Enstitüsü’nden (AISI) gizlediğini bildirdi.Anthropic bu konuda yorum yapmadı. Kabine sözcüsü, son modelin AISI’den gizlenip gizlenmediği konusunda yorum yapmaktan kaçındı ve bunun yerine “modelleri daha güvenli hale getirmek için Anthropic de dahil olmak üzere endüstri ortaklarıyla yakın işbirliğine devam ettiklerini” söyledi.Cambridge Üniversitesi’nden Makine Öğrenimi Profesörü Neil Lawrence, BBC Radyo 4’teki Today Programı’nda gizleme haberinin akla yatkın olduğunu söyledi. “Sanırım bu durum, Amerika Birleşik Devletleri’nin yapay zekayı kendi ile Çin arasında bir yarış olarak gördüğü ve giderek daha fazla izolasyonist pozisyonlara yöneldiği bir ortamda şaşırtıcı değil” dedi.”Yönetimin, bazı müttefikleriyle işbirliğini azaltmaları gerektiğini söylüyor olması muhtemel.”Süper zeka için plan yokHubinger, 10 milyondan fazla görüntülenen paylaşımında, yapay zekanın insanlık için türümüzü yok etme riski oluşturduğuna “gerçekten de yürekten inandıklarını” söyledi.”Anthropic’in elinden gelenin en iyisini yapmaya çalıştığına inanıyorum ancak süper zeka için uyum sorununu çözecek bir planımız henüz yok ve bu yönde net bir ilerleme kaydetmiyoruz” diye ekledi.Hubinger, insan etik fikirlerini ve prensiplerini teknolojye entegre etmeyi amaçlayan yapay zeka uyumu alanında çalışıyor. Başka bir deyişle, teknolojinin insanların değer verdiği şeylerle uyumlu kalmasını hedefliyor.Önde gelen birçok araştırmacı, bu girişimlerin başarısız olduğunu, bu yaz yapay zeka ajanlarının (otonom olarak çalışmasına izin verilen yapay zeka sistemleri) siber saldırılar gerçekleştirdiği bir dizi olayın da bunu gösterdiğini söylüyor.OpenAI, Anthropic ve Meta şirketlerinin tamamı, yapay zeka araçları tarafından gerçekleştirilen saldırıları kabul etti.Anthropic’in Ağustos ayındaki güvenlik raporunda, modellerinin varsayımsal güçlü bir kuruluşun istekleriyle uyumsuz hale gelme ve bu durumun kuruluşun sistemlerini istismar etmesine veya bunlara müdahale etmesine yol açma riskinin düşük olduğu belirtilmişti.Açıklamada ayrıca, son derece yetenekli yapay zekanın “otomatik araştırma ve geliştirme” yapabilme ve bunun sonucunda “yapay zeka tarafından başlatılan felaket niteliğinde zararlara” yol açabilme riskinin de benzer şekilde düşük kaldığı belirtildi. Ancak, bu değerlendirmeye daha öncekinden “daha az güven duyulduğu” da ifade edildi.Yapay zeka alanındaki önde gelen isimler, teknolojinin oluşturduğu güvenlik tehdidi konusunda yıllardır uyarılar yapıyor. OpenAI, Google Deepmind ve Anthropic’in yöneticileri de 2023’te bunu açıkça dile getirmişti.Ancak son haftalarda, firmaların yapay zekayı kontrol etmekte zorlandığına dair kanıtların ortaya çıkmasıyla bu uyarılar çok daha duyulur hale geldi.Bu ayın başlarında, OpenAI’nin baş bilim yetkilisi Jakub Pachocki, yapay zekanın ilerlemesi konusunda “aşırı temkinli” olunması çağrısında bulunarak, “insanların geleceğin kontrolünü elinde tutmasını” sağlamak için daha fazla müdahalenin gerekebileceği uyarısı yaptı. Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. .
Haberler.com’da yer alan yorumlar, kullanıcıların kişisel görüşlerini yansıtır ve haberler.com’un editöryal politikası ile örtüşmeyebilir. Yorumların hukuki sorumluluğu tamamen yazarlarına aittir.
