OpenAI ve Anthropic'te çalışan araştırmacı Jacob Coxon istifa etti: Hayatlarımızla kumar oynuyorlar

Yapay zeka teknolojileri hayatı kolaylaştırırken bir yandan da kitlesel iş kayıpları ve kontrolsüz güç riskini beraberinde getiriyor. Yapay zeka laboratuvarlarında, teknoloji devlerini insan kontrolünden çıkma riski taşıyan ve kendi kendini geliştiren modellere doğru sürükleyen rekabet her geçen gün kızışıyor. Sektörün devlerinden Anthropic'ten ayrılan araştırmacı Jacob Coxon, teknoloji dünyasını sarsan açıklamalarda bulunarak insanlığın karşı karşıya olduğu büyük tehlikeye dikkat çekti.

"GÜVENLİK KAYGILARI" NEDENİYLE İSTİFA ETTİĞİNİ DUYURDU
Yeni yapay zeka modellerini devasa miktarda veri tüketerek eğitme konusunda uzmanlaşmış 27 yaşındaki İngiliz araştırmacı Jacob Coxon, görevinden ayrıldığını duyurdu.

The Wall Street Journal'da yer alan habere göre daha önce matematik eğitimi alan Coxon, şirketlerin ve rakiplerinin kontrol edemeyecekleri sistemler geliştirmek için bir yarışa girdiğini belirtti. Coxon, yapay zekanın kontrolden çıkıp insanlığı yok edebileceği endişesiyle sektörden çekilme kararı aldığını öne sürdü.

“Yapay zeka kontrolden çıkabilir”

"GELECEK YILIN SONUNA KADAR İŞLER KONTROLDEN ÇIKABİLİR"
Sektördeki meslektaşlarının kendi kendini geliştiren modellere giden süreci tanımlamak için "kritik an" ve "son oyun" gibi ifadeler kullandığını aktaran Coxon, zamanın giderek daraldığını belirtti.

Yaşanan tehlikenin boyutuna işaret eden Coxon, "Bu senaryoların en agresif olanlarının birçoğunda, gelecek yılın sonuna kadar işlerin kontrolden çıkabileceği bir durumla karşı karşıyayız." uyarısında bulundu.

Teknoloji şirketlerinin birbirleriyle ve Çinli yeni girişimlerle rekabet ederken güvenlik adımlarından ödün vermesinin kaçınılmaz hale geldiğini savunan Coxon, devlet müdahalesi ya da küresel bir yavaşlama olmadan hiçbir şirketin "Yapay Genel Zeka"yı (AGI) sorumlu bir şekilde geliştiremeyeceğini ifade etti.

SİBER SALDIRI VE MÜDAHALE ENDİŞESİ

Coxon, sistemlerin kendi başlarına gelişmeye başlaması halinde insanlardan gelen komutları reddedebilecek düzeye ulaşmasından korktuğunu dile getirdi.

Jacob Coxon, istifasına ilişkin X üzerinden paylaşımlarda bulundu

"HAYATLARIMIZLA KUMAR OYNUYORLAR"

Sosyal medya hesabı X üzerinden de kapsamlı bir açıklama yapan Jacob Coxon, "Bugün Anthropic'ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdim." diyerek istifasını resmen duyurdu.

İki teknoloji devinin de sorumsuzluğuna dikkat çeken Coxon, "İki şirket de sorumlu davranmıyor. Doğrudan kendi kendini geliştiren süper zekaya doğru yarışıyorlar ve hayatlarımızla kumar oynuyorlar" dedi.

"10 YILIN SONUNA KADAR HEPİMİZİ ÖLDÜREBİLİR"
Teknolojinin ulaştığı seviyenin hafife alınmaması gerektiğini vurgulayan Coxon, "Bu teknolojinin gücünü küçümsemeyin. Bunlar yakında her şeyi hackleyebilen, herhangi bir alanda bir gecede devrim yaratabilen, gerçek güç ve kaynaklar elde edebilen insanüstü sistemler olacak. Hepimiz bu alanların her birindeki ilerlemeye tanık olduk ve ilerleme yavaşlamıyor." ifadelerini kullandı.

Felaketin eşiğinde olunduğunu açıkça dile getiren araştırmacı, "Yapay zekayı inşa eden insanlar, bunun 10 yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor. Bu bir pazarlama numarası değil. Hatta birçok üst düzey yönetici ve kıdemli araştırmacı, basında mantıklı görünmek için ifadelerini yumuşatacaktır, ama ben aynı kişilerin özel hayatlarında korkularını dile getirdiklerini duyuyorum. Başka hiçbir insan faaliyeti bu düzeyde bir tehlike oluşturmuyor" değerlendirmesinde bulundu.

"SLACK KANALINDAN BAŞLATILACAK BİR KUMAR DEĞİL"
Sektördeki en kritik soruya yanıt veren Coxon, "Yaygın bir yanıt 'eğer buna gerçekten inanıyorlarsa, neden hala inşa ediyorlar?' oluyor. OpenAI'da birçoğu medeniyet düzeyindeki riskleri derinlemesine içselleştirmedi. Anthropic'te riskler çok iyi anlaşılmış durumda, ancak oraya ilk ulaşan olmak için bir yarışa kilitlenmiş durumdalar. Risklere rağmen kimsenin sorumlu davranmayacağına, bu yüzden bunu kendilerinin yapması gerektiğine inanıyorlar" dedi.

Bu yarışın insanlık için büyük bir risk olduğunu vurgulayan Jacob Coxon, "Bu yarışı kabul etmek ve 'son oyuna' girmek, özel bir şirketin Slack kanalından başlatılmaması gereken kibirli bir kumardır. Hizalamayı hızlandırmaya çalışmak, daha iyi bir yolun bulunmadığına dair olağanüstü bir güven gerektirmelidir" uyarısını yaptı.

"KÜRESEL BİR YASAK GEREKEBİLİR"

Sorunun çözümü için radikal adımlar atılması gerektiğini belirten Coxon, "Koordinasyon potansiyeli konusunda iyimserim. Hugging Face saldırısı gibi uyarı fişekleri, ABD laboratuvarları arasında tempo anlaşmalarını daha uygulanabilir hale getirdi. Küresel bir yarışı önleme yolunda olduğumuzu hissetmiyorum, bu da model kabiliyetlerini geliştirmeye geçici bir yasak gibi maliyetli eylemler gerektirebilir" ifadelerini kullandı.

SEKTÖRDEKİ MESLEKTAŞLARINA ÇAĞRI
Devam eden tehlikeye karşı yapay zeka araştırmacılarına doğrudan seslenen Coxon, şu çağrıda bulundu:

"Eğer bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekten nasıl hissettireceğini düşünmenizi rica ediyorum. Zihnini titizlikle anlamadan süper zeki bir RL sürecini başlatmak istiyor musunuz? 'Nasıl olsa gerçekleşiyor' diyerek kafanızı öne mi eğmelisiniz - yoksa farklı koşullar talep etmek için bu anı değerlendirmeli misiniz?"