Binlerce teknoloji lideri ve araştırmacı, yapay zekanın (AI) geliştirilmesinde anlık bir mola çağrısında bulundu. Elon Musk, Gary Marcus, Andrew Yang ve Steve Wozniak, Amerika Birleşik Devletleri’nin yayınladığı düşünce kuruluşu Future of Life Institute tarafından yayınlanan açık mektubu imzalayan bazı CTO’lar, CEO’lar ve analistler arasında yer aldı.
AI Yapay Zeka neden geçici olarak duraklatılmalıdır?
Daha önce 2015’te teknoloji liderleri, dünyayı iyileştirmenin bir aracı olduğu için yapay zekanın gelişimini açıkça teşvik ettiler, ancak olası tuzaklara karşı temkinli davrandılar. Şimdi, görünüşe göre yeterince sahipler ve herkesin bilmesini sağlamaktan çekinmediler.
Mektuplarında, AI şirketlerini AI sistemlerini geliştirmeyi en az altı ay boyunca “derhal durdurmaya” çağırdılar. “Gelişmiş yapay zeka, dünyadaki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, bu düzeyde bir planlama ve yönetim gerçekleşmiyor.”
“Çağdaş yapay zeka sistemleri artık genel görevlerde insan rekabetine giriyor. Sonunda sayıca üstün olabilecek, zekice geçebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Onların en büyük endişesi, “insan-rekabetçi zekanın toplum ve insanlık için derin riskler oluşturabileceği”.
FOLI bir adım daha ileri gitti ve üstün yapay zekayı kimin yaratabileceğini görmek için firmalar arasında görünürde bir savaş olduğunu iddia etti. “Hiç kimsenin – yaratıcıları bile – anlayamayacağını, tahmin edemeyeceğini veya güvenilir bir şekilde kontrol edemeyeceğini” iddia ettiler. Bu, GPT-4’ten daha gelişmiş olabilecek çalışmalarda olası yapay zekalar oldukları varsayımına dayanıyordu. GPT-4, Open AI’ın mart ortasında piyasaya sürülen sohbet robotunun en son sürümüdür. ChatGPT’nin ilk sürümünden 10 kat daha gelişmiş olarak kabul edilir.
Ancak Open AI yöneticileri, henüz GPT-5’i geliştirmeye başlamadıklarını söylediler. CEO Sam Altman, firmanın GPT-4’ü geliştirirken öncelikli olarak güvenli uygulamalara önem verdiğini ve güvenlik uygulamalarını uygulamak için yaklaşık 6 ay harcadığını doğruladı. Open AI ayrıca yakın zamanda şunu belirtti: “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce bağımsız bir inceleme almak ve yeni modeller oluşturmak için kullanılan bilgisayarların büyüme oranını sınırlamayı kabul etmek için en gelişmiş çabalar için önemli olabilir.”
Bazı teknoloji meraklıları için zaman geldi.
Teknoloji liderleri ne dedi?
Yine de bazı teknoloji liderleri, önerilen bu dilekçe konusunda o kadar hevesli değildi. Bir AI pazarı olan SingularityNET’in CEO’su Ben Goertzel, araştırma ve fonların bunun yerine “biyo silahlar ve nükleer silahlara” odaklanması gerektiğini hissetti. Digital Galaxy CEO’su Mike Novogratz, yatırımcılara kripto üzerinde yapay zekadan daha fazla düzenleme yapıldığını söyledi.
Elon Musk bir keresinde “biraz varoluşsal yapay zeka endişesi yaşıyor” diye tweet attı. Tesla yöneticilerine “Yapay zeka konusunda biraz endişeliyim” dediği bildirildi. Başka bir yapay zeka araştırmacısı olan Timnit Gebru, “Bence hepimiz bu olaydan korkmalıyız.” Birçoğuna göre yapay zeka olası bir felakete yol açabilir.
