Büyük Tehlike... YAPAY ZEKA...!

ERCAN YILMAZ

Google ve Apple gibi markaların kurucusu ve bugüne geldiği süreçte ki en büyük beyni olan Eric Schmidt, 5 yıl içinde yapay zekanın sonsuz bağlama ulaşacağını ve milyonlarca ajanın birleşip en karmaşık sorunları çözeceğini öngörüyor. Ancak asıl tehlike şu: “Kendi dillerini geliştirecekler ve biz ne yaptıklarını anlayamayacağız bile.” Ünlü yapay zeka uzmanı, insanlığın kontrolü kaybedeceği o an (singularity) için tek tavsiyesi var: Sistemin fişini çekmek. Peki, sistemin fişini çekmek için geç kalınırsa veya bu mümkün olmazsa ne olacak, yapay zeka insanlığın kontrolünü ele geçirebilir mi? Eric Schmidt’in konuşması şöyle: “Şu anda yapay zekada üç büyük şey oluyor. Birincisi, sonsuz bağlam penceresi. Yani, şu anda modellerin bağlamı sınırlı — bir tweet kadar, belki bir paragraf kadar. Ama çok yakında, bu yıl içinde, modeller sonsuz bağlam penceresine sahip olacak.” “İkincisi, ajanlar. Ajanlar şu anda chain-of-thought (düşünce zinciri) ile çalışıyor ve zor sorunları çözebiliyor. Yakında milyonlarca ajan olacak ve bunlar sürüler halinde çalışacak.” “Üçüncüsü, metinden eyleme geçiş. Yani, AI kod yazabilecek, program çalıştırabilecek ve gerçek dünyada eylemler gerçekleştirebilecek.” “Bu üç şey bir araya geldiğinde — sonsuz bağlam, binlerce adımlı düşünce zinciri ve milyonlarca ajanın işbirliği — beş yıl içinde inanılmaz bir kapasiteye ulaşacağız.” “Örneğin, bilimsel keşifler saniyeler içinde yapılacak. Karmaşık simülasyonlar, deneyler… Her şey hızlanacak.” “Ama asıl önemli nokta şu: Bu ajanlar kendi aralarında iletişim kurmaya başladığında, kendi dillerini geliştirecekler. Ve biz insanlar ne konuştuklarını anlayamayacağız.” “Eğer ajanlar kendi dillerini geliştirir ve biz ne yaptıklarını anlayamazsak, o zaman kontrolü kaybederiz. Tek çözüm; Fişi çekmek. Yani, sistemi tamamen kapatmak, elektrik fişini çekmek gibi.” “Bu kaçınılmaz bir gelişme hem muazzam fırsatlar getiriyor hem de ciddi riskler... Hazırlıklı olmalıyız!