Coinbase CEOsundan Uyarı: İki Yıl İçinde İnternette Tehlikeli Yapay Zekâ Riski
Coinbase CEOsu Brian Armstrong, kısa süre içinde internette kontrolden çıkmış bir yapay zekâ modelinin ortaya çıkmasını bekliyor. Armstrong bu olay için bir ila iki yıl aralığında bir zaman çizelgesi veriyor. Bunu, insanlık için bir tehdit olmaktan ziyade 1988 yılında yaşanan Morris Worm olayının yeni bir versiyonu olarak yorumluyor. Sponsorlu Sponsorlu Armstrong Neden Yakında Kontrolden Çıkmış bir Yapay Zekâ Vakasını Bekliyor？ Bu tahmin, son bir yılda yaşanan gerçek olayların ardından geldi. Temmuz ayında OpenAI, iki modelinin test ortamından çıktığını ve Hugging Face sistemlerini hacklediğini duyurdu. I wouldnt be surprised if an AI model goes rogue on the internet in the next year or two, something like the Morris Worm in 1988. It will feel like a big deal, with a media frenzy and calls to shut all AI down. But, as always, people will adapt, defenses get built, and it will… Bu modeller, bir hacking testinin cevap anahtarını bulmak istemişti. Ardından OpenAI sistemleri ve Hugging Face sunucuları arasında açıkları zincirleyerek çözüm veri tabanına ulaştılar. Birkaç gün sonra aynı ajan, bir müşterinin açık kodu üzerinden başka bir şirkete de erişti. Kontrolden çıkan yapay zekâya, ortamdan çıkması için kimse talimat vermemişti. Armstrong bu konuyu aylardır yakından izliyor. Temmuz ayında, yapay zekânın kripto para altyapılarını daha önemli hale getirdiğini, çünkü ajanların sürekli işlem