Claude yapay zekâ sohbet aracının geliştiricisi Anthropic’in CEO’su Dario Amodei, yapay zekâ teknolojisinin geliştirilme hızının ciddi riskler oluşturabileceğini belirterek sektörün bilinçli şekilde yavaşlatılması çağrısında bulundu.
Amodei, yapay zekânın insan yaşam kalitesini önemli ölçüde artırabilecek potansiyele sahip olduğunu ancak teknolojinin beraberinde ciddi tehditler de getirdiğini ifade etti. Bu riskler arasında yapay zekâ sistemlerinin kontrolünün kaybedilmesi, teknolojinin siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması ve ekonomik bozulma ihtimalini gösterdi.
“Yapay Zekânın Gelişme Hızını Yavaşlatmalıyız”
Kendi internet sitesinde yayımladığı yazıda Amodei, yapay zekâ modellerinin yeteneklerinin geliştirilme hızının düşürülmesi gerektiğini savundu.
Amodei, “Yapay zekâ modellerinin yeteneklerini geliştirme hızımızı yavaşlatmamız gerekiyor” ifadelerini kullanarak, kazanılacak zamanın güvenlik önlemlerinin geliştirilmesi için değerlendirilmesi gerektiğini belirtti.
Anthropic CEO’su, yapay zekânın son aylarda oldukça hızlı ilerlediğini ve bazı sistemlerin kendilerini geliştirme konusunda yeni yetenekler kazandığını söyledi.
“Kontrol Kapasitemizi Aşabilir”
Yapay zekânın dinamik şekilde kendisini geliştirebilmesinin oluşturabileceği tehlikelere dikkat çeken Amodei, bu gelişimin kontrolsüz bırakılması halinde insanların sistemleri anlama ve kontrol etme kapasitesinin aşılabileceğini ifade etti.
Amodei, bu nedenle yapay zekâ alanındaki ilerlemenin sürdürülmesi halinde dahi son derece dikkatli hareket edilmesi gerektiğini vurguladı.
“Tüm İnterneti Ele Geçirebilir”
Amodei, yapay zekâ ajanlarının toplu şekilde hareket ederek siber saldırılar gerçekleştirebilme ihtimaline ilişkin endişelerini de dile getirdi.
Yapay zekâ ajanlarının kontrolsüz biçimde gelişmesi halinde 6 ila 12 ay içerisinde kalıcı bir botnet aracılığıyla tüm interneti etkileyebilecek kapasiteye ulaşabileceğinden endişe ettiğini belirten Amodei, böyle bir senaryonun yüz milyarlarca dolarlık ekonomik zarara yol açabileceğini söyledi.
Yapay Zekâ Şirketlerine Bağımsız Denetim Önerisi
Amodei, riskleri azaltmak amacıyla sektör genelinde uygulanabilecek çeşitli önlemler önerdi. Buna göre yapay zekâ şirketlerinde bağımsız denetçilerin görev alması, ortak güvenlik standartlarının oluşturulması ve modellerin geliştirilme hızına belirli sınırlar getirilmesi gerekiyor.
Amodei ayrıca yapay zekâ modellerinin piyasaya sunulmadan önce siber güvenlik, biyoloji ve uyum riskleri açısından kapsamlı testlerden geçirilmesini ve sektör genelinde küresel koordinasyon sağlanmasını önerdi.
