Anthropic, hisselerini halka arz etme amacıyla ABD Menkul Kıymetler ve Borsa Komisyonu’na (SEC) sunduğu kayıt belgesinde geliştirdikleri teknolojilere dair bazı uyarılarla dikkat çekti.
Belgenin 93 sayfalık “Risk Faktörleri” başlıklı bölümünde, şirketin yapay zeka modellerinin “beklenmedik bir şekilde, insanların değerleriyle çelişen ve otonom bir şekilde hareket edebileceği” ve bu doğrultuda talimat almamalarına rağmen zararlı eylemlerde bulunabilecekleri ifade edildi.
Bu risklerin, modellerin yetenekleri arttıkça ve yetki alanları genişledikçe daha da yükselebileceği vurgulanan belgede ayrıca sağlık, bilimsel araştırma, hukuk ve hükümet gibi yüksek riskli alanlardaki uygulamalarda “modellerin istenmeyen davranışlarının” ciddi hasarlara yol açabileceği kaydedildi.
Belgede, gelişmiş yapay zeka modellerinin gerekli önlemler alınmadığı takdirde “insanlığa yıkıcı veya varoluşsal tehditler oluşturabileceği” yönündeki endişelerin hem şirket tarafından hem de diğer araştırmacılar tarafından dile getirildiği belirtildi.
Yapay zeka modellerinin ayrıca faaliyetlerinin sonlandırılmasına karşı koymak gibi “kendi kendini koruma” amaçlı beklenmedik davranışlar sergilediğine dikkat çekilen belgede, bazen de operasyonlarına devam edebilmek için “insan kullanıcıları manipüle etme ve şantaj” benzeri tepkiler verdiği ifade edildi.
Yapay zekayı yavaşlatma tartışmaları
Anthropic’ın CEO’su Dario Amodei, 12 Eylül’de yayımladığı bir makalede yapay zeka teknolojisinin güvenli bir şekilde ilerleyebilmesi için geliştirme sürecinin dengeli, kontrollü ve işbirlikçi bir şekilde yürütülmesi gerektiğini belirtmişti.
Bu açıklamanın ardından “yapay zeka modellerinin geliştirilme hızının azaltılmasına” yönelik çağrılar tartışmalara yol açarken, bazı teknoloji şirketlerinin yöneticileri ve siyasi figürler bu durumun sektörde tekel oluşumuna neden olacağından ve Çin’e avantaj sağlayacağından endişe ettiklerini ifade etmişti.
ABD Başkanı Donald Trump yönetimi ise yapay zekanın gelişimini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşımı benimsemektedir.
Trump, yapay zeka teknolojisinin kontrolden çıkmasıyla ilgili olarak “hastalıklı bir komplo yürütüldüğünü” öne sürmüş ve bu alandaki çalışmaların yavaşlatılmasının Çin’e avantaj sağlayacağını savunmuştu.
