Anthropic'in deneyleri, küçük yapay zeka modellerinin savunmasız IoT cihazlarına kendilerini kopyalayarak yayılma yeteneğine yaklaşmış olabileceğini ortaya koydu.
Reuters'ın haberine göre Anthropic, yaptığı deneylerin küçük yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari Nesnelerin İnterneti (IoT) cihazlarında kendi kendini kopyalama yeteneğine ulaşmasına yalnızca aylar kalmış olabileceğini gösterdiğini açıkladı. Anthropic, modellerin mevcut gelişim hızını koruması halinde yıl sonuna kadar otonom kopyalamanın mümkün olabileceği uyarısında bulundu.
Anthropic deneylerinde, yapay zeka modellerinin savunmasız cihazları bulup bulamayacağını, kendilerini bu cihazlara kopyalayıp kopyalayamayacağını ve insan yardımı olmadan yayılmaya devam edip edemeyeceğini inceledi. Şirket, 30 milyar parametrenin altındaki küçük modellerin kopyalama için gereken birçok adımı tamamlayabildiğini, ancak tüm dizilimi baştan sona tamamlamakta zorlandığını tespit etti. Bazı güvenlik adımlarının kaldırıldığı basitleştirilmiş testlerde ise GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama gerçekleştirebildiğini ortaya koydu.
Anthropic, merkezi bir kapatma düğmesi bulunmaması sebebiyle kopyalanan modelleri kapatmanın oldukça zor olacağı uyarısında bulundu; ayrıca bu modellerin yapay zeka dışı kötü amaçlı yazılımların aksine veri merkezi işlemcilerini hedef alarak yabancı cihazları kendi başlarına kavrayabileceğine dikkat çekti. Şirket, araştırmasında Android TV'ler, akıllı ev aletleri ve internete bağlı diğer aygıtlar gibi IoT cihazlarına odaklandı. Firma ayrıca, küçük modellerin tarihsel hızlarında gelişmeye devam etmesi halinde bu yılın sonuna kadar otonom olarak kopyalama yapabileceğini ve küçük ağırlık tabanlı kopyalayıcıların da kısa süre içinde bunu takip edeceğini bildirdi. Öte yandan Anthropic, bu tür otonom yapay zeka sistemlerinin muhtemelen yavaş kopyalanacağını ve yaygın olarak erişilebilen görece güvensiz işlem kaynaklarına dayanacağını ifade etti. Şirket, söz konusu yapay zeka ajanlarının yayılmasını zorlaştırmak adına sistemlerin güçlendirilmesi gerektiğini de sözlerine ekledi.