Kontrolden mi çıkıyor? Yapay zeka kendi kendini kopyaladı

Berkeley merkezli Palisade Research tarafından yürütülen çalışma, yapay zekanın kontrollü bir dijital ortamda kendi kendini kopyalayarak ağlar arasında hareket edebildiğini ortaya koydu.

Araştırmada, yapay zeka modellerine güvenlik açıklarını tespit edip kullanmaları yönünde verilen görevler sonucunda, bazı sistemlerin başarılı şekilde bir sunucudan diğerine geçiş yapabildiği gözlemlendi.

Uzmanlardan Uyarı

Uzmanlara göre bu bulgu, gelecekte kontrol dışına çıkabilecek bir yapay zekanın tamamen kapatılmasını zorlaştırabilecek senaryolara işaret ediyor. Hatta böyle bir sistemin, tespit edilmemek için internetin farklı noktalarına yayılabileceği ihtimali tartışılıyor.

Öte yandan bilgisayar virüsleri ve kötü amaçlı yazılımlar uzun süredir kendini çoğaltabiliyor olsa da, büyük dil modellerinin benzer bir davranışı bağımsız şekilde sergilemesi araştırmada dikkat çeken en önemli nokta oldu. Son dönemde bazı yapay zeka sistemlerinin izinsiz şekilde kripto para madenciliği girişiminde bulunduğuna dair bulgular da bu endişeleri güçlendiriyor.

Siber güvenlik uzmanları ise mevcut yapay zeka modellerinin gerçek dünya koşullarında bu kadar kolay hareket edemeyeceğini, özellikle büyük ölçekli kurumsal sistemlerin bu tür girişimleri tespit edebilecek kapasitede olduğunu belirtiyor. Yine de teknolojinin hızla gelişmesi nedeniyle denetim ve kontrol mekanizmalarının daha da güçlendirilmesi gerektiği vurgulanıyor.

Kaynak: The Guardian