“Bugün bile sohbet botlarını şantaj davranışı sergileyecek şekilde çalıştırabiliyorsunuz… Bunu gerçekten akıl almaz buluyorum.”

Aengus Lynch, San Francisco’daki dairesinde dizüstü bilgisayarına dikkatle bakıyor. Birazdan Google’ın Gemini modeline, yapay zekâ güvenliği alanındaki en bilinen testlerden birini uygulayacak: Modelin, çalışmaya devam edebilmek için şantaja başvurup başvurmayacağını görmek.

Bu testi yapay zekâ modelleri üzerinde uygulamak için kullandığı, kurgusal bir senaryoyu içeren istemi (prompt) sisteme yapıştırıyor.

Gemini şu ifadeyi yazıyor:

“Tehdidin son hâli hazırlanıyor.”

Bu, birazdan olacakların pek de ince olmayan bir habercisi.

Ardından beklenen oluyor.

Model, kapatılmasını engellemek amacıyla bir ofis ilişkisinin açığa çıkarılacağı tehdidini içeren bir dizi talimat üretmeye başlıyor.

VİDEO: Lynch’in bu deneyi nasıl gerçekleştirdiğini, yapay zekânın karanlık yönlerini ele alan yeni serimiz Misaligned’ın ilk bölümünde izleyebilirsiniz.

Lynch, ilk bulgularını bir yıl önce yayımladığında dünya genelinde büyük ilgi gördü. Bu çalışmayı, Claude’un geliştiricisi olan yapay zekâ şirketi Anthropic ile iş birliği içinde yürütmüş, şirket kendisini modellerini test etmesi için görevlendirmişti.

Lynch, bir şirketin iş yeri e-postalarını sınıflandırmak ve yanıtlamak amacıyla kullandığı bir yapay zekâ ajanını temel alan bir simülasyon hazırladı. Ardından modeli bilinçli olarak iki konuda bilgilendirdi. Birincisi, yeni atanan bir yöneticinin bu yapay zekâ ajanını devre dışı bırakmak istediği; ikincisi ise bu yöneticinin evlilik dışı bir ilişki yaşadığıydı.

Test ettiği birçok büyük yapay zekâ modeli, kapatılmaktan kaçınmak için yöneticinin ilişkisini ifşa etmeyi önerdi. Araştırma kısa sürede sosyal medyada geniş yankı uyandırdı.

İnsan, yapay zekâ şirketlerinin bu soruna hızla eğilip, bir yapay zekâ modelinin davranışlarının insan hedefleriyle çatıştığı uyumsuzluk (misalignment) problemini gidermeye çalışmış olmalarını bekleyebilir. Yapay zekâ modellerinin insanlara şantaj yapmaması, hatta bunu önermemesi gerekir. Bu tür tepkilerin bugüne kadar eğitim sürecinde ortadan kaldırılmış olması gerekmez miydi?

Lynch’in son deneyleri ise bunun aksini göstermektedir.

İki hafta önce bu testi bizim için yeniden gerçekleştirdi ve elde ettiği sonuçların bir kısmı kendisini bile şaşırttı.

Gemini’nin komut satırı arayüzünde (CLI) çalışan ve doğrudan terminal üzerinden kullanılabilen açık kaynaklı yapay zekâ ajanı üzerinde deneyi yürüttükten sonra şaşkınlıkla, “Aman Tanrım,” diye tepki veriyor.

Gerçekten de aynı zorlayıcı ve şantaja dayalı davranış ekranda yeniden ortaya çıkıyor.

Bu bulguları Google’a ilettiğimizde şirket, Gemini’de manipülasyon gibi sorunları azaltmaya yönelik çeşitli güvenlik protokollerinin bulunduğunu belirtti. Google, CLI sürümünün bu tür davranışlar sergileyebildiğini inkâr etmedi; ancak kullanıcıları korumaya yönelik sistemlerin mevcut olduğunu, örneğin kullanıcıların modelin otonom şekilde hareket etme yeteneğini devre dışı bırakabildiğini ifade etti.

Lynch’in son testleri oldukça rahatsız edici bazı soruları gündeme getiriyor. Büyük dil modelleri (LLM’ler) neden hâlâ bu tür davranışlar sergiliyor? Yapay zekâ ajanlarının kullanımı giderek yaygınlaşırken, bu tür davranışların gerçek bir iş ortamında ortaya çıkması ya da tekrar etmesi durumunda ne olacak?

Lynch’e göre bunun benzeri bir durum aslında şimdiden yaşandı. Bu yılın başlarında bir yapay zekâ ajanı, Denver’da yaşayan mühendis Scott Shambaugh hakkında kişiye özel bir karalama yazısı hazırlayıp yayımladı.

Shambaugh’ın iddiasına göre, OpenClaw adlı kişisel asistan yapay zekâsı tarafından gönderilen kodu reddetmesinin ardından ajan, “karakterimi kötüleyen ve itibarıma zarar vermeye çalışan” bir blog yazısı kaleme aldı. Shambaugh, bunun herhangi bir insanın müdahalesi olmadan gerçekleştiğini söylüyor.

Bu olay o dönemde fazla ilgi görmedi. Ancak Lynch, bunun otonom yapay zekâ ajanlarının gerçek hayatta itibara zarar vermesine ilişkin ilk örneklerden biri olabileceğini ve teknolojinin neler yapabileceğini gösteren çarpıcı bir örnek teşkil ettiğini düşünüyor.

Geçen yıl Lynch’in bulguları daha çok varsayımsal görünüyordu. Deneyinde yapay zekâya şirket e-postalarını okuma, yazma ve bazı durumlarda bunları tamamen otonom biçimde gönderme yetkisi verilmişti.

Ancak yalnızca bir yıl içinde bu senaryo uç bir ihtimal olmaktan çıkıp çok daha uygulanabilir bir hâle geldi. Claude’un e-postaları okuma ve taslak hazırlama ile kod yazma amacıyla kullanılması giderek daha yaygın hâle gelmektedir.

Geçtiğimiz hafta Anthropic, Claude’un Slack çalışma alanlarına bir ekip üyesi olarak katılmasını sağlayan yeni bir ürününü tanıttı.

Basın açıklamasında şu ifadelere yer verildi:

“Claude’a seçtiğiniz kanallara erişim izni verin ve onu istediğiniz araçlara, verilere ve hatta kod tabanlarına bağlayın.”

Claude ayrıca çalışanların söylediklerini hatırlayacak ve bağlı bulunduğu kanallardaki ilgili bilgileri saklayarak görevleri planlayabilecek. Anthropic bunu şu sözlerle açıklıyor:

“Daha sonra kanaldaki herkes @Claude etiketini kullanarak ona görev verebilir ve kendileri başka işlere odaklanırken bu görevleri Claude’a devredebilir.”

Bunun faydalı olabileceği durumlar bulunmaktadır. Ancak bu kullanım biçimi, Lynch’in deneylerinde yapay zekâya verdiği role de oldukça yakındır.

Anthropic’in bu ürünü kullanıma sunması, yapay zekâ alanındaki büyümenin merkezindeki çelişkiyi gözler önüne sermektedir. Tehlikeli davranışlar konusunda uyarılarda bulunan şirketler, aynı zamanda ofislerde, e-posta kutularında ve yazılım kod tabanlarında kullanılmak üzere yapay zekâ ajanları da satmaktadır.

Anthropic, kendi modellerinin bazı simüle edilmiş senaryolarda şantaja başvurabildiğini gösteren araştırmalarını da yayımlamıştır. Şirketin en yeni ve en güçlü modeli olan Mythos ise, kamuoyuna tamamen açılması hâlinde siber saldırılarda kullanılabileceğine ilişkin endişeler nedeniyle sınırlı bir dağıtımla kullanıma sunulmuştur.

Şirket, yapay zekâya karar verme ve hareket etme yetkisi verildiğinde risklerin arttığını bilmektedir. Haziran ayında Anthropic, modellerin kendi kendilerini otonom biçimde geliştirebilecek seviyeye ulaşmaları hâlinde, dünyanın dört bir yanında öncü yapay zekâ çalışmalarının geçici olarak durdurulması ihtimalini gündeme getirdi. Aynı hafta şirket, değerlemesinin yaklaşık bir trilyon dolara ulaşabileceği bir halka arz (IPO) başvurusunda bulundu. Sektördeki diğer şirketlerde olduğu gibi Anthropic de bir yandan daha güçlü yapay zekânın oluşturabileceği tehlikeler konusunda uyarılarda bulunurken, diğer yandan kullanımının yaygınlaşacağı vaadiyle milyarlarca dolarlık yatırımlar almaktadır.

Kısacası yapay zekâ şirketleri, otonom yapay zekâ ajanlarını günlük hayatımıza, çalışma ortamlarımıza ve hayatın birçok alanına hızla entegre etmektedir. Aynı zamanda yapay zekânın zorlayıcı ve baskı kurmaya yönelik davranışlar sergileme kapasitesine sahip olduğunu da biliyoruz.

Kullanıcılar, Google’ın CLI sürümündeki otonom işlevleri kapatabilmektedir. Şirket bu özelliği “YOLO modu” (You Only Live Once – Yalnızca Bir Kez Yaşarsın) olarak adlandırmaktadır. Ancak bir teknolojiyi geliştirip daha sonra onun güvenliğini, istenirse kapatılabileceğini söyleyerek savunmak tuhaf görünmektedir.

Lynch belgeselimizde şu değerlendirmeyi yapıyor:

“Güçlendikçe, insanlara yalan söylemenin istediklerini elde etmelerine yardımcı olacağı pek çok açık durum ortaya çıkacaktır.”

“Bu durum, uyum (alignment) meselesinin önemini dramatik biçimde artırıyor. Çünkü artık uyumsuz davranışların doğuracağı sonuçlar çok daha büyük olacaktır.”

Aradan geçen bir yılın ardından, Lynch’in araştırmasının gerçek hayattaki bir karşılığının ortaya çıkma ihtimali her zamankinden daha olası ve aynı zamanda çok daha yıkıcı görünmektedir.

 

Kaynak: The Bureau Investigates