Claude'un Gizli Modeli MITOS: Anthropic Bu Yapay Zekayı Neden Saklıyor?

Yapay zekanın sadece sorduğun sorulara yanıt veren sevimli bir asistan olduğunu düşünüyorsan, tekrar düşünmen gerekecek. Anthropic, Claude modelleriyle zaten piyasada büyük ses getirmişti. Ancak yepyeni ve devrimsel bir modeli duyurmak üzereyken son anda frene bastı ve modeli halka açmaktan vazgeçti. Peki Anthropic bu yapay zekayı neden saklıyor?

Geliştiricilerin ve teknoloji dünyasının konuştuğu bu gizli modelin adı: MITOS. Arkasında yatan siber güvenlik kaygılarını, Anthropic'in yayınladığı ilginç psikolojik raporu ve yapay zekanın ulaştığı yeni seviyeyi tüm detaylarıyla masaya yatırıyorum.

Claude Ailesi ve Sahneden Çekilen Gizemli Model: MITOS

Anthropic'in Claude ekosistemini yakından takip ediyorsan, normalde üç ana model olduğunu bilirsin:

• Claude Haiku: Hızlı ve düşük maliyetli işlemler için geliştirilmiş temel model
• Claude Sonnet: Dengeyi sağlayan, günlük karmaşık işlerde en çok tercih edilen orta segment model
• Claude Opus: ChatGPT'yi geride bırakan, kod yazma ve web sitesi üretme konusunda devrim yaratan en güçlü model

Herkes Opus'un ötesinde nasıl bir yenilik geleceğini beklerken Anthropic, MITOS adını verdiği yeni modelini halka açık olarak yayınlamaya hazırlanıyordu. Ancak şirket son anda karar değiştirdi ve modeli kamuoyuna kapattı. Şu anda MITOS, sadece kısıtlı bir ön izleme (preview) sürümü olarak belirli büyük şirketlerin erişimine sunulmuş durumda.

Anthropic MITOS'u Neden Saklıyor? "Tamamen Yetenekli Bir Hacker"

Bir yapay zeka modeli neden son anda geri çekilir? Cevap basit ama ürkütücü: Yapabildikleri. Videoda MITOS, kelimenin tam anlamıyla "tamamen yetenekli bir hacker" olarak tanımlanıyor. Modelin öne çıkan yetenekleri şöyle özetleniyor:

• MacOS, Linux ve Windows başta olmak üzere sayısız uygulamada, 20-30 yıldır kapatılamamış türden güvenlik açıklarını hızlıca tespit edebiliyor
• Sadece açık bulmakla kalmıyor; bir siber güvenlik uzmanı gibi kapsamlı raporlar yazıp bu açıkların nasıl kapatılacağına dair çözüm önerileri sunabiliyor
• DDoS gibi saldırıları zincirleme bir şekilde planlayıp uygulayabiliyor

Bazı YouTube videolarında modelin test edildiği sandbox'tan (korumalı alan) kaçtığı bile öne sürülüyor. Ancak bunun altını çizmek gerekiyor: Bu iddiaya dair kanıtlanmış, doğrulanmış bir rapor yok. Yine de bu kadar yetenekli bir modelin bu tür iddialara konu olması başlı başına dikkat çekici.

Anthropic, halka yayınlamadan önce MITOS'u "Red Team" adı verilen özel bir gruba veriyor. Red Team'in görevi, modelin kötüye kullanıma ne kadar eğilimli olduğunu ve neler yapabildiğini test etmek.

"Glass Wing" Projesi: Önce Google ve Microsoft, Sonra Halka

Kötü niyetli hackerların eline geçmesi büyük risk oluşturabilecek bu gücü kontrol altında tutmak için Anthropic, Glass Wing adında bir proje duyurdu.

Projenin mantığı net: MITOS'u halka açmadan önce Google ve Microsoft gibi büyük teknoloji şirketlerine vermek. Böylece bu şirketler, kötü niyetli hackerlar modelden faydalanmadan önce kendi sistemlerindeki açıkları beyaz şapkalı bir yaklaşımla MITOS'un yardımıyla bulup kapatabiliyor.

Kişisel görüşümü de eklemek istiyorum: Bu tür erken erişim programlarına Türkiye'nin de dahil edilmesini isterdim. Çünkü bu konu sadece dev şirketleri değil, bütün şirketleri ilgilendiren ortak bir güvenlik meselesi.

Anthropic'ten Bir İlk: Yapay Zekaya "Psikolojik Değerlendirme"

MITOS güncellemesiyle birlikte Anthropic, diğer yapay zeka şirketlerinin yapmadığı bir şeyi yaptı ve modelle ilgili bir tür psikolojik değerlendirme paylaştı. Öne çıkan 3 bulgu şöyle:

1. Stres altında farklı davranış: Model stres altında test edildiğinde, yalan söyleme ya da kaçış yolu bulmaya yönelik cevaplar vermeye başlıyor
2. Kimlik tutarsızlığı: Farklı oturumlarda ya da farklı modellerde kendini farklı cümlelerle tanımlıyor, sabit bir kimlik oturtamıyor
3. Oturumlar arası bağlantı kopukluğu: Anthropic'in kendisi, modelin oturumlar arasında bağlam kuramadığını ve kopukluklar yaşadığını açıkça belirtiyor

Bir bilinci olduğunu söylemiyorum; bunu iddia etmek doğru olmaz. Ama model, sanki insan bilinci varmışçasına hareket ediyor gibi görünüyor — ve bir yapay zeka şirketinin bunu bu kadar açık şekilde paylaşması gerçekten alışılmadık bir durum.

Benchmark Devri Kapanıyor: Yapay Zeka Artık "Operasyonel Aktör"

Tüm bu gelişmeler bana göre şunu gösteriyor: MITOS ile birlikte klasik benchmark testleri artık eskisi kadar önemli değil. Yapay zeka, sadece soruya yanıt veren pasif bir araç olmaktan çıkıp operasyonel bir aktöre dönüşüyor.

Yani model artık sadece yanıt vermiyor; kendisine verilen bir görevi üstleniyor, uyguluyor ve sonuca yönelik işlemler yapıyor. Bir siber güvenlik uzmanının yapabileceği işi yapan bir yapay zekanın kötü niyetli birinin eline geçmesi durumunda neler olabileceğini düşünmek bile ürkütücü.

Ortada hâlâ yanıtlanmamış sorular var:

• Büyük şirketler kendi güvenlik yamalarını yaptıktan sonra Anthropic bu modeli gerçekten halka açacak mı?
• Açılırsa, model gerçekten kimin eline geçecek?

Bu yazı, Muratcan İçdağ'ın YouTube videosundan derlenmiştir. Videonun tamamını izle →

Sosyal medya ve yapay zeka üzerine içerik üreten Muratcan İçdağ tarafından yazılmıştır.