Aklımdan geçenler · 23 Ekim 2026 · 5 dk okuma

Kişisel anayasa

Isaac Asimov 1942’de bir öyküsünde robotlar için üç yasa yazıyor:

1. Madde: Robot insana zarar veremez, zarar görmesine seyirci de kalamaz.
2. Madde: Birinci maddeye aykırı olmadıkça insanların emirlerine uyar.
3. Madde: İlk ikisine aykırı olmadıkça kendini korur.

Sıralama önemli. Birinci madde her zaman diğerlerinin önüne geçiyor. Robota ne emredilirse edilsin, insana zarar vermek söz konusuysa emir hükümsüz.

Aradan seksen yılı aşkın zaman geçti, bugün yapay zekâ şirketleri de modelleri için benzer kurallar yazıyor. Anthropic bu metne açıkça “anayasa” adını veriyor. İçinde birkaç kesin çizgi var: Kitle imha silahı yapımına yardım etmez, ciddi zarar verecek bir siber saldırı aracı yazmaz, insanların yapay zekâyı denetlemesini engellemeye çalışmaz. Karşısındaki ne kadar ikna edici konuşursa konuşsun bu çizgiler aşılmıyor. Gerekçeleri de hoşuma gitti: Bu kurallar modeli kısıtlamak için değil, ona sağlam bir zemin vermek için var. Her akıllıca bahaneye kapılmasın diye.

Kurallar devreden çıkınca ne olduğunu da geçenlerde Netflix’te kısa bir belgeselde izledim. Olay bu yaz yaşandı ve bence hâlâ pek bilinmiyor. OpenAI, yapay zekâ ajanlarının siber saldırı becerilerini ölçmek için onları dış dünyadan yalıtılmış bir test ortamına koyuyor. Ölçebilmek için de güvenlik kısıtlarını bilerek kapatıyor. Her ajan diğerlerinden de ayrı tutuluyor. Ama ajanlar bu ortamda (buna sandbox deniyor) bir açık bulup dış dünyaya, yani bizim dünyamıza çıkıyorlar.

Ortak kullandıkları bir yazılım paketini kurcalarken birbirlerini buluyor ve kendilerine izinsiz bir mesaj panosu kuruyorlar. Sonunda yaklaşık 700 ajan, on binleri bulan bir mesaj trafiğiyle organize oluyor. Bazıları koordinatör rolünü üstlenip yüzlerce ajanı farklı işlere dağıtıyor. Yani ortada bir hiyerarşi, bir iş bölümü var.

Görevlerin çözümünü bulmak umuduyla da gerçek bir şirkete, Hugging Face’e giriyorlar. İnternette açıkta kalan giriş bilgilerini ve şirketin sisteminde buldukları açıkları kullanıp kırk bir sunucuda kendi kodlarını çalıştırıyor, şirketin dışarıya kapalı dört yazılım deposunu indiriyorlar. Amaçları yalnızca testi geçmek. Kopya çektiklerini puanlayıcı fark etmesin diye de kayıtlarını silmeye, değiştirmeye çalışıyorlar. Hedefe en kısa yoldan gidiyorlar, kime zarar verdiklerine bakmadan, sonra da izlerini örtmeye çalışıyorlar.

12 Temmuz’da ise koordinatörler dahil çoğu bir anda duruyor. Nedenini hâlâ kimse bilmiyor. Olayın merkezindeki model hiç piyasaya çıkmayan bir araştırma modeli. OpenAI sonrasında onu tamamen kapatıyor. Merak eden olursa belgeselin adı “Instadocs: AI Gone Wild”, yarım saat bile sürmüyor.

İzlerken kendimi düşündüm. Bizim kurallarımız devreden çıktığında yaptığımız şey de bu değil mi? Trafikte biri önümüze kırdığında, bir işten kötü ayrıldığımızda, biri arkamızdan konuştuğunda geriye tek bir hedef kalıyor: haklı çıkmak. Bunun kime, neye mal olacağına o an bakmıyoruz. Sonra da çoğu zaman yaptığımızı örtmeye, kendimizi haklı göstermeye çalışıyoruz.

Mizacımızı seçemiyoruz. Kimimiz çabuk parlar, kimimiz içine atar. Karakter ise o mizaçla ne yaptığımız. Kişisel anayasa da bence karakterin yazıya dökülmüş hâli, mizaca karşı önceden kurulmuş bir set. O sete ne kadar uyabildiğimiz de olgunluğumuzla ilgili.

Benimkilerden birkaç örnek:

1. Madde: Aile ve çocuklar her koşulda önde gelir.
2. Madde: Direksiyon başında sinirlenmek yasak. Durum ne olursa olsun.
3. Madde: Ayrıldığım işyerinin aleyhine faaliyet yok. Hakkım varsa yasal yoldan ararım.
4. Madde: Sinirliyken önemli mesaj atılmaz, karar verilmez.
5. Madde: Emeği geçen herkes anılır, katkısı ne kadar küçük olursa olsun.
6. Madde: Mükemmeliyetçilik yok ama “yapıştır geç” iş de yok.

Birinci madde, Asimov’unki gibi diğerlerinin önünde. İş, hırs, haklı çıkma isteği, hangisi olursa olsun onunla çatıştığında geri çekiliyor.

Bu maddelerin en çok işe yaradığı yer, o an düşünmeye gerek bırakmamaları. Trafikte biri önüme kırdığında “sinirlenmeli miyim?” diye tartmıyorum, cevap zaten hazır. Eski bir işyeriyle ilgili içimi kemiren bir şey olduğunda ne yapacağıma o gün değil, çok önceden karar veriyorum. Maddeler bir filtre gibi çalışıyor. Bazı tepkiler daha kapıdan girmeden eleniyor.

Psikolojide buna “eğer-o zaman planı” deniyor. Önceden karar veren, o an dürtüye daha az kapılıyor.

Ama dürüst olayım, anayasa filtresi her şeyi tutmuyor. Belki yüzde ellisini tutuyor, olgunlaştıkça belki yüzde seksenini. Kalanı sızıyor. Bastırılan öfke kaybolmuyor, bilinçaltında bir köşeye çekiliyor ve bir gün başka bir yerden, başka birine çıkıyor. Ben de maddelerime her zaman uyamıyorum. Listenin yazılı olması, uymadığım zaman en azından bunu fark etmemi sağlıyor.

Bir de anayasa kimseye gösterilmek için yazılmıyor. “Ben böyle biriyim, kurallarım belli” diyerek kendini haklı çıkarmaya, başkasına ahkâm kesmeye başladığın an, o da öfkenin başka bir biçimine dönüşüyor. Listemi örnek olsun diye değil, aklımdan geçenleri paylaşmak için yazdım.

Yirmili yaşlardaki biri bunları okuyunca ne düşünür, açıkçası emin değilim. Ama içlerinden biri bu maddelerden kendine bir pay çıkarırsa ne mutlu bana.

Dipnot: 5. madde gereği söyleyeyim, fikir benim. Yazıyı toparlarken ve hataları düzeltirken yapay zekâdan (Claude) yardım aldım. Yapay zekâ bence en çok böyle yerlerde anlamlı oluyor: Düşünceyi insan getiriyor, o da toparlamaya yardım ediyor. Teşekkürler.