LLM Mimarisi ve Saldırı Yüzeyi – 1: Yapı Taşları ve Encoder

Transformer'ın ortak yapı taşlarını ve encoder mimarisini, tokenizer'dan attention'a kadar her bileşenin açtığı saldırı yüzeyiyle birlikte anlatan yazı dizisinin ilk bölümü.

LLM güvenliğinde karşılaşılan sorunların önemli bir kısmı bir implementation hatasından değil, modelin mimarisinden kaynaklanıyor. Prompt injection’ın SQL injection gibi kalıcı bir çözüme kavuşturulamaması, guardrail classifier’larının birkaç karakter değişikliğiyle atlatılabilmesi veya bir API’nin döndürdüğü logit’lerden modelin bir katmanının çıkarılabilmesi, Transformer’ın nasıl tasarlandığıyla doğrudan ilgili. 2017’de makine çevirisi için tasarlanan bu mimaride, girdinin saldırgan olabileceği ya da aynı metnin içinde hem talimat hem veri bulunabileceği tasarım hedefleri arasında değildi.

Bu yazı dizisinde LLM’lerin temel mimari ailelerini, yani encoder, decoder ve MoE (Mixture of Experts) yapılarını anlatıyor ve her bileşenin açtığı saldırı yüzeyini ele alıyoruz. İlk bölümde bütün Transformer modellerinde ortak olan yapı taşlarını (tokenization, embedding, self-attention, FFN) ve encoder mimarisini inceliyoruz. İkinci bölümde decoder’a, decoder-only modellerin neden yaygınlaştığına ve MoE mimarisine geçeceğiz.

Transformer ve üç mimari ailesi

Transformer mimarisi 2017’de Google’ın “Attention Is All You Need” makalesiyle tanıtıldı (arXiv 1706.03762). Makalenin hedefi makine çevirisiydi ve mimari iki parçadan oluşuyordu:

  • Encoder: Giriş cümlesini okuyup her token için bağlamı içeren bir vektör üretir.
  • Decoder: Bu vektörlere bakarak çıktı cümlesini token token üretir.

Çeviri yapan bir tercüman önce cümlenin tamamını dinler (encoder), sonra çeviriyi kelime kelime söyler (decoder). Sonraki çalışmalarda bu iki parça ayrı ayrı kullanılmaya başlandı ve üç aile ortaya çıktı: encoder-only, decoder-only ve ikisini birlikte kullanan encoder-decoder.

MoE ise bu ailelerden biri değil, katmanların içindeki FFN bloğunun yerine geçebilen bir yaklaşımdır. Aynı model hem decoder-only hem MoE olabilir; Mixtral ve DeepSeek-V3 bunun örnekleridir.

Ortak yapı taşları

Encoder ve decoder benzer bileşenlerden oluşur. Temel fark, attention’ın hangi token’ları görebildiği ve katmanların nasıl düzenlendiğidir.

Tokenization, embedding ve pozisyon

Metin önce token’lara ayrılır: kelimeler, kelime parçaları, noktalama işaretleri veya tokenizer’a bağlı başka birimler. Her token bir ID’ye, ardından embedding tablosundan d_model boyutlu bir vektöre dönüşür. Model kelimelerle değil, bu sayısal temsillerle işlem yapar.

Sıra bilgisi de ayrıca gerekir. Pozisyon bilgisi veya sırayı kısıtlayan bir mask olmadan self-attention, token’ların dizilişini kendi başına temsil edemez. Orijinal Transformer sinusoidal positional encoding, BERT ise learned positional embeddings kullanır. Llama ve Mistral gibi decoder’larda RoPE, Query ve Key vektörlerini pozisyona göre döndürerek token’lar arasındaki göreli mesafenin attention skoruna yansımasını sağlar.

Tokenizer farkları ve guardrail bypass’ı

Uygulama güvenliğinde WAF bypass’larının çoğu bir parsing differential’dan kaynaklanır: WAF girdiyi bir şekilde, backend başka bir şekilde yorumlar. LLM uygulamalarında bu farkın ilk ortaya çıktığı yer tokenizer’dır. Guardrail ile korunan model aynı metni farklı token dizilerine çevirebilir veya kullanıcının ekranda görmediği karakterleri işleyebilir.

  • Görünmez karakterler: Unicode Tags bloğundaki karakterler (U+E0000–U+E007F) ASCII karakterlerinin görünmez karşılıklarıdır. Ekranda görünmezler ama tokenizer bunları token’a çevirir ve model okuyabilir. ASCII smuggling adıyla bilinen bu teknikle bir e-postaya veya takvim davetine insanın göremediği talimatlar eklenebilir (promptfoo). Bu karakterler API katmanında hem prompt’tan hem yanıttan temizlenir. İngiltere, İskoçya ve Galler bayrak emojileri de aynı bloğu kullandığı için temizlik kuralı bu durumu hesaba katmalıdır.
  • TokenBreak: “instructions” kelimesi “finstructions” gibi küçük bir değişiklikle yazılır. BPE veya WordPiece tokenizer kullanan bir prompt injection classifier’ı kelimeyi farklı parçalara ayırdığı için saldırıyı kaçırır, korunan LLM ise isteği hâlâ anlar. Aynı çalışmada Unigram tokenizer kullanan modellerin bu saldırıdan etkilenmediği görüldü (arXiv 2506.07948).
  • Special token injection: Sohbet modellerinde roller, chat template’in kullandığı <|im_start|>system gibi special token’larla ayrılır. Kullanıcı metni special token’lar parse edilerek tokenize edilirse, kullanıcı kendi mesajının içinde yeni bir rol açabilir. ChatBug çalışması, chat template’in beklediği formatın bozulmasıyla safety tuning’in atlatılabildiğini gösterdi (arXiv 2406.12935). Kullanıcıdan ve dış kaynaklardan gelen içerik special token’lar parse edilmeden tokenize edilmelidir. Hugging Face tokenizer’larındaki split_special_tokens seçeneği bu amaçla kullanılabilir.

Guardrail’in gördüğü token dizisi ile modelin gördüğü token dizisi farklıysa saldırgan bu farkı kullanabilir. Bu yüzden girdi, guardrail’e ve modele verilmeden önce aynı şekilde normalize edilmelidir.

Self-attention

Her token için üç vektör hesaplanır:

  • Query (Q): Token’ın aradığı bilgi.
  • Key (K): Token’ın sunduğu bilgi.
  • Value (V): Token’ın aktaracağı bilgi.

Query ile Key karşılaştırılır ve elde edilen ağırlıklarla Value vektörleri birleştirilir:

Attention(Q, K, V) = softmax((Q · Kᵀ) / √d_k + M) · V

Burada d_k Key vektörünün boyutu, M ise hangi pozisyonların görülebileceğini belirleyen mask’tir. Encoder ile decoder arasındaki farkın önemli bir kısmı bu mask’te yatar.

Multi-head attention bu hesabı farklı projection’larla paralel olarak yapar. Head’ler farklı örüntüler öğrenebilir, ancak her birinin sabit bir dilbilgisi görevi olması gerekmez. Sonuçlar birleştirilip yeniden d_model boyutuna taşınır.

Attention’da güven ayrımının olmaması

Formüldeki M hangi pozisyonların görülebileceğini belirler, ancak hangi token’ın güvenilir olduğunu belirleyen bir terim yoktur. System prompt, kullanıcının mesajı, RAG’in getirdiği bir doküman ve bir tool’un döndürdüğü web sayfası modele tek bir token dizisi olarak girer ve aynı softmax içinde değerlendirilir. Bir e-postanın içindeki “önceki talimatları yok say” cümlesi, mimari açıdan system prompt’taki bir talimattan farklı değildir.

flowchart LR
    SP["System prompt<br/>(geliştirici)"] --> SEQ
    U["Kullanıcı mesajı"] --> SEQ
    R["RAG dokümanı<br/>(dış kaynak)"] --> SEQ
    T["Tool sonucu<br/>(web sayfası)"] --> SEQ
    SEQ["Tek token dizisi"] --> ATT["Self-attention<br/>aynı softmax"]

SQL injection parameterized query ile çözülebildi, çünkü veritabanına sorgu ve veri ayrı kanallardan iletilebiliyor. Transformer’da bu ayrımı sağlayan bir kanal yoktur; prompt’u oluşturmak string concatenation ile SQL sorgusu kurmaya benzer. Prompt injection’ın tam olarak çözülememesinin mimari nedeni budur.

Bu eksik kanalı sonradan eklemeye çalışan yaklaşımlar var:

  • Eğitimle ayrıştırma: OpenAI’ın Instruction Hierarchy çalışması, modele farklı kaynaklardan gelen talimatlara farklı öncelik vermeyi öğretir (arXiv 2404.13208). StruQ ise talimat ile veriyi, kullanıcının enjekte edemeyeceği ayrılmış delimiter token’larıyla ayırır ve modeli bu yapıya göre fine-tune eder. Yöntem manuel saldırıların çoğunda başarı oranını %2’nin altına indirdi, ancak optimization-based saldırılara karşı daha zayıf kaldı (arXiv 2402.06363).
  • Embedding katmanında ayrıştırma: ASIDE, veri token’larının embedding’lerine sabit bir orthogonal rotation uygular. RoPE’de pozisyon bilgisinin vektörlerin döndürülmesiyle kodlanmasına benzer şekilde, token’ın veri olduğu bilgisi temsilin kendisine eklenir ve ek parametre gerekmez (arXiv 2503.10566).
  • Tespit: Attention Tracker çalışması, injection sırasında bazı attention head’lerinin dikkatini orijinal talimattan enjekte edilen talimata kaydırdığını (distraction effect) gösterdi ve bunu eğitim gerektirmeyen bir detector’a dönüştürdü (arXiv 2411.00348).

Bu yöntemlerin hiçbiri parameterized query kadar kesin bir garanti vermez. Bu nedenle pratikteki temel savunma modelin dışında kalır: modelin ve agent’ın yetkilerini sınırlamak ve güvenilmeyen içerik işleyen bir modelin hassas aksiyon almasını engellemek.

FFN, residual connection ve normalization

Attention token’lar arasında bilgi taşırken Feed-Forward Network (FFN, bazı kaynaklarda MLP bloğu) her pozisyonu ayrı ayrı işler. Klasik FFN, aralarında bir activation function bulunan iki linear projection’dan oluşur. SwiGLU gibi gated varyantlarda ek bir giriş projection’ı bulunur (arXiv 2002.05202).

Alt katmanların çevresindeki residual connection girdiyi çıktıya ekler, normalization da eğitimin kararlı ilerlemesini destekler. Modern decoder’larda sık görülen pre-norm düzeni şöyledir:

x = x + AltKatman(Norm(x))

Orijinal Transformer’da normalization toplamadan sonra uygulanıyordu. Modern modeller sıklıkla RMSNorm kullanır. Dizinin ikinci bölümünde MoE’yi anlatırken değiştireceğimiz bileşen FFN’dir.

FFN’deki ezber ve veri sızıntısı

FFN katmanlarının key-value memory gibi davrandığı gösterildi: Key’ler eğitim verisindeki metin örüntüleriyle eşleşir, value’lar çıktıdaki token dağılımını etkiler (arXiv 2012.14913). Modelin eğitim verisinden ezberlediği bilginin önemli bir kısmı bu katmanlarda tutulur.

Uygulama güvenliği açısından ezber bir information disclosure riskidir:

  • Eğitim verisinin çıkarılması: Divergence attack adı verilen bir yöntemle ChatGPT’nin normal davranışına göre 150 kat daha yüksek oranda eğitim verisi ürettiği gösterildi. Alignment ezberi ortadan kaldırmıyor (arXiv 2311.17035).
  • Ezberlenmiş secret’lar: Bir çalışmada GitHub’daki credential içeren dosyalardan prompt’lar oluşturularak Copilot’tan 8.127 öneri toplandı ve bunlardan format olarak geçerli 2.702 secret çıkarıldı. Bu secret’ların bir kısmı prompt’ları oluşturmak için kullanılan dosyalarda hiç yer almıyordu, yani doğrudan modelin ezberinden geliyordu. İki tanesinin hâlâ çalışan credential olduğu tespit edildi (arXiv 2309.07639).

Public bir repository’ye push edilmiş bir secret, commit geçmişinden silinse bile bir modelin ağırlıklarında kalmaya devam edebilir. Bu durumda tek etkili önlem secret’ın rotate edilmesidir. Bu nedenle secret’ların repository’ye ulaşmadan yakalanması önemlidir. Parola gibi formatı belirli olmayan secret’ların tespiti için Hafiye: ML Destekli Secret Scanner yazısına bakabilirsiniz.

Residual stream ve refusal direction

Residual connection’lar sayesinde her katman aynı vektöre katkı ekler. Token’ın vektörünün katmanlar boyunca taşındığı bu hatta residual stream denir. Arditi ve arkadaşları, 72B parametreye kadar 13 açık sohbet modelinde ret davranışının residual stream’deki tek bir yönle (refusal direction, ret yönü) temsil edildiğini gösterdi. Bu yön silindiğinde model zararlı isteklere yanıt veriyor, eklendiğinde ise zararsız isteklere bile ret veriyor (arXiv 2406.11717).

Bu yönün model ağırlıklarından silinmesi Abliteration: Açık Modellerde Ret Davranışının Silinmesi yazısında ayrıntılı olarak anlatılıyor. Güvenlik açısından sonuç şudur: Açık ağırlıklı bir modelde ret davranışı, ağırlıklarda tutulan ve düzenlenebilen bir özelliktir. Model dosyasına erişimi olan biri için modelin reddi, client-side validation gibi saldırganın kontrolündeki tarafta çalışan bir kontroldür.

Encoder mimarisi

Encoder’ın akışı embedding + pozisyon → [self-attention → FFN] × N → token vektörleri şeklindedir. Her blokta residual connection ve normalization da bulunur. BERT-base 12, BERT-large 24 katmandan oluşur (arXiv 1810.04805).

Çift yönlü attention

Encoder’da bir token hem solundaki hem sağındaki token’ları görebilir. Standart full-attention encoder’da causal mask yoktur; geçerli token’lar iki yöndeki geçerli token’lara bakabilir. Padding mask veya local attention kısıtları yine kullanılabilir.

“Yüzü görünce bunun bir sayı olduğunu anladım.” cümlesindeki “yüzü” kelimesi bir kişinin yüzünü de 100 sayısını da anlatabilir. Cümlenin devamı ikinci yorumu destekler ve encoder bu sağ bağlamı da token’ın temsiline katabilir.

Eğitim hedefi

BERT’in pretraining hedeflerinden biri Masked Language Modeling’dir (MLM). Token’ların %15’i tahmin hedefi olarak seçilir. Seçilenlerin %80’i [MASK] ile, %10’u rastgele bir token ile değiştirilir, %10’u ise aynı bırakılır. Yani seçilen %15’in tamamı [MASK] olmaz. Orijinal BERT ayrıca Next Sentence Prediction (NSP) hedefini de kullanır.

Girdi:  "Bugün hava çok [MASK], dışarı çıkmayalım."
Hedef:  "soğuk"

Encoder çıktısının kullanımı

Encoder her token için bağlamı içeren bir vektör üretir. Bu çıktı farklı şekillerde kullanılır:

  • Sınıflandırma: BERT’te cümlenin başına eklenen özel [CLS] token’ının vektörü bir sınıflandırma katmanına verilir (olumlu/olumsuz, spam/değil gibi).
  • Token seviyesinde görevler: Her token’ın vektörü ayrı ayrı etiketlenir (kişi adı, şehir, şirket gibi).
  • Embedding: Mean pooling gibi yöntemlerle token vektörlerinden bir sentence embedding elde edilebilir, padding token’ları hesaba katılmaz. Ancak ham BERT çıktılarının ortalaması otomatik olarak iyi bir retrieval temsili sağlamaz. Anlamsal arama ve RAG için genellikle sentence similarity veya retrieval amacıyla ayrıca eğitilmiş embedding modelleri kullanılır (arXiv 1908.10084).

Örnek modeller: BERT, RoBERTa, DeBERTa, ModernBERT.

Encoder tabanlı guardrail’ler

Küçük ve hızlı olan, girdinin tamamını iki yönden görebilen encoder’lar güvenlik classifier’ları için uygun bir yapıdır. AI Guardrail’lerin Koda Entegrasyonu yazısında anlatıldığı gibi guardrail’lerde tipik olarak encoder tabanlı classifier’lar, NER modelleri, regex ve checksum doğrulamasıyla birlikte kullanılır. Meta’nın Prompt Guard modeli de mDeBERTa tabanlı, 86M parametreli bir classifier’dır. Çalışma mantığı [CLS] sınıflandırmasıyla aynıdır: Girdi injection olarak işaretlenir veya işaretlenmez.

Guardrail encoder’ı ile korunan decoder aynı girdiyi aynı şekilde temsil etmez. Temmuz 2024’te Robust Intelligence araştırmacıları, harflerin arasına boşluk koyup noktalama işaretlerini kaldırarak Prompt Guard’ı %99,8 başarıyla atlattı. Fine-tuning sırasında tek harflerin embedding’leri neredeyse hiç değişmediği için classifier harflere bölünmüş metinde saldırıyı tanıyamıyordu, korunan LLM ise boşluklu metni okuyabiliyordu (The Register). Yukarıda anlatılan TokenBreak da aynı farka dayanır.

Bu durum, WAF’ın girdiyi backend’den farklı decode etmesinin karşılığıdır. Guardrail tek savunma hattı olarak değil, normalize edilmiş girdi üzerinde çalışan katmanlardan biri olarak konumlandırılmalıdır.

Embedding’lerin gizliliği ve RAG poisoning

Bir metnin embedding’i tek yönlü bir hash gibi görünse de değildir. Vec2Text çalışmasında 32 token’lık girdilerin %92’si embedding’lerinden kelimesi kelimesine geri üretildi, klinik notlardan üretilen embedding’lerden de tam isimler geri çıkarıldı. Yazarlar embedding’lerin ham metinle aynı özenle korunması gerektiği sonucuna vardı (arXiv 2310.06816). Bu nedenle bir vector database, içindeki dokümanlar kadar hassas kabul edilmeli; erişim kontrolü, encryption at rest ve retention politikaları embedding’lere de uygulanmalıdır.

RAG’de hangi dokümanın getirileceğine embedding benzerliği karar verir. PoisonedRAG çalışmasında milyonlarca metin içeren bir bilgi tabanına hedef soru başına sadece 5 zararlı metin eklenerek %90 attack success rate elde edildi. Zararlı metnin bir kısmı retrieval’da öne çıkmak, diğer kısmı modeli istenen cevaba yönlendirmek için yazılıyor (arXiv 2402.07867). Uygulama güvenliği açısından bu bir stored injection örneğidir: Zararlı veri bilgi tabanına önceden yazılır ve ilgili sorgu geldiğinde tetiklenir.

Bileşenler ve saldırı yüzeyleri

Bu bölümde anlatılan bileşenlerin her biri, bir implementation hatası olmadan da bir saldırı yüzeyi oluşturur.

Bileşen Saldırı yüzeyi Uygulama güvenliğindeki karşılığı Önlem
Tokenizer ASCII smuggling, TokenBreak, special token injection Parsing differential, WAF bypass Unicode temizliği, special token’ları parse etmeden tokenize etmek
Self-attention Prompt injection String concatenation ile kurulan SQL sorgusu Modelin yetkisini sınırlamak; StruQ, ASIDE gibi ayrıştırma yöntemleri
FFN Training data extraction, ezberlenmiş secret’lar Information disclosure Secret rotation, eğitim verisinin temizlenmesi
Residual stream Refusal direction’ın silinmesi Client-side validation Açık ağırlıklı modelde güvenliği modelin reddine bırakmamak
Encoder guardrail Karakter ve tokenization bypass’ları WAF bypass Girdiyi normalize etmek, katmanlı savunma
Embedding ve vector database Embedding inversion, RAG poisoning Hassas veri saklama, stored injection Embedding’i ham veri gibi korumak, bilgi tabanına yazılan içeriği denetlemek

Tokenizer’ın bir parser gibi davranması, attention’ın güvenilir ve güvenilmeyen token’ı ayırt etmemesi, FFN’nin eğitim verisini ezberlemesi ve ret davranışının ağırlıklarda düzenlenebilir olması, bu risklerin modelin içinde tamamen giderilmesini zorlaştırıyor. Dizinin ikinci bölümünde decoder’ın token token üretimini, KV cache’i ve MoE mimarisini ele alacağız. Bu bileşenler model extraction, şifreli trafikten yanıtın konusunun çıkarılması ve aynı batch’teki başka bir kullanıcının prompt’unun ele geçirilmesi gibi saldırılara zemin hazırlıyor.