Temel İstem (Prompting) Teknikleri ve Uygulama Kılavuzu
1. Giriş ve LLM Çıktı Yapılandırması (Output Configuration)
Büyük Dil Modelleri (LLM), ardışık metin dizilerini girdi olarak alarak bir sonraki olası token'ı tahmin eden olasılıksal tahmin motorlarıdır. İstem mühendisliği (prompt engineering), modelin bu ardışık tahmin zincirini en doğru ve amaca uygun şekilde yönlendirmesini sağlama sürecidir. Ancak bir tekniğin başarısı, modelin örnekleme (sampling) parametrelerinin amaca uygun yapılandırılması ile doğrudan bağlantılıdır.
Parametre / İşlevi ve Çalışma Mekanizması / Önerilen Değerler
Output Length
Modelin üretebileceği maksimum token sınırını belirler. Bu sınırın düşürülmesi yanıtı metin olarak kısaltmaz; sınır aşıldığında üretimin doğrudan kesilmesine yol açar.
Göreve göre belirlenir (Ör. 250 - 1024 token).
Temperature (T)
Token seçimindeki rastgelelik ve yaratıcılık derecesini kontrol eder. Düşük sıcaklık deterministik yanıtlar sunarken, yüksek sıcaklık beklenmedik ve çeşitli kelime seçimlerine olanak tanır.
• Kesin/Olgusal: 0 (Greedy)
• Dengeli: 0.2
• Yaratıcı: 0.9
Top-K
Modelin tahmin ettiği dağılım içerisinden en olası ilk K adet token'ı aday olarak filtreler. 1 değeri greedy decoding üretir.
• Olgusal: 20
• Standart: 30 - 40
Top-P (Nucleus)
Kümülatif olasılığı belirlenen P eşiğini aşmayan en yüksek olasılıklı token havuzunu filtreler.
• Standart: 0.95
• Yaratıcı: 0.99
2. Temel Seviye İstem (promptin) Teknikleri
2.1. Zero-Shot Prompting (Örneksiz İstem)
Zero-shot prompting, modelin herhangi bir demonstrasyon veya örnek görmeden yalnızca verilen talimat ve metin girdisiyle yanıt üretmesidir. En yalın istem yöntemidir; genel özetleme, metin tasnifi veya duygu analizi gibi modellerin temel eğitim verisiyle kolayca kavrayabildiği görevlerde tercih edilir.
2.2. One-Shot ve Few-Shot Prompting (Tek ve Çok Örnekli İstem)
Modele istenen çıktının yapısını, üslubunu veya örüntüsünü öğretmek için istem içerisine örnek(ler) eklenmesidir. Tek bir örnek verildiğinde One-Shot, birden fazla örnek sunulduğunda Few-Shot adını alır.
Örnek Sayısı: Genel kural olarak 3 ila 5 kaliteli örnek sunulması önerilir.
Uç Durumlar (Edge Cases): Beklenmedik veya sıra dışı girdilerin model tarafından doğru işlenebilmesi için örnek havuzuna eklenmelidir.
Sınıf Karıştırma (Mix Up Classes): Sınıflandırma görevlerinde modelin girdi sırasına aşırı uyum (overfitting) sağlamaması için örneklerdeki sınıfların sırası dengeli biçimde karıştırılmalıdır.
2.3. System, Contextual ve Role Prompting
Bu üç istem türü genellikle bir arada kullanılsa da farklı odaklara hizmet eder:
System Prompting: Modelin çalışma çerçevesini, emniyet kurallarını ve teknik sınırlarını belirler (Ör. "Cevapları yalnızca geçerli bir JSON şemasında döndür ve saygılı bir üslup kullan."). JSON şemaları halüsinasyonları belirgin şekilde sınırlandırır.
Role Prompting: Modele belirli bir uzmanlık kimliği veya karakter tanımlar (Ör. "Bir seyahat rehberi gibi davran"). Modelin tonunu resmi, esprili, ilham verici veya doğrudan hale getirir.
Contextual Prompting: Yürütülen konuşmaya veya göreve özel anlık arka plan bilgisini sağlayarak modelin nüansları doğru kavramasına yardımcı olur.
3. İleri Düzey Akıl Yürütme ve Düşünce Mimarileri
3.1. Step-Back Prompting (Geri Adım Atma Tekniği)
Modele doğrudan karmaşık veya spesifik bir problem sorulduğunda yüzeysel ya da rastgele yanıtlar üretebilir. Step-back tekniğinde model önce konunun temel kavram ve ilkelerine dair daha genel/soyut bir soruya yanıt verir; ardından elde edilen bu temel kavramlar nihai spesifik isteme bağlam olarak beslenir. Bu yaklaşım modelin parametrelerindeki derin bilgiyi açığa çıkarır.
3.2. Chain of Thought - CoT (Düşünce Zinciri)
Matematiksel ve mantıksal problemlerde LLM'ler doğrudan sonuç vermeye zorlandığında yüksek oranda hata yaparlar. CoT, modele ara akıl yürütme adımlarını ürettirmektir ("Let's think step by step" yönergesi ile tetiklenebilir).
Kritik Kural: Nihai cevap her zaman ara akıl yürütme adımlarından sonra gelmelidir. Çünkü üretilen her ara token, sonraki token'ların tahmin olasılığını iyileştirir.
Sıcaklık Ayarı: Kesin doğru tek bir cevap arandığından CoT kullanımında Temperature değeri mutlaka 0 olarak seçilmelidir.
3.3. Self-Consistency (Kendi İçinde Tutarlılık)
Standart CoT tekniğinin tekil (greedy) çözüm yoluna saplanıp hata yapmasını engeller. Yüksek sıcaklık değerinde aynı CoT istemi birden çok kez çalıştırılır. Her çalıştırmadan elde edilen nihai cevaplar toplanır ve çoğunluk oylaması (majority voting) yöntemiyle en çok tekrar eden sonuç doğru cevap olarak seçilir.
3.4. Tree of Thoughts - ToT (Düşünce Ağacı)
Doğrusal akıl yürütmeyi dallara ayıran hiyerarşik bir yapıdır. Model olası ara adımları bir ağaç grafı gibi türetir, her dalı kendi içinde değerlendirir ve gerekirse çıkmaz sokaklardan geri dönerek (backtracking) alternatif düşünce yollarını keşfeder. Stratejik planlama ve keşif gerektiren görevler için uygundur.
3.5. ReAct (Reason & Act - Akıl Yürüt ve Eyleme Geç)
Modelin sözel akıl yürütme yeteneği ile dış araçları (arama motorları, API'ler, kod çalıştırıcılar) birleştiren otonom ajan mimarisidir. Süreç kesintisiz bir Düşünce (Thought) → Eylem (Action) → Gözlem (Observation) döngüsü ile işletilir.
3.6. Automatic Prompt Engineering - APE
İstem hazırlama sürecini otomatikleştirmek için modelin kendisine alternatif prompt varyantları ürettirildiği tekniktir. Üretilen alternatifler BLEU veya ROUGE gibi otomatik değerlendirme metrikleriyle puanlanır ve en yüksek başarıyı veren istem seçilerek üretime alınır.
4. Kod Odaklı Prompting ve En İyi Mühendislik Pratikleri
4.1. Kod Görevleri (Code Prompting)
LLM'ler yazılım yaşam döngüsünde dört temel operasyonu yerine getirebilir:
Kod Yazma (Generation): İstenen fonksiyon veya betiğin sıfırdan oluşturulması.
Kod Açıklama (Explanation): Karmaşık kod bloklarının adım adım mantığının dökümlenmesi.
Kod Çevirme (Translation): Bir programlama dilinden (Ör. Bash) diğerine (Ör. Python) kodun dönüştürülmesi.
Hata Ayıklama ve İnceleme (Debugging & Review): Hata mesajı ve kodun verilerek hatanın tespiti, düzeltilmesi ve genel optimizasyon önerilerinin alınması.
4.2. Temel En İyi Uygulamalar (Best Practices)
Kısıtlamalar Yerine Talimatlar (Instructions over Constraints): Modele neyi yapmaması gerektiğini listelemek yerine, neyi yapması gerektiğini pozitif yönergelerle belirtmek her zaman daha yüksek başarı sağlar. Kısıtlamalar yalnızca güvenlik ve katı format gereksinimleri için saklanmalıdır.
Eyleme Dayalı Net Fiiller: İstemin başında belirsiz ifadeler yerine doğrudan aksiyon belirten açık fiiller kullanılmalıdır (Ör. Classify, Extract, Summarize, Parse, Generate, Rewrite).
Değişken Kullanımı (Prompt Variables): İstemlerin yeniden kullanılabilir ve dinamik olabilmesi için değişkenler (Ör. {sehir}) şablon olarak yapılandırılmalıdır.
Sistematik Belgeleme (Prompt Versioning): İstem mühendisliği yinelemeli (iterative) bir süreçtir. Her deneme için İstem Adı, Model Sürümü, Sıcaklık, Top-K/P, İstem Metni ve Alınan Çıktı bir şablon tabloda kayıt altına alınmalı; nihai promptlar yazılım kod tabanında koddan bağımsız dosyalarda saklanmalıdır.
Kaynak: "Prompt Engineering" (Lee Boonstra, Google)
Janset Emine Günay