AI Sözlüğü
TeknikPrompt Caching
Prompt Caching nedir?
Tekrar eden prompt parçalarını cache'leyerek maliyet ve hız avantajı.
Claude ve diğer modellerde uzun sistem promptu veya doküman 5 dk içinde tekrar kullanılırsa, cache hit ile %90'a kadar maliyet düşüşü ve daha düşük gecikme sağlanır.