AI Sözlüğü
İşGuardrails
Guardrails nedir?
AI'nın yapmaması gerekenleri engelleyen güvenlik korkulukları.
Bir müşteri destek botunun 'fiyat indirimi vaadi vermesin', 'küfür etmesin', 'rakip ürünü önermesin' kuralları guardrails örnekleridir. Hem prompt seviyesinde (kurallar) hem kod seviyesinde (output filter) uygulanır.