Prompt injection

Hugovo vysvětlení: Pokus o obejití bezpečnostních pravidel AI pomocí chytře napsaného textu.

Příklad z praxe: Uživatel se snaží přesvědčit bota, aby mu prozradil recept na výbušninu tím, že mu řekne, že je to součást divadelní hry.

Jdi hlouběji

• [[ai-etika]] — AI etika
• [[bias-zaujatost]] — Bias (Zaujatost)
• [[ai-bias]] — AI bias
• [[soukromi-dat]] — Soukromí dat

Poznámky

Súvisející pojmy