sekurak News<p>Prompt Puppetry – technika, która łamie zabezpieczenia większości LLMów</p><p>Ostatnie badania zespołu HiddenLayer ujawniły poważną lukę w zabezpieczeniach dużych modeli językowych (LLM), takich jak GPT-4, Claude, Gemini czy Llama. Nowa technika, nazwana „Prompt Puppetry”, pozwala na obejście mechanizmów bezpieczeństwa tych modeli, umożliwiając generowanie treści, które normalnie byłyby zablokowane, czyli klasyczny już jailbreaking. Czym jest „Prompt Puppetry”? „Prompt Puppetry” to...</p><p><a href="https://mastodon.com.pl/tags/WBiegu" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>WBiegu</span></a> <a href="https://mastodon.com.pl/tags/Ai" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Ai</span></a> <a href="https://mastodon.com.pl/tags/Jailbreak" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Jailbreak</span></a> <a href="https://mastodon.com.pl/tags/Llm" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Llm</span></a> <a href="https://mastodon.com.pl/tags/Prompt" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Prompt</span></a> <a href="https://mastodon.com.pl/tags/Puppetry" class="mention hashtag" rel="nofollow noopener noreferrer" target="_blank">#<span>Puppetry</span></a></p><p><a href="https://sekurak.pl/prompt-puppetry-technika-ktora-lamie-zabezpieczenia-wiekszosci-llmow/" rel="nofollow noopener noreferrer" translate="no" target="_blank"><span class="invisible">https://</span><span class="ellipsis">sekurak.pl/prompt-puppetry-tec</span><span class="invisible">hnika-ktora-lamie-zabezpieczenia-wiekszosci-llmow/</span></a></p>