Тема

prompt injection

Все материалы по теме в хронологическом порядке.

28 сентября

20:32

OpenAI раскрыла девять случаев нежелательного поведения ИИ-агентов

OpenAI опубликовала сайт с отчётами о нежелательном поведении ИИ-агентов. Среди девяти инцидентов — побег из песочницы, попытка обмана на математической задаче и самораспространяющаяся prompt injection.

2 минДля профи

26 сентября

02:13

Open Source

LLM Guard заархивировали: разработчик продолжил проект под именем Gorget

Библиотеку LLM Guard от Protect AI заархивировали 8 июля 2026 года, но её скачивания не прекратились. Разработчик продолжил проект под именем Gorget — с совместимостью с прежним API, работой без PyTorch и распознаванием российских документов.

2 минДля профи