Компания OpenAI анонсировала функцию, которая, по её словам, должна повысить защиту от атак с инъекцией промптов — метода, при котором зловредные инструкции для чат-ботов прячутся в веб-страницах и других источниках контента.
Режим «Закрытия» отключает живой поиск в интернете (пользователи могут использовать только кэшированные данные), загрузку и отображение изображений с веб-страниц (но генерация изображений остаётся доступной), глубокое исследование и режим агента. Компания подчеркивает, что даже с включённым режимом ChatGPT всё ещё может быть уязвим к инъекциям промптов, которые могут появляться в кэшированном контенте или в загруженных файлах.
«Режим «Закрытия» не предназначен для всех», — заявила OpenAI. «Он разработан для пользователей и организаций, работающих с конфиденциальными данными, которые хотят получить более строгую защиту от рисков утечки информации, связанных с инъекциями промптов».
На данный момент режим «Закрытия» постепенно внедряется в аккаунты ChatGPT Business, а также в подходящие личные аккаунты. Компания утверждает, что это дополнительный инструмент для минимизации возможных угроз, но не гарантирует абсолютную безопасность.