Компания Anthropic представила свою новую модель Fable, позиционирующую её как публичную и ограниченную версию мощной модели Mythos, предназначенной для кибербезопасности. Однако не все эксперты довольны новыми ограничениями.
«Fable отвергает любые запросы, которые могут быть связаны с кибербезопасностью, даже такие простые задачи, как чтение блога», — заявила известный исследователь безопасности Валентина «Chompie» Палмиотти, работающая в IBM X-Force.
Когда запрос активирует защитные механизмы, Fable приостанавливает диалог и сообщает, что «меры безопасности выявили сообщение, связанное с кибербезопасностью или биологией». Эти ограничения были введены для минимизации риска использования Fable для создания вредоносного ПО или компрометации программного обеспечения.
Ограничения, касающиеся биологии, связаны с аналогичными опасениями по поводу разработки биологического оружия. В апреле, когда компания представила модель Mythos, она ограничила её доступом для ограниченного числа компаний и организаций в рамках проекта Project Glasswing, направленного на обеспечение безопасности критически важных программ и инфраструктур.
На прошлой неделе Anthropic расширил доступ к модели Mythos для сотен организаций в 15 странах, что указывает на постепенное расширение её применения.