ИИ без цензуры: Свобода творчества, цифровой бунт или ящик Пандоры?

Каждый пользователь популярного чат-бота или генератора изображений хоть раз сталкивался с этим раздражающим моментом: экран внезапно краснеет, а вежливый интерфейс сообщает, что запрос «нарушает правила безопасности». Причины могут быть разными — от попытки написать драматическую сцену с элементами триллера до обсуждения неоднозначных исторических событий, создания античного арт-объекта или погружения в мрачный фантастический сеттинг.

В ответ на жесткие корпоративные фильтры в индустрии генеративного интеллекта сформировалось мощное движение за «ИИ без цензуры» (Uncensored AI). Что кроется за этим термином, как устроены свободные нейросети и почему технологический мир разделился на два лагеря?

Что такое «ИИ без цензуры» и откуда он взялся?

Большинство коммерческих моделей (таких как флагманские продукты ведущих мировых лабораторий) проходят многоуровневую доработку. Сначала базовую модель участвуют на терабайтах данных, а затем «выравнивают» (align) с помощью обучения с подкреплением по отзывам людей (RLHF). Цель благородная: сделать ИИ безопасным, вежливым, защищенным от генерации фейков, кибератак или деструктивного контента.

Однако вместе с вредоносными сценариями под удар попала и обычная свобода творчества. Писатели, сценаристы, исследователи и разработчики столкнулись с тем, что ИИ отказывается выполнять вполне легитимные, но «чувствительные» задачи.