OpenAI нанимает подрядчиков, которые просматривают переписки пользователей с ChatGPT для улучшения ответов бота
OpenAI нанимает сотни подрядчиков, которые анализируют переписки пользователей с ChatGPT для оценки и улучшения ответов бота. Об этом 404 Media пишет, ссылаясь на внутренние документы компании, в которых используется кодовое название «Проект Лилия».
Процесс состоит из трех этапов. Подрядчик читает реальный запрос пользователя и описывает, что он хочет узнать у ChatGPT. После этого он оценивает набор сгенерированных ответов.
Каждый ответ оценивается по шкале от 1 («неприемлемо») до 7 («трудно существенно улучшить»). Дальше подрядчик письменно обосновывает свою оценку. Он обязан отметить минимум три фрагмента ответа как «соответствующие» или «несоответствующие», а также объяснить почему.
Подрядчики обучают ИИ не очеловечивать себя и быть «менее подобострастным», избегать неуместных эмодзи и «ИИ-шаблонов», не имитировать личный опыт. Фактическую точность они не проверяют, но могут отмечать замеченные ошибки или отсутствие источников в «высокорисковых» темах, включая медицину, право и финансы.
В компании не ответили на вопрос, уведомляют ли пользователей о том, что их переписки могут просматриваться людьми для улучшения ответов ИИ. OpenAI только указала на раздел, в котором говорится, что сообщения могут просматриваться людьми «для улучшения ответов».
В OpenAI отметили, что обработка чатов пользователей ведется с помощью специальной модели Privacy Filter, которая удаляет из переписок личную информацию, а только потом они попадают к подрядчикам. Модель может ошибаться и пропускать некоторые данные, допустили в компании.
Переписки пользователей не используются для улучшения ответов, если отключить в настройках ChatGPT параметр «Совершенствовать модель для всех», пояснили в компании. Для тарифов Free, Plus и Pro он включен по умолчанию.
