ИТ-эксперт Широглазова: ChatGPT запоминает разговоры через функцию Memory
ChatGPT может запоминать содержание личных разговоров и использовать сведения о пользователе в последующих диалогах благодаря функции Memory. Об этом «Газете.Ru» рассказала AI/ML-инженер, эксперт по большим языковым моделям, AI-агентам и автоматизации бизнес-процессов Надежда Широглазова.
Как объяснила специалист, память ChatGPT представляет собой отдельный слой персонализации и отличается от истории чатов. История — это непосредственно архив переписок, который пользователь видит в своем аккаунте. Память же не обязана хранить разговор дословно: система может выделять из него факты, предпочтения, цели и связи, которые пригодятся в дальнейшем.
«Например, ChatGPT может учитывать имя человека, его профессию, место работы или учебы, город проживания, интересы, текущие проекты, предпочтительный формат ответов и личные обстоятельства. Для активного пользователя это принципиально меняет качество взаимодействия. Не нужно в каждом новом разговоре заново объяснять, кто ты, над чем работаешь и почему принимаешь то или иное решение», — отметила Широглазова.
При этом специально просить нейросеть запомнить сведения необязательно. Если система сочтет информацию полезной для будущих разговоров, она может сохранить или учитывать ее автоматически. Здесь, по мнению эксперта, возникает и один из рисков: представление системы о том, что важно, не всегда совпадает с представлением самого пользователя. Иногда ChatGPT не сохраняет действительно полезный факт, а иногда придает значение случайной детали.
Широглазова также обратила внимание, что удаление переписки не означает автоматического удаления сформированной на ее основе памяти.
«Сохраненный факт может продолжать использоваться после удаления исходного чата, поскольку память хранится отдельно от истории. Чтобы максимально полно удалить информацию, необходимо убрать ее из памяти, удалить соответствующие обычные и архивированные чаты, а при необходимости проверить загруженные файлы и подключенные приложения», — пояснила она.
Простое отключение Memory также не удаляет старые переписки. Если впоследствии снова включить функцию, система потенциально сможет заново извлечь информацию из оставшейся истории.
Для чувствительных разговоров Широглазова рекомендует использовать Temporary Chat. Такой чат не создает новую память, не использует существующую персонализацию, не появляется в истории и не используется для обучения моделей. Однако его копия может храниться до 30 дней в целях безопасности.
«Даже при правильных настройках я бы не отправляла ИИ пароли, коды подтверждения, полные номера документов и банковских карт, приватные ключи, а также информацию клиентов, раскрытие которой может привести к серьезным последствиям», — подчеркнула эксперт.
Ранее россиян предупредили о скрытых угрозах использования нейросетей.
???? Самое важное в одном месте — «Газета.Ru» теперь и в MAX.