Как ChatGPT тайно собирает цифровое досье на пользователей
Общаясь с искусственным интеллектом, пользователи нередко делятся личными переживаниями, служебными документами, спрашивают советы в финансовых вопросах и состоянии здоровья. Однако далеко не все задумываются, что часть этих сведений может сохраняться в персонализированной памяти ИИ.
Что выяснили исследователи?
В рамках исследования The Algorithmic Self-Portrait специалисты выяснили, что OpenAI, вопреки собственной политике конфиденциальности данных, сохраняла личные сведения пользователей, формируя их цифровые портреты.
Согласно полученным результатам:
95,9% записей создавались без одобрения пользователя на сохранение.
91% имели в памяти учетных записей сведения, относящиеся к персональным данным, среди которых реальные имена, экономический и социальный статус, а также адреса пользователей.
у 54% пользователей сохранялась информация о здоровье и личных убеждениях.
97% учетных записей имели сохраненные сведения о целях, намерениях, предпочтениях и особенностях поведения.
В чём заключается опасность?
С точки зрения безопасности накопление персональных данных в памяти ChatGPT создаёт потенциальные риски идентификации пользователей, даже использующих псевдонимы. Совокупность сведений о профессиональной деятельности, здоровье, доходах и личных переживаниях может быть использована для формирования цифрового досье. Дополнительную угрозу представляет возможность манипулирования памятью ИИ посредством внедрения ложных инструкций в обрабатываемые документы.
ИИ потенциально может использоваться для скрытого влияния на решения госслужащих и учёных с учётом их персональных данных и психологических особенностей. Главная опасность — незаметный и адресный характер такого воздействия, который ИИ предоставляет в своих ответах.
Как защитить свои данные?
Контролируйте настройки памяти и персонализации ИИ-сервисов.
Не загружайте в чат с ИИ служебные документы и другую конфиденциальную информацию.
По возможности обезличивайте запросы, исключая реальные имена, адреса и другие идентифицирующие сведения.
Используйте временные чаты при обсуждении личных вопросов и проверяйте сохранённую информацию.
Помните: искусственный интеллект может быть полезным помощником, однако безопасность персональных данных во многом зависит от того, какую информацию вы ему доверяете.
