Полный текст
Исследователи заставили ChatGPT процитировать данные, на которых он училсяЧтобы создавать новый и уникальный контент, генеративные нейросетевые модели обучаются на больши́х объёмах данных. В процессе обучения модели «запоминают» примеры из датасетов обучения. Атакующий может извлечь эти примеры из модели.