97

什么是合成数据(Synthetic Data)?在大模型训练中的作用?

前沿技术与发展趋势中等

📋 面试问题

什么是合成数据(Synthetic Data)?在大模型训练中的作用?

✅ 期望回答

合成数据是用AI(大模型、GAN、仿真环境)生成的训练数据,而非真实世界采集

作用:
  • 解决真实数据稀缺问题(如医疗、法律领域)
  • 保护隐私(不直接使用真实用户数据)
  • 提升数据多样性(生成边缘Case、多语言数据)
  • 自我改进(模型生成数据训练更强的模型,如Self-Instruct、Alpaca-GPT4数据)

风险:模型崩溃(Model Collapse)——用模型生成的数据训练会导致分布偏移、质量退化,需要与真实数据混合使用
#合成数据#Model Collapse#数据增广