Tag: llm

LoRA: 允许高中学生用游戏显卡训练大语言模型(GPT-3)

对175B参数的GPT-3进行完整微调对几乎所有人来说都是不可行的——仅存储就排除了这种可能性,更不用说GPU了。