orchestra-research

自动执行端到端研究项目，生成论文和演示文稿

用4位量化压缩大模型，推理加速3倍

用 Axolotl 微调大语言模型

用自我批评和AI反馈训练模型更安全

用 DeepSpeed 加速大模型分布式训练

用PyTorch原生方式在大规模GPU集群上预训练大语言模型

评测代码生成模型在多个基准上的表现

用60+学术基准评测大模型质量

用强化学习微调大语言模型

将模型量化为GGUF格式，在消费级硬件上高效推理

将大模型量化压缩至4位，显存占用降低4倍

用GRPO/RL微调推理模型

无需校准数据即可量化大语言模型至4/3/2比特精度

给任意 PyTorch 脚本添加分布式训练支持

用高性能分词器处理文本数据

用 LitGPT 实现和微调大语言模型

租用GPU云实例进行机器学习训练和推理

在无NVIDIA硬件的设备上运行大模型推理

用 LLaMA-Factory 微调大语言模型

过滤大模型输入输出中的有害内容

用状态空间模型处理超长序列，推理速度提升5倍

用 miles 框架训练大规模 MoE 强化学习模型

用经过实战检验的配方训练和微调神经网络

按需使用GPU运行机器学习工作负载

用300行代码复现GPT-2，理解Transformer架构

用GPU加速清洗和去重大规模训练数据

用企业级平台在多种环境评测大模型

为LLM应用添加安全护栏，防止越狱和幻觉

解读和操控神经网络内部机制

用强化学习微调大语言模型

加速Transformer注意力计算，降低显存占用

用 LoRA 等方法微调大语言模型，节省 GPU 内存

检测并拦截提示注入与越狱攻击

给训练脚本添加 PyTorch FSDP2 分布式分片能力

用极简代码实现分布式深度学习训练

对神经网络模型进行因果干预实验

将大模型量化到8位或4位，节省50-75%显存

用分布式引擎处理机器学习数据流水线

跨集群编排分布式训练，从单机扩展到数千节点

了解一种高效的新型神经网络架构

训练自定义分词器，处理多语言文本

用简单偏好优化对齐大语言模型

跨云编排机器学习工作负载并自动优化成本

用强化学习对GLM模型进行后训练

训练稀疏自编码器分解神经网络激活为可解释特征

用 PyTorch 原生强化学习框架训练智能体

用Megatron-Core训练百亿参数大语言模型

用 HookPoints 探查和操控 Transformer 内部机制

用更少资源更快微调大模型

用强化学习训练大语言模型