Megatron-LMMegatron-LM是一个用于大规模Transformer语言模型训练的开源工具,支持高效的模型并行和多节点预训练,以及混合精度训练,适用于各种自然语言处理任务和大规模数据集的训练。
DeepDetectDeepDetect是一个开源的深度学习平台,提供了一个完整的深度学习解决方案,包括平台、服务器和Web界面,以及预训练模型和API接口。它支持多种应用场景,包括图像标记、目标检测、OCR和情感分析等任务。
Switch Transformers by Google BrainSwitch Transformers是一种用于扩展到万亿参数模型的模型,通过简单和高效的稀疏性实现了对大规模语言模型的训练和预训练加速。
Intel Movidius Neural Compute SDKIntel® Neural Compute Stick 2是一款小巧、无风扇的深度学习设备,可用于学习边缘人工智能编程。它基于Intel® Movidius™ Myriad™ X Vision Processing Unit (VPU),提供卓越的性能和能效。支持常见的深度学习框架,并可独立运行,无需依赖云计算资源。适用于边缘人工智能推理、预训练模型、计算机视觉加速等应用场景。