
How Much VRAM
How Much VRAM 是一个开源项目,旨在帮助用户估算其模型在训练或推理过程中所需的显存量。通过这个项目,用户能够决定所需的硬件配置,而无需尝试多种配置。该项目对于需要进行深度学习模型训练的开发者和研究人员来说非常重要,因为它可以减少硬件选择的试错成本,提高效率。项目采用 MPL-2.0 许可协议,免费提供。
ChatRWKV是一种基于100%RNN的RWKV语言模型构建的开源聊天助手,它可以像ChatGPT一样进行人机对话,但具有更快的速度和更低的显存消耗。该项目由Stability EleutherAI提供训练赞助,最新版RWKV-6已经达到了Mamba级别的性能。