Pruna
Pruna 是一个为开发者设计的模型优化框架,通过一系列压缩算法,如量化、修剪和编译等技术,使得机器学习模型在推理时更快、体积更小且计算成本更低。产品适用于多种模型类型,包括 LLMs、视觉转换器等,且支持 Linux、MacOS 和 Windows 等多个平台。Pruna 还提供了企业版 Pruna Pro,解锁更多高级优化功能和优先支持,助力用户在实际应用中提高效率。
ConsoleX 是一个专为构建者设计的一站式工作台,旨在帮助用户与各种AI模型进行互动,提升工作效率。它支持与多个AI模型对话,利用精选的AI智能体,提供开发者模式,支持图像输入,并增强工具调用功能。ConsoleX 还鼓励用户加入社区,分享想法,获取灵感。