Ray Serve + FastAPI
Ray Serve + FastAPI是部署可伸缩机器学习服务的天作之合。
3D生成式AI模型与工具
本文介绍15个3D生成式AI的预训练模型、工具与应用。
21个最佳照明设计软件
本文介绍21个最好的可以用于项目照明设计的软件。
GeoJSON转STL打印地形
本文介绍两种方法实现GeoJSON文件的3D打印：使用本地软件或使用在线工具。
7个最强LLM服务框架
本文介绍7个最强大的大模型服务框架：vLLM、OpenLLM、Ray Serve、MLC LLM等。
Llama 2分布式服务
本文介绍如何使用llama.cpp和Apache Spark实现私有的分布式大模型服务。
YOLO纯CPU优化182FPS
本文介绍如何在没有GPU的情况下，使用消费级CPU将YOLOv5优化到182.4FPS。
Llama 2 API服务部署
本文介绍如何使用llama.cpp部署llama-2大模型并启用远程API访问。
生产级Llama实战
对于任何想要尝试LLM，又不想因为意外的云账单或 API 费用而感到震惊的人，本文介绍如何开始消费级硬件执行生产级的Llama2 推理 。