大模型训练的调试技巧
本文为Pierce Freeman在训练大型语言模型中使用的一些调试技巧。
Llama.cpp量化简明手册
量化提供了一种解决方案，即在保持LLM性能的同时降低模型参数的精度。
Idefics2-8B微调简明教程
本文介绍如何从头准备自己的图文数据集，并使用FEFT技术微调huggingface的idefics2-8b视觉语言模型。
代码完成AI插件安装
在本教程中，我们将学习如何使用AI模型生成代码。我们将安装 llama.cpp 和 Ollama，并通过扩展在 IDE中使用CodeLlama等代码生成AI模型。
企业利用LLM的正确方法
虽然你不能完全信任大型语言模型，但这并不意味着你应该完全放弃它们。
关于生成式AI产品的思考
在过去的六个月里，LinkedIn 的团队一直在努力开发一种新的人工智能体验。我们希望重新构想我们的会员如何进行求职和浏览专业内容。
Llama 3 CPU推理指南
本文介绍介绍如何执行WOQ量化来压缩 8B 参数模型并改善Llama 3的CPU推理延迟。