Serpl：终端用户界面的搜索与替换工具，提供类似VS Code的文件搜索替换功能，支持整个项目文件夹的关键词搜索与替换 | #工具

在Slurm集群上使用vLLM进行高效大型语言模型（LLM）推理，简化了推理服务器的运行和管理，支持自定义配置以适应不同环境

Vector Inference | #工具

Awesome-Urban-Foundation-Models：城市数据分析与应用的先进模型库，预训练于大量多源、多粒度、多模态的城市数据，具备在交通、城市规划、能源管理、环境监测和公共安全等多个城市应用领域的显著通用能力和适应性

memo：一种用于心智模型的语言，旨在简化复杂模型构建和优化过程，支持快速原型开发和模型表达

AgentScope：简化构建大型语言模型赋能的多智能体应用平台，为开发者提供易用性、高鲁棒性和基于角色的分布式应用构建能力

分布式LLama3推理助手：基于Rust实现的分布式大型语言模型（LLM）推理框架，专为解决单一设备GPU内存不足而设计，支持多设备协同推理

VectorLite：SQLite的快速可调向量搜索扩展，基于hnswlib实现，支持跨平台使用

SKDB：嵌入式同步SQL数据库，为数据一致性提供保障，适用于需要实时数据同步的应用场景

PDF-Extract-Kit：高质量PDF内容提取的综合工具包，集成多种模型实现PDF布局检测、公式检测与识别、光学字符识别，适用于学术论文、教科书、研究报告和财务报表等多种文档类型，即使在扫描模糊或有水印的情况下也能保持高鲁棒性

Sample AI assistant-Alloy语音助手：集成了OPENAI和GOOGLE API的AI语音助手，提供虚拟环境配置和依赖包安装指南，支持快速部署和运行

Ferrous Systems Rust 练习集：Rust 语言学习者的综合练习资源，包含多种练习和解决方案，旨在帮助开发者深入掌握 Rust 编程语言

Edgerunner：通用AI推理库，为移动设备提供高效AI模型集成与执行，简化跨平台开发过程

开源AI视频编辑工具，能够将剧本转化为故事板、视频、语音、声音和音乐，目前处于早期开发阶段

Clapper.app | #工具

gen-ui：基于LangChain.js、AI SDK和Next.js构建的生成式UI web应用程序，提供预构建的UI组件模板，支持快速开发和自定义生成式界面

TALENT：表格数据分析与学习的综合性工具箱，集成了20多种深度方法、10多种经典方法和300多个多样化的表格数据集

交互式学习文本生成模型的工具，可实时观察Transformer模型内部组件如何协同工作来预测下一个词

Transformer Explainer | #工具