详细介绍了如何从头开始构建一个基于检索增强生成(RAG)的大型语言模型(LLM)应用。
- 主要步骤包括:加载数据、分割文本、嵌入数据、索引数据、检索相关文本块、生成回复。
- 为了扩展应用,实现了在Ray Data上进行并行计算的功能。
- 为评估不同系统配置,实现了组件级评估和端到端评估。
- 比较了不同的文本块大小、块数、嵌入模型和LLM的性能。
- 实现了查询路由,根据查询复杂性将其发送到合适的LLM。
- 使用Ray Serve架构应用,实现弹性伸缩。
- 讨论了LLM应用的一阶和二阶影响。
- 提出后续工作,包括持续更新、微调嵌入模型和LLM、收集用户反馈等。
- 强调了Ray和Anyscale如何帮助构建、扩展和产品化LLM应用。
GitHub | Notebook
评论区是比较火的41门完整的课程标号,每一节的课程时长不下于5小时,包含红队和蓝队,还有虚拟机和逆向。有字幕,部分srt还在制作中。
需要的请私 @ashbur_bot
整合了 Ionicons、Feather Icons、Heroicons、Jam Icons、Tabler Icons、Bootstrap Icons、Iconoir Icons、Flag Icons 这 8个 开源图标库的图标。
它可以很容易的模拟多种社会实验场景,例如:NLP课堂、囚徒困境、软件设计、数据库诊断、Pokeman等。
它将问题的解决过程分为四个阶段:
1. 专家招募:选择最合适的AI智能体专家参与任务
2. 协作决策:专家共同讨论,提出解决问题的解决方案
3. 行动执行:采取具体的行动
4. 评估:评估当前结果和目标之间的差距。
AgentVerse | #框架
Win11 23H2所有新功能即将发布 | link