一个大语言模型微调教程,详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。没有技术能力也可以完成微调。

原视频 | #教程
Media is too big
VIEW IN TELEGRAM
Hume AI发布具有情感感知能力的对话AI:EVI | 线上体验

EVI采用了一种被称为情感大语言模型(eLLM)的多模态生成AI技术。

这种技术结合了大型语言模型(LLMs)的语言理解能力和表情测量技术的情感感知能力。

使EVI能像真人一样聊天,还能感知你说话时的细微情绪,并作出相应的反应。

EVI还特别注意不让对话变得尴尬或中断,如果你突然打断它,它会像真人一样停下来听你说。
Media is too big
VIEW IN TELEGRAM
Al Comic Factory:漫画工厂 | github | 线上体验

自动生成有情感、有故事性的漫画内容。它使用大语言模型和如SDXL来自动创建漫画面板。

你只需提供一个简单的文本提示,AI Comic Factory就能根据这个提示生成包含人物对话和场景描述的漫画。支持批量生成不同语言的漫画。

主要功能:

1. 生成漫画面板:利用大型语言模型(LLM)和SDXL技术,根据用户提供的提示自动生成漫画面板,创作出有情感、有故事性的漫画内容。

2. 支持多种配置:项目可以根据用户的技术偏好或需求,选择不同的语言模型引擎(如OpenAI、Hugging Face等)和渲染引擎(如Replicate、VideoChain等),提供高度的自定义能力。

3. 用户交互:用户通过提供创作提示(如漫画的主题、人物对话等)来启动生成过程。项目的前端界面通常负责收集用户输入,并显示生成的漫画结果。

4. 支持多语言内容创建:项目能够生成不同语言的漫画,使得内容创作不受语言限制,更容易触及全球受众。

5. 批量生成漫画变体:通过灵活的配置和技术集成,AI Comic Factory能够快速生成多个漫画变体,为用户提供丰富的选择和测试不同创意的可能性。
使用 Google Search API 优雅地搜索互联网 | blog
AI21发布世界首个Mamba的生产级模型:Jamba

开创性的SSM - Transformer架构

🧠 52B 参数,12B 在生成时处于活动状态
👨‍🏫 16 位专家,生成过程中仅2个专家处于活跃状态
🆕 结合了Joint Attention和Mamba技术
⚡️ 支持 256K 上下文长度
💻 单个 A100 80GB 最多可容纳 140K 上下文
🚀 与 Mixtral 8x7B 相比,长上下文的吞吐量提高了 3 倍

Jamba结合了Mamba结构化状态空间(SSM)技术和传统的Transformer架构的元素,弥补了纯SSM模型固有的局限。

背景知识

Jamba代表了在模型设计上的一大创新。这里的"Mamba"指的是一种结构化状态空间模型(Structured State Space Model, SSM),这是一种用于捕捉和处理数据随时间变化的模型,特别适合处理序列数据,如文本或时间序列数据。SSM模型的一个关键优势是其能够高效地处理长序列数据,但它在处理复杂模式和依赖时可能不如其他模型强大。

而"Transformer"架构是近年来人工智能领域最为成功的模型之一,特别是在自然语言处理(NLP)任务中。它能够非常有效地处理和理解语言数据,捕捉长距离的依赖关系,但处理长序列数据时会遇到计算效率和内存消耗的问题。

Jamba模型将Mamba的SSM技术和Transformer架构的元素结合起来,旨在发挥两者的优势,同时克服它们各自的局限。通过这种结合,Jamba不仅能够高效处理长序列数据(这是Mamba的强项),还能保持对复杂语言模式和依赖关系的高度理解(这是Transformer的优势)。这意味着Jamba模型在处理需要理解大量文本和复杂依赖关系的任务时,既能保持高效率,又不会牺牲性能或精度。

官网 | 详情 | 模型
把你的手机变成桌面机器人 | 详细介绍 | 众筹地址

Looi采用了仿生行为系统,时刻感知你和你周围的环境。同时接入了ChatGPT,能够通过对话与用户进行互动,可以在手机上显示富有表情的画面。

可以提醒你重要信息,通过远程控制和发送动画,实现与亲人的远程互动。

除了ChatGPT的集成,Looi可能还具备其他AI功能,如情感识别、自适应互动等,以提供更加丰富和个性化的用户体验。
OpenAI公布其语音生成模型:Voice Engine

根据文本输入和一个15秒的音频样本,就能生成接近原始说话者声音的自然听起来的语音。

Voice Engine最初于2022年底开发,并已经提供给包括Heygen在内的少数公司进行测试性使用。

主要功能

1、自然听起来的语音生成:利用单个15秒的音频样本,Voice Engine能够创造出既情感丰富又真实的语音,显著提升合成语音的自然度和真实感。

2、支持多种用途:从教育援助、内容翻译、提高偏远地区服务质量,到支持非语言人士和帮助患者恢复声音,Voice Engine的应用场景广泛,跨越多个行业。

3、语言和口音的保留:在内容翻译时,Voice Engine能够保留原始发言者的本地口音,使得翻译后的语音不仅流利还能保持原声音的特色。

4、多语种支持:能够生成多种语言的语音输出,适应全球化需求,特别是对于需要将内容本地化到不同语言市场的企业和内容创作者来说,这一特点尤为重要。
开源自部署托管移动应用和 macOS 应用的分发平台 Zealot

提供 iOS、Android SDK、fastlane 等丰富组件库,以及企业打包分发流程、上传应用全套流程方案。

并且可接入任意 CI 系统,实现一切自动化处理。

具有如下特性:

🌏 多平台应用托管: macOS、iOS、Android(apk/aab)、Windows、Linux 泛平台。
📱 测试设备一网打进: 自动同步 iOS 测试设备信息,允许一键注册新设备到苹果开发者。
🧑‍💻 丰富开发者套件: 提供 REST API、iOS、Android SDK 以及 fastlane 自动化构建插件。
💥 剖析应用内部的秘密: 解读 iOS、Android 应用或 iOS 描述文件的元信息。
🚨 内置多种事件通知: 数据可自定义 Income WebHook 到任意通知服务。
🗄 多渠道分类管理: 自由划分不同场景不同产品形态的应用渠道管理。
🎳 多架构部署: amd86/arm64/armv7 及各种部署方案应有尽有。
🔑 第三方登录: 飞书、Gitlab、Google、LDAP 和 OIDC 一键授权。
🌑 黑暗模式: 黑夜白昼自由切换。
一个清新优雅、高颜值且功能强大的后台管理模板

特性:

- 前沿技术应用:采用 Vue3, Vite5, TypeScript, Pinia 和 UnoCSS 等最新流行的技术栈。
- 清晰的项目架构:采用 pnpm monorepo 架构,结构清晰,优雅易懂。
- 严格的代码规范:遵循 SoybeanJS 规范,集成了eslint, prettier 和 simple-git-hooks,保证代码的规范性。
- TypeScript: 支持严格的类型检查,提高代码的可维护性。
- 丰富的主题配置:内置多样的主题配置,与 UnoCSS 完美结合。
- 内置国际化方案:轻松实现多语言支持。
- 自动化文件路由系统:自动生成路由导入、声明和类型。更多细节请查看 Elegant Router。
- 灵活的权限路由:同时支持前端静态路由和后端动态路由。
- 丰富的页面组件:内置多样页面和组件,包括 403、404、500 页面,以及布局组件、标签组件、主题配置组件等。
- 命令行工具:内置高效的命令行工具,Git 提交、删除文件、发布等。
- 移动端适配:完美支持移动端,实现自适应布局。

Soybean Admin | #模板
Databricks开源DBRX高性能大语言模型

DBRX是Databricks开发的开源通用语言模型,在多项标准基准测试上达到了当前开源语言模型的最高水平。DBRX在多项综合基准测试中表现最好,尤其在编程和数学推理方面优于其他开源模型。与开源模型相比,DBRX在MMLU数据集上的表现也是最好的。

根据测试,DBRX甚至超过了专门用于编程的CodeLLAMA-70B,并且与商业模型GPT-3.5相当甚至略胜。DBRX也与Gemini 1.0 Pro和Mistral Medium等商业模型有竞争力。

DBRX使用混合专家(MoE)架构,使其在训练和推理上更加高效。与类似参数量的非MoE模型相比,DBRX的推理吞吐量提高2-3倍。DBRX的整体训练效率比之前提高了近4倍,这得益于更好的数据、MoE架构以及其他改进。

DBRX已经在Databricks的GenAI产品中进行了集成,客户可以通过API使用该模型。DBRX的训练代码和模型也在Hugging Face平台上开源。DBRX证明了Databricks可以高效地训练世界级的基础语言模型,也为企业训练自己的基础模型提供了能力。DBRX只是Databricks协助客户训练定制语言模型的一个例子。
Valkey:一个新的开源项目,旨在重启之前的开源 Redis 项目
OpenTAD: 开源的PyTorch时间动作检测工具箱
DeepSeek:基于LLM的检索引擎
Back to Top