FlexGen：在单个GPU上（如16GB T4 GPU或24GB RTX3090游戏卡）运行像OPT-175B/GPT-3这样的大型语言模型，比其他基于offloading的系统快100倍。

FlexGen 允许通过IO高效卸载、压缩和大有效批处理大小生成高吞吐量。

tensor_parallel：一行代码将 PyTorch 大模型分到多个GPU上运行(训练/推理)

实战教程：从头编写编译器 | 地址

简单好用的、无任何三方依赖的、跨平台的、收录于awesome-cpp的、基于流图的并行计算框架

CGraph是一个跨平台的有向循环图框架，基于纯C++，没有任何第三方依赖。 CGraph 是C olor Graph的缩写，是一个跨平台的 DAG 计算框架，没有任何第三方依赖。通过 via 的调度GPipeline，实现了元素顺序并发执行的目的。

只需要继承GNode类，实现run()子类中的方法，根据需要设置依赖，即可实现任务的图形化执行。

同时还可以通过设置各种GGroups来控制图的条件判断、循环或者并发执行逻辑，这些s本身就包含了多节点的信息。

你可以在许多场景中传输参数。也可以通过添加来横向扩展上述元素的功能GAspect，或者通过引入各种来增强单个节点的功能GAdapter。

CGraph | #框架

代码整洁之道（JavaScript版本）

作者根据 Robert C. Martin 《代码整洁之道》总结了适用于 JavaScript 的软件工程原则《Clean Code JavaScript》

clean-code-javascript | 中文翻译：JavaScript 风格指南 代码整洁的 JavaScript

LaTeX/Markdown数学公式分享平台

MathB.in | #LaTeX

一个开源的Windows终端增强器。 ​​​

Conch 是 Windows 命令提示符的 shell/终端助手。把它放在工作目录后，python conch.py在cmd行中运行，Conch将启动，可以查看所有输入的命令conch help并查看所有额外的命令

Conch | #工具

Onefetch 是一款由 Rust 编写的命令行 Git 信息工具，它将直接在终端中展示本地 Git 仓库的项目详情和代码统计等内容。工具完全离线可用（不需要网络连接)。

默认情况下，仓库信息显示在主要语言 logo 的旁边，但是你还可以进一步配置 onefetch 以使用图像（在支持的终端上）、文本输入或什么都不展示。

它会自动从文本中检测开源许可证，并为用户提供有价值的信息，例如代码分发、pending、依赖数量（使用包管理器）、主要贡献者（按提交次数）、占用磁盘大小、创建日期、LOC（代码行数）等。

Onefetch 可以通过命令行标志进行配置，以准确显示想要的内容和方式：用户可以自定义 ASCII/文本格式、禁用信息行、忽略文件和目录、以多种格式（Json、Yaml）输出， ETC。

onefetch | #工具

一个简单的 Python 程序来实现线性回归模型 | YouTube

Sneak-Peek: CodeScene 的IDE集成

CodeScene 的 IDE 集成即将发布！.ts

29.3 MB

深度学习辅助漫画翻译工具, 支持一键机翻和简单的图像/文本编辑。特性如下：

一键翻译
译文回填参考对原文排版的估计, 包括颜色, 轮廓, 角度, 朝向, 对齐方式等
最后效果取决于文本检测, 识别, 抹字, 机翻四个模块的整体表现
支持日漫和美漫
英译中, 日译英排版已优化, 文本布局以提取到的背景泡为参考, 中文基于pkuseg进行断句, 日译中竖排待改善

图像编辑
支持掩膜编辑和修复画笔

文本编辑
支持所见即所得地富文本编辑和一些基础排版格式调整、字体样式预设
支持全文/源文/译文查找替换
支持导入导出word文档
适用于条漫

BallonTranslator | #工具

根据静默片段分割音频的Python脚本

audio-slicer | #Python #脚本

这个视频简单讲解了ChatGPT的基本技术。主要面向非本专业人士 | 讲义

1:15:53

Media is too big

VIEW IN TELEGRAM

本文介绍了能让你的 PyTorch 模型训练（大大）加快的一些技术。| 详文

概述了在不影响其准确性的情况下提高 PyTorch 模型训练性能的技术。通过仅更改几行代码，在微调 BERT 时从 22.63 分钟减少到 3.15 分钟