Welcome to bg51717's Wiki and Blog
llm.int8 llm.int8
todo:本文还在施工中....... 介绍 llm.int8是第一批针对大模型进行量化的算法,并且其算法也被集成在 bitsandbytes库中,该库也已经被 huggingface集成到代码库当中作为最基本的量化算法之一。 论文地址
pytorch分布式-ddp pytorch分布式-ddp
介绍 这篇博客主要是关于pytorch分布式ddp(DistributedDataParallel)的介绍和大概的食用(这不是错别字)教程。 数据并行DistributedDataParallel指的是在数据集层面进行多进程的切分,对于模型
2024-10-09
hexo博客2:双主题 hexo博客2:双主题
介绍 后来发现单纯的wiki风格博客可能确实有些单调了(绝对不是因为我想弄二次元风格的),因此在考虑以后,决定搭建一个双主题的博客,外层是个华丽一点的主题matery,内层是个wiki风格主题Wikitten。 同时可以通过外层的wiki
使用dotbot快速同步Linux配置 使用dotbot快速同步Linux配置
介绍 dotfiles指的是 .开头的隐藏文件夹,一般是用户的配置或者软件信息。使用服务器或者Linux的时候,安装一些软件配置自己的使用环境是十分常见的场景。一个优秀的配置和各种软件不仅可以大幅提升工作效率,还可以美化工作环境,加强工作的
2024-10-03
zsh+powerlevel10K优化终端使用体验 zsh+powerlevel10K优化终端使用体验
介绍 ZSH(Z shell)类似Bash,是被广泛用于类Unix系统的命令行解释器。在具备Bash的基本功能的同时,还扩展了很多功能,同时对插件的支持和高度定制化使其成为了很多Linux用户的最佳选择。经常使用的功能有:自动补全,历史命令
2024-09-29
安卓手机配置Google 安卓手机配置Google
介绍 这篇博客主要记录了如何在安卓手机上配置谷歌三件套的服务。 对于非华为荣耀手机,可能仅仅需要简单的使用一些第三方的安装软件即可完成,比如 go安装助手等,资源较大且获取难度较低。 而本篇博客主要介绍华为荣耀手机如何获取谷歌三件套的服务和
2024-08-27
PyTorch代码转HF PyTorch代码转HF
介绍 这篇博客主要介绍了怎么把一个已有的Pytorch代码转变成HF支持的格式,然后可以方便的放入HF代码流程中,并且使用一些HF的函数。代码转换主要涉及到以下几个方面: Config Model Trainer Dataset 因为c
2024-08-06
随机数种子 随机数种子
介绍 在深度学习的实际项目中,为了减少随机性,增强项目的复现能力,设置固定随机数种子十分重要,因此这篇文章罗列了一些设置随机种子的方法和减少项目随机性的经验。 通用函数 def set_random_seed(seed): """S
vscode调试python vscode调试python
介绍 在学习项目的过程中,很多时候需要通过调试来高效率的了解代码的执行过程,因此这里介绍下怎么使用vscode对python程序进行调试。 方法一:简单图标点击 vscode对一些简单的程序提供了一些可视化的调试方式,对于一些不需要指定参数
2024-04-19
2 / 4