ggml教程|mnist手写体识别量化推理 Learn to use ggml for MNIST handwritten digit recognition with quantization and inference in this detailed tutorial, featuring PyTorch and ggml integration. 2023-11-12
xgboost2.0最佳实践 xgboost2.0最佳实践 首先更新xgboost到2.0.0 1pip install xgboost -U 在最新版本的训练中,参数可以使用字典传递。同时数据和样本需要先合并成一个xgb.DMatrix 对象 12345678910# 设置参数params = { "device": "cuda",}# 创建DMatrix对 2023-10-19 踩坑 #机器学习
xgboost使用GPU最佳实践 xgboost使用GPU最佳实践 首先更新xgboost到2.0.0 1pip install xgboost -U 这里给出一个使用GPU的例子,使用的是nvidia显卡 12345678910111213141516171819202122232425import xgboostimport numpy as npfrom scipy import stats# 生成示例数据np.rando 2023-10-18 踩坑 #机器学习
马踏棋盘 c代码 123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100#inc 2023-10-12 踩坑
cloudlflare推理llama2 cloudlflare推理llama2 最近,cloudlfare悄悄上线了一项新功能,全球网络上的gpu加速推理,显然的,我们可以用它推理llama2,cloudflare也提供了一个库进行推理。 新建一个cloudflare,然后,代码改成下面的,就可以进行推理了 1234567891011121314151617181920212223import { Ai } from 2023-10-11 踩坑
docker搭建elasticsearch并使用python连接 docker搭建elasticsearch并使用python连接 搭建 创建一个docker网络 1docker network create elastic 然后拉elasticsearch 的docker 容器 1docker pull docker.elastic.co/elasticsearch/elasticsearch:8.10.2 运行容器 1docker run --name es 2023-10-09 踩坑
FreeU-文字生成图片的免费午餐笔记 FreeU-文字生成图片的免费午餐 项目地址主页 作者在这篇论文引入了一种对UNet的改进方式,不需要重新训练和微调。 image.png 在UNet中存在两种连接,一种是上一层网络传递来的基础连接,主要贡献去噪能力。一种是跳线连接,主要贡献高频细节。UNet会将这两部分的特征contat之后作为下一层输入。作者的方法就是对这两部分做调整来提升图像质量。 从技术上讲,对于 U-Net 解码器 2023-10-01 笔记 #文字生成图片
使用xgboost的c接口推理模型 使用xgboost的c接口推理模型 官方c api tutorial和文档,非常恶心的一点是,tutorial和文档问题很多。 也参考了不少开源项目,主要有xgboost-c-cplusplus,xgboostpp. 首先导入头文件#include "xgboost/c_api.h" ,接下来xgboost的绝大多数接口都包含在了这个头文件中。 然后我们需要一个宏,来用它获取xgboost函数使用 2023-09-10 踩坑 #机器学习
Archlinux使用CMake调用xgboost的c接口 Archlinux使用CMake调用xgboost的c接口 平台Archlinux,直接yay 安装xgboost,相关的.h文件会被直接安装到/usr/include/xgboost 路径下,所有在CMakeLists.txt 设置include_directories 到该路径下即可。 123456789cmake_minimum_required(VERSION 3.18)project(p 2023-09-09 踩坑 #机器学习
m2cgen生成机器学习c语言推理代码 m2cgen生成机器学习c语言推理代码 众所周知,cubemx是一个用于生成嵌入式的代码的好东西虽然我没用过。它的原理是将原本的矩阵运算和tensor变成了一个c的数组,同时会对代码进行优化,然后进行运算。 但是如果我们需要在其他平台上使用其他语言就很尴尬了,因为我们没有cubemx来做生成和优化。感谢蓬勃发展的社区,m2cgen解决了我们的问题。 使用起来非常简单,我们使用xgboost举例,先 2023-09-07 踩坑 #机器学习