参考：https://huggingface.co/docs/bitsandbytes/main/en/installation
报错信息
====================== 作者：loong_XL
bitsandbytes使用错误：CUDA Setup failed despite GPU being available
相关推荐
YOLOv11有效涨点专栏
Snu77
YOLOv8原创自研
AI小怪兽
2023全国职业技能大赛-网络安全赛题解析
落寞的魚丶
★教程2:fpga入门100例
fpga和matlab
Halcon
苏州程序大白
PyTorch深度学习项目实战100例
海洋 之心
YOLO11魔术师
AI小怪兽
RT-DETR魔术师
AI小怪兽
YOLOv8有效涨点专栏
Snu77
YoloV8最新改进手册——高阶篇
AI智韵
OD机试 Py/Java/JS合集（E+A+B+C+D卷）
MISAYAONE
YOLOv10有效涨点专栏
Snu77
Educoder实训
Ssaty.
YOLOv9有效涨点专栏
Snu77
YOLOv8改进有效涨点
kay_545
Autosar进阶
赞哥哥s
# leaflet综合教程150+
还是大剑师兰特
智能家居与物联网项目实战
DS小龙哥
漫游网络·2024🚀
xiaoqiangclub
RK3399平台开发入门到精通系列专栏
内核笔记
YOLOv5改进有效专栏
Snu77
芒果YOLOv8原创改进
芒果学AI
华为OD机试2024真题题库
ai因思坦
# 第2章·通信—低阶调制解调
fpga和matlab
2024年付费专栏数学建模（奶茶价版）
海神之光
《小白入门深度学习》
K同学啊
PCL学习
点云侠
Matlab学习
CodeWG
- 博客详情
- 1edge_tts 实现实时流式语音播放输出
- 2ASR-LLM-TTS 实时语音对话助手:语音识别、大模型对话、声音生成
- 3RAG知识库 Ragas效果评估框架
- 4KWS实时语音唤醒词实现funasr
- 5clearvoice 语音降噪、语音分离库
- 6qwen2.5 模型JSON格式化输出案例
- 7LLM 大模型RAG 多轮回答问题准确率优化：问题改写
- 8Xinference 推理框架工具使用，openai 语音asr、tts接口调用案例
- 9unsloth vlm模型Qwen2-VL、Llama 3.2 Vision微调案例
- 10JanusFlow多模态：统一图像理解与图像生成
- 11qwen2.5 ollama推理；openai function call调用中文离线agents使用
- 12dify 大模型开源应用框架使用案例，api调用
- 132d 数字人实时语音聊天对话使用案例；支持asr、llm、tts实时语音交互
- 14TEI text-embeddings-inference文本嵌入模型推理框架
- 15live2d 实时虚拟数字人形象页面显示，对接大模型
- 162d实时数字人聊天语音对话使用案例，对接大模型
- 17openai swarm多智能体框架使用案例；调用第三方deepseek大模型接口服务
- 18openvino 大模型qwen2.5推理案例
- 19agent实现：通过prompt方式实现agent自定义使用
- 20图像转3D视差视频：DepthFlow、kling
- 21实时数字人DH_live使用案例
- 223d可视化图片：通过原图和深度图实现
- 23pgvector docker版安装；稀疏向量使用；psycopg2 python连接使用
- 24RAG新思路降低检索错误率：为文档划分的每个块进行大模型上下文构建
- 25qwen2.5 vllm推理；openai function call调用中文离线agents使用
- 26vllm 部署qwen2.5-7b；opeanai 接口访问、requests接口
- 27BGE-M3稠密向量、稀疏向量使用案例；bge-reranker使用案例
- 28pytorch qwen2-vl自定义数据全量微调
- 29cursor AI代码编辑器IDE对接本地模型deepseek
- 30swift qwen2-vl推理及加载lora使用案例
- 31swift：qwen2 VL 多模态图文模型lora微调swift
- 32transformers多agents调用使用离线大LLM：MiniCPM3模型
- 33MiniCPM3-4B 大模型安装vllm推理使用；transformers function call agent使用案例
- 34flux 文生图大模型 自有数据集 lora微调训练案例
- 35flux bitsandbytes bnb量化；diffusers 15G显卡加载使用
- 36flux 文生图bnb量化模型diffusers使用案例
- 37vllm 推理qwen gguf模型使用案例；openai接口调用、requests调用
- 38transformers quantization bitsandbytes实时量化方法使用load_in_4bit，load_in_8bit；量化模型保存及加载使用
- 39PEFT qwen2 lora微调模型训练案例
- 40bitsandbytes使用错误：CUDA Setup failed despite GPU being available