人工智能
人工智能技术及资讯
玩AI电脑内存不够?页面文件(PageFile)来救急-红影堂

玩AI电脑内存不够?页面文件(PageFile)来救急

在本机部署AI时,比如ComfyUI生图等,遇到比较大的模型,加载它们需要很大的内存,或者是显存不够,需要与内存交换时,就需要较大的内存。 如果内存也不够,就可能通过页面文件(PageFile)扩展...
3个月前
0116825
将GGUF模型导入Ollama的简易方法-红影堂

将GGUF模型导入Ollama的简易方法

要将GGUF模型导入Ollama,需先建立Modelfile文件,可从已有模型提供Modelfile: ``` ollama show --modelfile qwen3:4b > Modelfile ``` 注意:qwen3:4b需为Ollama已有模型。 提取Modelfile后,...
3个月前
095516
修改Open Webui用户上传图片大小,节省GPU显存实现性能优化及用户体验-红影堂

修改Open Webui用户上传图片大小,节省GPU显存实现性能优化及用户体验

自动压缩大图片以防止Token超限错误,提升AI后端性能。
4个月前
092822
Open Webui限制用户Tokens函数 解决vllm生产环境Tokens上限问题-红影堂

Open Webui限制用户Tokens函数 解决vllm生产环境Tokens上限问题

在Open Webui中,通过Token过滤器解决vllm生产环境下的Token上限问题。
4个月前
092224