解决 Ollama 模型下载速度慢：利用 PowerShell 智能监控

Java——>

2105人浏览 · 2025-02-13 15:16:49

Java——> · 2025-02-13 15:16:49 发布

一、问题背景

在使用 Ollama 下载大模型（如 deepseek-r1:14b）时，我们常常会遇到下载速度慢的困扰。网络波动、服务器负载等多种因素都可能导致下载速度不稳定，严重影响我们的工作和学习效率。为了解决这个问题，我们可以借助 PowerShell 的强大功能，实现对下载速度的实时监控，并在速度低于设定阈值时自动中断并重新执行下载命令，以此来尝试提升整体的下载速度。

二、实现思路

整体思路是通过 PowerShell 启动 Ollama 的下载进程，然后周期性地检查下载进度，计算下载速度。一旦发现下载速度低于我们预设的阈值，就立即中断当前的下载进程，重新启动下载。不断重复这个过程，直到模型下载完成。

三、具体实现步骤

1. 环境准备

确保你的系统已经安装了 PowerShell，并且可以正常使用 Ollama 命令行工具。

2. PowerShell 脚本编写

以下是实现上述功能的 PowerShell 脚本：

# 定义速度阈值（单位：KB/秒）
$speedThreshold = 500

# 定义检查下载速度的时间间隔（单位：秒）
$checkInterval = 5

while ($true) {
    # 启动 ollama run deepseek-r1:14b 命令
    $process = Start-Process -FilePath "ollama" -ArgumentList "run deepseek-r1:14b" -PassThru -NoNewWindow

    # 假设 ollama 会在一个日志文件中记录下载进度，这里需要根据实际情况修改文件路径
    $logFilePath = "path\to\ollama.log"
    if (Test-Path $logFilePath) {
        Remove-Item $logFilePath
    }

    # 用于记录初始和最终的下载大小
    $initialSize = 0
    $finalSize = 0

    while ($true) {
        Start-Sleep -Seconds $checkInterval  # 每隔指定时间检查一次下载进度

        if (Test-Path $logFilePath) {
            $currentSize = (Get-Item $logFilePath).Length / 1KB
            if ($initialSize -eq 0) {
                $initialSize = $currentSize
            }
            $finalSize = $currentSize

            # 计算下载速度
            $downloadSpeed = ($finalSize - $initialSize) / $checkInterval

            # 判断下载速度是否低于阈值
            if ($downloadSpeed -lt $speedThreshold) {
                Write-Output "下载速度低于 $speedThreshold KB/秒，中断并重新执行。"
                Stop-Process -Id $process.Id -Force
                break  # 跳出内层循环，重新启动下载
            }
            else {
                Write-Output "下载速度正常，继续下载。"
                $initialSize = $finalSize  # 更新初始大小，为下一次计算速度做准备
            }
        }
    }

    # 检查模型是否下载完成，这里假设 ollama 有一个命令可以检查模型状态，例如：ollama list
    # 如果模型已下载完成，ollama list 会返回包含 deepseek-r1:14b 的输出，这里只是示例，实际需根据 ollama 的真实输出调整
    $modelList = & "ollama" "list"
    if ($modelList -match "deepseek-r1:14b") {
        Write-Output "模型已下载完成，停止循环。"
        break  # 跳出外层循环，结束脚本
    }
}

3. 代码解释

速度阈值和检查间隔：
- $speedThreshold：我们将下载速度的阈值设定为 500KB / 秒，你可以根据实际情况进行调整。
- $checkInterval：设定检查下载速度的时间间隔为 5 秒，这个值也可以根据需求修改。
启动下载进程：
- 使用 Start-Process 启动 ollama run deepseek-r1:14b 命令，并通过 -PassThru 参数获取进程对象，方便后续中断进程。
监控下载进度：
- 在一个内层 while 循环中，每隔 $checkInterval 秒检查一次下载进度。通过检查指定日志文件的大小来获取下载量，并计算下载速度。
判断下载速度：
- 如果下载速度低于阈值，使用 Stop-Process 中断当前进程，并跳出内层循环，重新启动下载。
- 如果下载速度正常，更新初始下载大小，继续监控。
检查模型是否下载完成：
- 每次中断或完成内层循环后，使用 ollama list 命令检查模型是否下载完成。如果模型已下载完成，跳出外层循环，结束脚本。