如何在Windows 11上本地运行QWEN AI

Qwen AI是阿里巴巴集团发布的最新AI模型。尽管,,,,,,,,以及其他流行的AI工具可用于Android,iOS和Windows平台,QWEN当前可作为Web应用程序使用。您可以通过访问其官方网站访问和使用此工具。但是,这需要您在网站上注册。此外,您还应该具有主动的Internet连接。但是你知道你可以在Windows 11/10 PC上本地运行QWEN AI?本文向您展示了如何做到这一点。

如何在网络上使用QWEN AI?

要在网上使用来自阿里巴巴的Qwen AI,请访问chat.qwenlm.ai并输入您的查询。继续像在任何AI工具中一样聊天。您将必须创建一个帐户并登录才能使用QWEN。

如何在Windows 11/10上本地运行QWEN AI

要在Windows PC上本地运行QWEN,您需要安装以下两个工具:

  • 霍拉马
  • Docker

霍拉马是一个免费的开源项目,允许用户在本地机器上运行LLM(大语言模型)。

Docker是用于开发,运输和运行应用程序的开源平台。开发人员可以通过在Docker中创建容器来分享他们的工作。

在本指南中,我们将通过在Docker应用中创建一个容器来解释您如何在Windows PC上本地运行QWEN AI。

如何在Windows上安装Ollama

第一步是在系统上安装Ollama。请按照下面提供的步骤:

  1. 参观Ollama的官方网站
  2. 单击下载按钮,选择Windows平台,然后继续为Windows机器下载Ollama。
  3. 下载完成后,运行安装程序文件以在系统上安装Olama。
  4. 现在,启动Ollama,让它在后台运行。

本地安装QWEN AI模型

现在,下一步是在您本地系统上安装QWEN AI模型。转到Ollama的官方网站,然后单击型号选项卡。在这里,您将看到所有AI模型。搜索Qwen。然后,它将向您显示所有可用的QWEN AI模型,包括QWEN,QWEN2,QWEN2.5等。单击要在PC上部署的模型。

在本指南中,我们将看到如何安装qwen2.5在Windows机器上本地模型。每个QWEN模型都有不同的参数。 QWEN2.5模型的参数为0.5b,1.5b,3b,7b等。QWEN 0.5B是最小且最快的参数。它由5亿参数组成,非常适合基本任务。 QWEN AI的1.5B参数比QWEN 0.5B参数更为先进。同样,其他大参数比以前的参数更高级参数。

安装大参数需要高端PC。因此,安装计算机可以平稳运行的一个。同样,较大的参数需要更多的磁盘空间。从下拉列表中选择参数,然后复制其各自命令。例如,以0.5B参数安装QWEN2.5 AI的命令为:

ollama run qwen2.5:0.5b

打开命令提示符,粘贴复制命令,然后点击进入。在完成命令之前,请勿关闭命令提示。

当命令成功执行时,QWEN AI将安装在您的计算机上。现在,您可以在CMD中与Qwen AI聊天。如果您想下次与Qwen AI聊天,请打开命令提示符并运行同一命令。要安装QWEN AI的另一个型号,请从Ollama网站复制所需命令,然后在CMD中运行。

在Windows上安装Docker

您可以在Windows机器上使用CMD中的QWEN AI。但是,它不能保存您的聊天历史记录。此外,为QWEN AI安装专用UI也使其更容易使用。为此,您必须安装Docker。

参观Docker的官方网站并下载其Windows支持的版本。现在,在PC上安装应用程序。您需要在Docker的网站上创建一个帐户才能下载并将其安装在系统上。

Docker安装完成后,运行Docker并确保其在后台运行。现在,打开命令提示符并执行以下命令:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

上面的命令将在Docker应用程序中创建一个容器。完成上述命令将需要一些时间。命令完成后,打开Docker应用程序。您会在容器部分。

在Windows上本地运行QWEN AI

现在,最后一步是在Web浏览器中的系统上本地运行QWEN AI。打开Docker应用程序,然后单击3000:8080链接在“容器”部分中。这将在您的默认Web浏览器中使用端口3000打开Localhost。现在,创建一个帐户。请记住登录详细信息,因为您每次都需要使用相同的登录详细信息。

请注意,要在Web浏览器中本地运行QWEN AI,Ollama和相应的Docker容器都应在后台运行。

就是这样。

我可以在PC上使用AI吗?

是的,您可以在PC上使用AI工具。如果您的系统没有支持的硬件,则可以使用云AI工具。此类工具托管在其服务器上。因此,他们不会在您的系统上加载。但是,如果您想在系统上本地部署AI工具,则系统应支持硬件。

Qwen LLM开源吗?

QWEN AI的一些模型是开源的,包括QWEN2.5-7B-INSTRUCT-1M和QWEN2.5-14B-INSTRUCT-1M。

Related Posts