microsoft 的 phi-3 系列语言模型终于来了。就它们的尺寸而言，它们绝对是一个级别的差异，并且已经证明在许多方面比其他最近发布的型号（如 llama 3 和 mistral）要好得多。由于其小巧的尺寸，phi-3 可以轻松地在本地运行在您的 windows pc 上。以下是使用 ollama 和 lm studio 执行此操作的方法。
如何使用ollama在windows上运行microsoft的phi-3
ollama 是一个软件框架，可让您运行和试验 llm。以下是如何使用它在microsoft的phi-3。
第 1 步：下载并安装 ollama
首先，让我们下载并安装 ollama。方法如下：
- ollama windows 版 |
- 使用上面提到的链接，然后单击“下载 windows（预览版）”。
- 下载后，运行安装文件。
- 单击“安装”并安装 ollama。
第 2 步：运行 phi-3 命令并下载 llm
接下来，让我们使用 ollama 下载 phi-3 模型。
- 打开 ，然后单击模型。
- 向下滚动并单击 phi3。如果您一开始没有看到它，您也可以搜索它。
- 在这里，复制命令以下载 phi3。
- 接下来，从“开始”菜单打开命令提示符（或您选择的任何终端应用）。
- 在这里，粘贴复制的命令。
- 按 enter 键并等待 phi-3 下载到您的机器上。
- 看到“发送消息”消息后，您就可以开始在本地与模型聊天了。
第 3 步：开始与 microsoft 的 phi-3 llm 聊天
您可以在终端应用程序本身中开始聊天。只需输入提示并按 enter。以下是我们测试模型的几个方面。
测试抗审查性
测试对复杂主题
的理解
幻觉
检测
测试创造力
如何使用 lm studio 在 windows 上运行 microsoft 的 phi-3
如果您不喜欢使用终端应用程序在 windows 上与 microsoft 的 phi-3 聊天，而宁愿拥有专用界面，那么没有什么比 lm studio 更好的了。以下是在 lm studio 上设置 phi-3 并开始在本地与模型聊天的方法。
第 1 步：安装 lm studio
- lm工作室 |
- 使用上面的链接，然后单击 lm studio for windows 进行下载。
- 下载后，运行安装程序并让 lm studio 安装。
第 2 步：下载 phi-3 gguf 文件
您将无法从 lm studio 本身搜索和下载 phi-3。您需要单独获取 phi-3 guff 文件。方法如下：
- phi-3-mini guff 文件 |
- 使用上面给出的链接，然后单击“文件”。
- 在这里，您将找到 phi-3 模型的两个版本。选择一项。出于我们的目的，我们选择较小的版本。
- 点击下载。
- 然后将其保存在方便的位置。
第 3 步：加载 phi-3 模型
接下来，我们将加载下载的 phi-3 模型。请按照以下步骤操作：
- 打开 lm studio，然后单击左侧的“我的模型”。
- 记下“本地模型文件夹”。这是我们需要移动下载的 phi-3 guff 文件的地方。单击“在文件资源管理器中显示”以打开目录。
- 在这里，创建一个名为 microsoft 的新文件夹。
- 在 microsoft 文件夹中，创建另一个标题为 phi-3 的文件夹。
- 将下载的 phi-3 guff 文件粘贴到 phi-3 文件夹中。
- 移动 phi-3 guff 文件后，它也会出现在 lm studio 中。
您可能需要重新启动 lm studio 才能识别其目录中的 phi-3。 - 要加载 phi-3 模型，请单击左侧的 ai 聊天选项。
- 单击“选择要加载的模型”。
- 并选择 phi-3 型号。
- 等待它加载。完成后，您可以开始与 phi-3 聊天。但是，我们建议将模型卸载到 gpu，这样您的 cpu 就不会承受过大的压力。为此，请在右侧的“系统提示符”下，单击“高级配置”>“硬件设置”。
- 在“gpu 加速”下，单击 max。
- 单击“重新加载模型”以应用配置。
- 模型加载后，您可以开始与 phi-3 聊天。
第 4 步：开始与 microsoft 的 phi-3 llm 聊天
仅此而已。继续并输入提示。无论您是否有互联网连接，您现在都可以在本地windows pc上与microsoft的phi-3型号聊天。
常见问题
让我们考虑一些有关在windows pc上本地运行microsoft的phi-3的常见问题。
如何修复 ollama 卡在下载 phi-3 时？
如果您在命令提示符下通过 ollama 下载 phi-3 时遇到问题，只需再次输入命令即可。下载将从之前点击的位置恢复。ollama run phi3
原创文章，作者：校长，如若转载，请注明出处：https://www.yundongfang.com/yun295020.html
微信扫一扫不于多少！ 
支付宝扫一扫礼轻情意重 
