[strong_begin] 以下为课程讲义,供参考,非详尽版,观看视频更为全面。[strong_end]
你好,我是李锟。
这是我们这套实训课的第一课。我们的第一个任务是创建一套高效的开发环境,这样未来才能顺利开展开发工作。
开发环境分为后端服务器和前端开发机两部分,最重要的是后端服务器。在这一课中,我们要完成后端开发服务器的创建。
开发服务器我推荐大家都使用 Ubuntu Linux。原因很简单,因为这套课程会基于本地部署的一些开源语言模型,Ubuntu Linux 就是目前 LLM 应用开发的首选平台,选择这个平台,可以为自己减少大量不必要的麻烦。
前端开发机大家可以自由使用自己喜欢的操作系统,Windows、macOS,Linux 都可以。开发服务器起码要配备 Nvidia 独立显卡,最低要求是 8GB 显存的 Nvidia RTX 3070。内存至少 16G,建议 32G。开发服务器的硬件配置当然是越高越好了。前端开发机没有特别的硬件要求,也不需要配置 Nvidia 独立显卡。可以在前端开发机上通过 SSH 连接到后端开发服务器,并且使用 VS Code 的远程开发功能很方便地开发服务器端的代码。如果没有特别说明,课程视频中的所有操作均在开发机上完成。我选择的开发机操作系统是 Windows。
