chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
一、项目介绍
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
二、本地运行
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
三、效果图

chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
最新评论
谢谢
百度网盘的提取密码不对
哪个国家成功率高一点?换了十几个了
有微信吗?有偿教我一下呗