chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
一、项目介绍
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
二、本地运行
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
三、效果图

chatGPT大火,但是因为openAI是闭源的,如果想要私有部署或离线使用,那就有点困难了。好在Facebook开源的LLaMA模型能让我们本地进行部署使用。
希望基于开源LLaMA模型能够发展出繁荣的开发者生态。
Facebook官方示例: llama。
C++移植版:llama.cpp。
在本地运行LLaMA模型,基于项目:alpaca.cpp。
支持Linux/Windows/Mac,下载地址:Github。
最新评论
什么时候出新版啊已经过了半个月了
看电影里面的评论怎么关闭
有没有港台节目直播?
One Drive提取密码?