视频中所出现的代码 Tavily Search+RAG
微调Llama3实现在线搜索引擎和RAG检索增强生成功能!打造自己的perplexity和GPTs!用PDF实现本地知识库_哔哩哔哩_bilibili
Llama3高级定制:在线搜索与RAG检索增强,打造你的专属perplexity和GPTs知识库! - 大模型知识库|大模型训练|开箱即用的企业大模型应用平台|智能体开发|53AI
一.准备工作
1.安装环境
2.微调代码(要先登录一下)
huggingface-cli login
点击提示的网页获取token(注意要选择可写的)
3.我们选择将hugging face上微调好的模型下载下来(https://huggingface.co/leo009/llama3/tree/main)
4.模型导入ollama
下载ollama
导入ollama
二.实现在线搜索
1.获取Tavily AI API
Tavily AI
2.安装对应的python库
install tavily-python
pip install phidata
pip install ollam
3.运行app.py
三.实现RAG
1.git clone https://github.com/phidatahq/phidata.git
2.phidata---->cookbook---->llms--->ollama--->rag里面 有示例和教程
修改assigant.py中的14行代码,将llama3改为自己微调好的模型
以上就是本篇文章【微调Llama3实现在线搜索引擎和RAG检索增强生成功能】的全部内容了,欢迎阅览 ! 文章地址:https://sicmodule.kub2b.com/news/11881.html
栏目首页
相关文章
动态
同类文章
热门文章
网站地图
返回首页 企库往资讯移动站 https://sicmodule.kub2b.com/mobile/ , 查看更多