首页 > 生活分享 > 免费教学 > 一周收获6.8K star,本地搭建属于你自己的AI搜索引擎,太强了!

一周收获6.8K star,本地搭建属于你自己的AI搜索引擎,太强了!

发布时间:2024-04-14 16:25:27

AI搜索领域,最近比较火的一个github开源项目:FreeAskInternet,该项目是2024年4月5日开源,短短一周,已经涨到了6.8k star。

 

这里说下怎么在github上查看某个项目的开源时间:
https://api.github.com/repos/{:owner}/{:repository},替换{:owner}和{:repository}为对应的用户名和仓库名即可。如:https://api.github.com/repos/nashsu/FreeAskInternet

什么是FreeAskInternet?

FreeAskInternet 是一个完全免费、私有且本地运行的搜索聚合器,并使用 MULTI LLM 生成答案,无需GPU。用户可以提出问题,系统将进行多引擎搜索,并将搜索结果合并到LLM中,并根据搜索结果生成答案,全部免费使用。

 

FreeAskInternet有哪些特征?

  • ️完全免费(不需要任何API密钥)
  •  完全本地化(无需GPU,任何计算机都可以运行)
  • 完全私有(所有东西都在本地运行,使用自定义llm)
  •  无需 LLM 硬件即可运行(无需 GPU!)
  •  使用免费的 ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) API(无需 API 密钥!感谢 OpenAI)
  •  定制LLM(ollama,llama.cpp)支持,是的,我们喜欢ollama!
  •  使用 Docker Compose 快速轻松地部署
  •  Web 和移动友好界面,专为 Web 搜索增强的 AI 聊天而设计,允许从任何设备轻松访问。

FreeAskInternet的工作原理是怎样的?

  1. 用户在FreeAskInternet的UI界面(www.perplexity.ai)上输入问题。
  2. 系统调用本地运行的searxng,在多个搜索引擎上进行搜索。
  3. 爬取搜索结果链接的内容。
  4. 将这些搜索结果与ChatGPT3.5 LLM结合,基于搜索结果生成答案

这种多引擎搜索和LLM生成的方式,可以充分利用不同搜索引擎的优势,提高回答的准确性和全面性,与基于单一LLM的系统不同,FreeAskInternet可以更好地覆盖各类问题,提供更加可靠的服务,另外,FreeAskInternet是在本地运行的,不需要联网,可以保护用户的隐私,避免数据被收集和泄露。

FreeAskInternet本地如何运行?

git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d 

您现在应该能够在http://localhost:3000上打开 Web 界面。默认情况下不会公开任何其他内容。(对于旧的 Web 界面,访问 http://localhost:3030)

如何获取和设置Kimi/Qwen/ZhipuAI Token?

如何获得Token?

使用
https://github.com/LLM-Red-Team项目来提供这些服务,您可以参考他们的自述文件。

参考:
https://github.com/LLM-Red-Team/kimi-free-api

 

如何使用像ollama这样的定制LLM?

开始 ollama 服务

export OLLAMA_HOST=0.0.0.0
ollama serve

在设置中设置ollama url:您必须使用计算机的IP地址,而不是localhost/127.0.0.1,因为在docker中您无法访问该地址。模型名称是您想要 ollama 提供服务的模型。

免费教学更多>>

安道拓发布模块化座椅解决方案ModuTec 停产多年后启动大规模招聘,“山寨车鼻祖”众泰汽车艰难求生 中国品牌二手车销量跃升南非市场前列,Tiggo 4 Pro成最畅销车型 未来院孵化企业完成数亿元Pre-A轮融资 不敢在印度建厂造车,真是因为带不回利润? 行业首个!128TOPS单芯片跑通城市NOA,轻舟智航联手理想汽车,首发量产上车 吉利集团发布2030战略,剑指650万辆! 央企新能源转型生死局, Meta今年拟实现AI眼镜年产能翻番 剑指2000万副 抵挡敌意收购,Netflix考虑修改条款全现金收购华纳兄弟 美国科罗拉多州警车引入自动车辆识别系统 号称每小时可开出12张超速罚单 苹果为何选择与谷歌AI合作?郭明錤:迫于短期挑战、压力 苹果和谷歌谈成一笔大生意,马斯克发文:强烈不满! 本田启用新Logo,明年将率先搭载于新款纯电车和混动车 日本车企在中国销量连跌7年,该怎么稳定汽车市场呢 王自如回应不看格力工资条 还有下半句:基层员工一定要看 美系巨头们的“去中国化”豪掷,能赢吗? 8.88万元起售/智能AI加码,上汽大众朗逸 Pro上市 限时焕新价12.49万起 2026款捷途旅行者上市 小鹏汽车Q3毛利率首破20%,Q4交付目标上调至12.5万辆 已签约!安波福新项目落地武汉 Flyme Auto合作车型10月销量超19.5万辆,同比增长200% 3M动力电池解决方案——助力推动电动出行的未来 为Linux开发者而来!同星智能发布多款SocketCAN工具 三星有望重启 Galaxy A7x 系列,新机 Galaxy A77 在 Geekbench 跑分平台现身 优酷、B站,被一个后来者超车了 毫无预兆的,Gartner给大模型开发平台排了座次 USB接口的颜色可以说是快速识别性能的“视觉语言”,但并不是标准和推荐的方法 18个月月收33万刀!起底“AI套壳”生意经:是昙花一现还是隐形金矿? 你的快递,是无人车送的,物流公司为了降低亏损、补充人力