Anything-LLM 打造内部知识库的私人专属 GPT!

这是一个全栈应用程序,可以将任何文档、资源(如网址链接、音频、视频)或内容片段转换为上下文,以便任何大语言模型(LLM)在聊天期间作为参考使用。此应用程序允许您选择使用哪个LLM或向量数据库,同时支持多用户管理并设置不同权限。

 

图片[1]-Anything-LLM 打造内部知识库的私人专属 GPT!-零度博客

 

您可以使用现成的商业大语言模型或流行的开源大语言模型,再结合向量数据库解决方案构建一个私有ChatGPT,不再受制于人:您可以本地运行,也可以远程托管,并能够与您提供的任何文档智能聊天。

AnythingLLM将您的文档划分为称为workspaces (工作区)的对象。工作区的功能类似于线程,同时增加了文档的容器化,。工作区可以共享文档,但工作区之间的内容不会互相干扰或污染,因此您可以保持每个工作区的上下文清晰。

 

下载方式:

1、Github 开源项目【点击前往

2、备用打包下载 【点击下载

图片[2]-Anything-LLM 打造内部知识库的私人专属 GPT!-零度博客

AnythingLLM的一些酷炫特性

  • 多用户实例支持和权限管理
  • 工作区内的智能体Agent(浏览网页、运行代码等)
  • 为您的网站定制的可嵌入聊天窗口
  • 支持多种文档类型(PDF、TXT、DOCX等)
  • 通过简单的用户界面管理向量数据库中的文档
  • 两种对话模式:聊天查询。聊天模式保留先前的对话记录。查询模式则是是针对您的文档做简单问答
  • 聊天中会提供所引用的相应文档内容
  • 100%云部署就绪。
  • “部署你自己的LLM模型”。
  • 管理超大文档时高效、低耗。只需要一次就可以嵌入(Embedding)一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省90%的成本。
  • 全套的开发人员API,用于自定义集成!

支持的LLM、嵌入模型、转录模型和向量数据库

 

支持的LLM:

支持的嵌入模型:

支持的转录模型:

支持的向量数据库:

技术概览

 

这个单库由三个主要部分组成:

  • frontend: 一个 viteJS + React 前端,您可以运行它来轻松创建和管理LLM可以使用的所有内容。
  • server: 一个 NodeJS express 服务器,用于处理所有交互并进行所有向量数据库管理和 LLM 交互。
  • docker: Docker 指令和构建过程 + 从源代码构建的信息。
  • collector: NodeJS express 服务器,用于从UI处理和解析文档。

🛳 自托管

 

Mintplex Labs和社区维护了许多部署方法、脚本和模板,您可以使用它们在本地运行AnythingLLM。请参阅下面的表格,了解如何在您喜欢的环境上部署,或自动部署。

Docker AWS GCP Digital Ocean Render.com
在 Docker 上部署 在 AWS 上部署 在 GCP 上部署
在DigitalOcean上部署 在 Render.com 上部署
Railway
在Railway上部署

其他方案:不使用Docker配置AnythingLLM实例 →

如何设置开发环境

 

  • yarn setup 填充每个应用程序部分所需的 .env 文件(从仓库的根目录)。
    • 在开始下一步之前,先填写这些信息server/.env.development,不然代码无法正常执行。
  • yarn dev:server 在本地启动服务器(从仓库的根目录)。
  • yarn dev:frontend 在本地启动前端(从仓库的根目录)。
  • yarn dev:collector 然后运行文档收集器(从仓库的根目录)。
THE END
喜欢就支持一下吧
点赞3251 分享
世界首位AI工程师! 能自行完成整个软件项目-零度博客

世界首位AI工程师! 能自行完成整个软件项目

世界首位自主型人工智能工程师'Devin'面世 据报道,新兴公司'认知'(Cognition)近日推出了一款名为'Devin'的人工智能软件开发助手。这位自主型人工智能工程师具有编码能力和独立作业的能力,可以媲...
admin的头像-零度博客admin
1.3W+1527
从 Windows 10 中的回收站恢复文件的 4 种方法-零度博客

从 Windows 10 中的回收站恢复文件的 4 种方法

每个人都经常不小心将重要文件发送到回收站,但并不是每个人都知道可以通过多种方式将其重新找回。 我们都删除东西;旧电子邮件、短信、应用程序等。您可能已经从 PC 中删除了某些文件,因为它...
admin的头像-零度博客admin
1.5W+2251
10个让人欲罢不能的网站! 零度解说-零度博客
Windows11 右键菜单恢复到 Win10经典样式 ,免费轻松解决系统升级后的痛点! 零度解说-零度博客
为什么您现在在家工作时可能需要安全的文件共享服务-零度博客

为什么您现在在家工作时可能需要安全的文件共享服务

当我们都在办公室时,我们中的许多人都连接到办公室网络。我们不需要过多考虑共享文件。但是现在我们分散在各个领域,安全地共享重要文件需要仔细规划。这就是您可能希望使用强大的文件共享服务...
admin的头像-零度博客admin
1.5W+2251
挖矿凉凉!大批矿卡遭集中翻新:画面不忍直视,等等党准备好了吗?-零度博客
推荐10款超级实用的免费开源软件!2023-零度博客

推荐10款超级实用的免费开源软件!2023

1.鼠标自动点击器:可以帮我们自动完成一些机械性重复的工作! 【简单版】 【高级版】 2.Wai:一款可以预防颈椎病的项目。这是一个通过非正常的方式,展示历史上的今天和这个季节吃什么果蔬的内...
admin的头像-零度博客admin
1.8W+1683
法国对谷歌和 Facebook 因向具有深色模式的用户推送跟踪 cookie 处以罚款-零度博客

法国对谷歌和 Facebook 因向具有深色模式的用户推送跟踪 cookie 处以罚款

如果您曾经觉得网站已经将拒绝跟踪 cookie 的简单业务变成了一项涉及仔细阅读多个对话框的迷宫任务,那么法国的数据保护机构将为您提供支持。监管机构 (CNIL) 已对谷歌罚款 1.5 亿欧元(1.7 亿...
admin的头像-零度博客admin
1.5W+2251
免费白嫖 Linode 100 美金! 开通多台VPS, 搭建高质量的ip代理节点或网站!!-零度博客

免费白嫖 Linode 100 美金! 开通多台VPS, 搭建高质量的ip代理节点或网站!!

  1.免费注册赠送100美金:【链接直达】 2.激活码:rE8p0CZ5 或者你可以自己生成激活码: curl -s 'https://www.linode.com/lp/affiliate-referral/' |grep -Eo 'promo=.*'|head -1|sed -r...
admin的头像-零度博客admin
1.8W+1682