AI界炸了!贾扬清竟用500行代码打造搜索引擎Demo登顶GitHub!你还在觉得构建AI应用难吗?

AI大神贾扬清周末狂炫技!仅用500行代码打造的AI搜索引擎Demo就登顶GitHub热榜,告诉世界构建AI应用不过如此。谁说打造AI应用难如登天?贾扬清用实际行动告诉你:天下没有难构建的AI应用!

更多精彩内容关注知乎,都迁移那里:https://www.zhihu.com/people/dlimeng
在这里插入图片描述

AI搜索的三大流派,你知道吗?

如今AI搜索风头正劲,但你知道吗?它们在设计上其实分三大流派哦!

流派一:卡片式展示

像谷歌、百度这样的老大哥,在传统搜索的页面顶部,利用卡片形式来直接给你展示AI生成的答案。简洁明了,一眼就能看明白!

流派二:对话式搜索

必应、百度文心一言则更偏重对话。你可以像和朋友聊天一样,提出问题,AI会帮你总结提炼答案,并在多轮对话中逐步展现。轻松自在,就像有个智能助手在身边!

流派三:新范式代表——Perplexity

还有一类产品,它们遵循的是Perplexity为代表的新范式。搜索结果页面被分为“参考链接-AI回答-相关追问”几个部分,你可以根据需求多轮提问。最厉害的是,搜索结果还有历史记录,可以分享给朋友!而且,Copilot增强模式下,AI还能反向提问,引导你补充搜索条件。个性化提示词功能更是让你随心所欲地调整AI回答的风格和格式!

Perplexity AI是一家成立于2022年8月的公司,总部位于旧金山。其创始人兼首席执行官Aravind Srinivas具有丰富的人工智能背景,曾在OpenAI担任研究科学家。此外,其创始团队还包括Denis Yarats和Johnny Ho等具有人工智能相关背景的人才。Perplexity AI的工作原理是通过理解并重新构建用户查询,从实时索引中提取相关链接,然后利用大语言模型(LLM)阅读链接并整合内容,形成精准答案。

不得不说,Perplexity的模式真的大获成功!就像它的CEO所说,现在这种模式几乎成了行业标准。甚至那些小细节,比如“付费功能的免费使用次数”,都被后来的AI搜索产品学去了!

项目背景与特点

在Lepton Search发布后,Perplexity 的创始人突然出现,质疑其与Perplexity的相似性。
在这里插入图片描述

面对Perplexity AI的挑衅,贾扬清进行了正面回击,强调了LeptonAI在AI开发领域的专业性和优势。他表示,LeptonAI的焦点在于构建一个帮助开发者构建人工智能应用程序的现代云平台,而不是做一个搜索引擎。尽管如此,为了展示LeptonAI的实力和效率,他们还是用手搭建了一个简单的演示工具,并计划将其开源。

在这里插入图片描述

500行代码背后,通过调用已有的基础架构,Lepton Search实现了高效、精准的搜索功能。同时,内置的LLM支持使得搜索引擎能够理解并回答更复杂的问题,提升了用户体验。此外,美观且可分享的UI界面也是这个Demo的一大亮点,让用户在享受技术带来的便捷的同时,也能感受到视觉上的愉悦。

LeptonAI开源项目:https://github.com/leptonai/search_with_lepton

使用环境:https://search.lepton.run/

技术亮点解析

目前,大语言模型主要面临两大挑战:数据陈旧和偶发幻觉。由于预训练数据集具有明确的截止日期,因此无法根据最新数据做出响应。这导致即使是当前最强大的模型,也往往会因数据过时而编造答案,即出现“幻觉”问题。

对于无法访问最新数据的问题,有两种主要的解决方法。第一种是通过搜索引擎执行网络搜索并向大模型提交数据来改善决策质量。Perplexity AI更依赖于这种方法。第二种方法是使用检索增强生成(RAG)技术,这是一种成熟的技术,可以解决一定程度的“幻觉”问题。与动态调用搜索API方法不同,RAG强调从公开数据存储中检索数据。

LeptonAI 基于RAG 技术方式,通过调用已有基础架构的方式构建了一个简单的搜索引擎。

500行代码的AI搜索引擎功能列表

1.大模型,调用了在自家云上部署的开源Mixtral-8x7b模型。
2.搜索引擎,目前用了必应搜索的API。
3.数据存储,用自家Lepton KV作为无服务器存储。
4.对大模型和搜索引擎的接口支持
5.前端UI界面
6.可缓存和可分享的搜索结果

搜索引擎支持与设置

在这里插入图片描述
整个流程是: 用户查询 -> 前端 -> 后端 -> Lepton LLMAPI -> 后端 -> 前端 -> 用户

Lepton Search支持Bing和Google两大搜索引擎,用户可以根据自己的需求进行设置。对于想要快速尝试Demo的用户,还可以使用Lepton Demo API直接体验。在设置搜索引擎API时,用户只需按照相应的指示获取API密钥,并进行简单的配置即可。

部署与应用

Lepton Search的部署过程也异常简单。用户只需在Lepton AI平台上进行一键部署,即可将搜索引擎Demo快速上线。同时,用户还可以根据自己的需求进行自定义配置,如设置部署名称、资源形状等。

一键部署:https://dashboard.lepton.ai/workspace-redirect/explore/detail/search-by-lepton

命令行部署:

lep photon run -n search-with-lepton-modified -m search_with_lepton.py --env BACKEND=BING --env BING_SEARCH_V7_SUBSCRIPTION_KEY=YOUR_BING_SUBSCRIPTION_KEY

总结:

贾扬清通过Lepton Search项目不仅展示了技术实力,更激发了开发者对AI应用的无限期待。
该项目的成功证明了构建AI应用并非遥不可及,而是触手可及的未来。

如果有其他疑问,欢迎朋友关注留言!

我是李孟聊AI,独立开源软件开发者,SolidUI作者,对于新技术非常感兴趣,专注AI和数据领域,如果对我的文章内容感兴趣,请帮忙关注点赞收藏,谢谢!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/442934.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

第9章 安全漏洞、威胁和对策(9.1-9.2)

9.1 共担责任(shared responsibility) 共担责任是安全设计的原则,表明任何机构都不是孤立运行的。 相反,它们与世界有着千丝万缕的联系。我们使用相同的基本技术,遵循相同的通信协议规范,在同一个互联网上漫游,共用操…

【昕宝爸爸小模块】深入浅出详解之常见的语法糖

深入浅出详解之常见的语法糖 一、🟢关于语法糖的典型解析二、🟢如何解语法糖?2.1🟢糖块一、switch 支持 String 与枚举2.2📙糖块二、泛型2.3📝糖块三、自动装箱与拆箱2.4🍁糖块四、方法变长参数…

知识点积累系列(四)Kubernetes篇【持续更新】

云原生学习路线导航页(持续更新中) 本文是 知识点积累 系列文章的第四篇,记录日常学习中遇到的 Kubernetes 相关的知识点 1.Kubernetes琐碎知识点 1.1.为什么要有annotations annotation中除了能够记录一些额外信息,还可以解决k…

Selenium处理Alert弹窗

页面弹窗有 3 种类型: alert(警告信息) confirm(确认信息) prompt(提示输入) 对于页面出现的 alert 弹窗,Selenium 提供如下方法: 序号 方法/属性 描述 1 ac…

综合回溯,剪枝,暴搜

目录 力扣1863.找出所有子集的异或总和再求和 力扣47.全排列II​编辑 力扣17.电话号码的字母组合电话号码的字母组合https://leetcode.cn/problems/letter-combinations-of-a-phone-number/​编辑 力扣22.括号生成 力扣1863.找出所有子集的异或总和再求和 class Solution {in…

【C项目】顺序表

简介:本系列博客为C项目系列内容,通过代码来具体实现某个经典简单项目 适宜人群:已大体了解C语法同学 作者留言:本博客相关内容如需转载请注明出处,本人学疏才浅,难免存在些许错误,望留言指正 作…

java遍历二叉树,前序遍历、中序遍历、后序遍历

static class TreeNode{int val;TreeNode left;TreeNode right;int deep;}/*** 二叉树的前序遍历&#xff0c;RLR 根左右* param root* param res*/static void accessTree1(TreeNode root,List<Integer> res){if(root null){return;}res.add(root.val);accessTree1(roo…

LeetCode 835. 图像重叠

都知道是枚举行移动 枚举列移动 脑子不清楚 一开始写的很shit&#xff0c;后来动了一下脑子&#xff0c;发现你可以处理行移动&#xff0c;然后在行移动的基础上处理列移动&#xff0c;注意RE问题就行了 class Solution { public:int largestOverlap(vector<vector<int&g…

ElementUI安装与使用指南

Element官网-安装指南 提醒一下&#xff1a;下面实例讲解是在Mac系统演示的&#xff1b; 一、开发环境配置 电脑需要先安装好node.js和vue2或者vue3 安装Node.js Node.js 中文网 安装node.js命令&#xff1a;brew install node node.js安装完后&#xff0c;输入&#xff1…

【Linux C | 网络编程】getsockname 和 getpeername函数详解及C语言例子

&#x1f601;博客主页&#x1f601;&#xff1a;&#x1f680;https://blog.csdn.net/wkd_007&#x1f680; &#x1f911;博客内容&#x1f911;&#xff1a;&#x1f36d;嵌入式开发、Linux、C语言、C、数据结构、音视频&#x1f36d; &#x1f923;本文内容&#x1f923;&a…

Qt关于qss文件的添加使用

把ui设计得更加的养眼&#xff0c;肯定需要对控件的属性进行设置&#xff0c;qt中就是关于qss文件的使用。 那么如何创建和添加qss文件呢 1.新建一个文本文件的txt 2.将文本文件的后缀改为qss&#xff08;类比html&#xff09; 3.放置到项目的资源文件夹下 4.添加资源文件 5.在…

推荐系统|排序_MMOE

MMOE MMOE是指Multi-gate Mixture-of-Experts 注意看Expert后面加了s&#xff0c;说明了有多个专家。 而在MMOE中专家是指用来对输入特征计算的神经网络&#xff0c;每个神经网络根据输入计算出来的向量都会有所不同。 MMOE的低层 MMOE的上一层 通过MMOE的低层算出的向量和权…