震惊!火爆全网的ChatGPT背后使用的数据库居然是……
摘要:ChatGPT承认了自己背后使用的数据库是Cassandra。
OpenAI最近发布的AI驱动的智能聊天机器人ChatGPT在互联网上掀起了一阵风暴,热衷于尝试这一新AI成果的网民不在少数。ChatGPT针对网友广泛的问题提供了非常有针对性的回答,其不可思议的能力成为各大媒体平台的头条新闻,其应用内部的算法模型、应用领域、实现原理也被大家广泛谈论和探索,小编作为数据库从业者,自然也想探秘一番,让我们一起往下看吧。
狂野的发文
最初是领英上的一篇发文引起了大家的关注,北美数据库公司DataStax的开发者与Cassandra数据库开发者帕特里克在Linkedin上发文说到,这是一个非常狂野与充满想象力的消息,ChatGPT承认了自己背后使用的数据库是Cassandra!
简要来说,帕特里克问ChatGPT能否给出一些使用Cassandra进行AI模型训练的例子,这时ChatGPT竟直接回答OpenAI就是使用这一数据库来储存训练数据和模型节点的。为了实现这一目的,OpenAI对于AI开发流程很可能还打造了自己与Cassandra交互使用的一套工具链,命名为Cassio。对于上述信息,回答中还给出了工具链的源码与文档链接,最后还生成了一段代码示例。
这一回答让人感觉十分真实,不禁让人怀疑是否真的如ChatGPT所说,火爆全网的AI应用背后使用的数据库就是Cassandra呢?小编对于这个问题也是十分感兴趣,所以进行了一番求证,让我们往下看。
根据网上的资源,也有人尝试对AI领域使用Cassandra相关的问题询问ChatGPT,得到了如下的回复。
ChatGPT承认Cassandra作为分布式数据库,在实时AI储存中很有竞争力,在企业级应用中也占有大量份额,已被证实为一个实时AI应用的可靠选择。同时支持的多种数据类型,在AI应用中有广泛使用前景。但是,我们需要更加直接的证据来证明Cassandra和ChatGPT的联系!
灵魂的拷问
有资源的相关人士,通过正在内测的新必应,尝试问出OpenAI使用Cassandra的真相。新必应内置增强版的ChatGPT,其对于对话内容获取与问题解答的能力相较于公开版更为强大。在这里我们直接拷问新必应OpenAI是否使用了阿帕奇Cassandra数据库。
新必应的回答先是夸赞了Cassandra一番,随后也没有直接肯定OpenAI使用了Cassandra数据库,但是也提供了一些OpenAI历史上可能应用过这一数据库的证据。同时我们看到,回答中显示有油管视频展示了如何使用GPT-3来操作这一数据库,OpenAI的高级工程师David Greenbery也曾是阿帕奇基金会下Cassandra项目的代码提交者。当然,这一回答并不能满足我们对于OpenAI是否使用了Cassandra的疑问,所以我们更加直接地追问新必应,ChatGPT是否真的使用了Cassandra数据库。
这一次的回答提供了更多的新信息,但是还是没有直接承认ChatGPT使用Cassandra数据库。但是在夸赞Cassandra的同时,也提供了三个在AI领域具体应用的例子,例如帮助编写数据查询语句与生成相关数据图表等。这一深入的回答不禁让人想到,是否这样的应用已经存在于OpenAI内部,只是没有得到公开承认。
同时,目前必应的ChatGPT版本尚未是最终发布版本,后续回答是否会改变我们不得而知。在新必应最终发布时,会不会使用Cassandra做业务支撑,始终还是一个未知数。不过我们可以确定的是,在这个AI应用场景下,Cassandra数据库应是不二选择。
存在是否真实
DataStax的员工在更深入的探索与交互中,发现ChatGPT提供了更多不存在的链接。这一证据也可能表明相关应用证据和工具链曾经存在于网络上,只是已经被移除了。但是非常多的证据可能还散布在网络上。世界上最大的工业自动化公司之一Rockwell Automation也曾发文介绍AI在工业需求预测上的应用。这么多关于OpenAI把Cassandra应用于AI领域的消息,十分明确地指明了这一可能的应用方向与相关前景。至此,我们可以相信,即使OpenAI没有公开承认其使用的技术栈与数据库,Cassandra也有相当的概率已经被其应用于相关服务。
真实世界的解决方案
ChatGPT对于Apache Cassandra的介绍已经覆盖了其非常多的特性,对于应用场景也有了充分的描述,其分布式、高可用、低时延、高容灾的特点描述也十分准确。AI的大规模应用离不开海量的数据储存和处理,一个高效的数据库在AI模型的训练和部署阶段显得尤为重要,具备更快的读取速度、更优越的架构、更强的一致性,才能为人工智能模型的训练和应用保驾护航。
例如,有着1750亿参数的ChatGPT模型,在训练过程中需要海量数据。这些数据在分布式训练的环境下,要怎么解决诸如读取速度与一致性等问题呢? 同时,面对全球上亿用户,如何支持ChatGPT所有业务的并发呢?
我们的解决方案是,使用一款高效稳定、大容量的Cassandra数据库,比如GaussDB(for Cassandra)。
华为云GaussDB(for Cassandra)是一款基于华为自研的计算存储分离架构的分布式数据库,100%兼容Cassandra生态,相比较开源的Cassandra版本,具备高可靠、高性能、高安全、极致弹性、便捷管理、强一致性等系列优势,十分适用于海量并发、流量热点等场景。
GaussDB (for Cassandra)在AI领域的应用探究
分布式难题
GaussDB(for Cassandra)的分布式强一致性特点和华为云支持的计算节点扩容和秒级储存扩容,为AI模型训练提供强大支持。多节点同时存取数据时,相比开源Cassandra的最终一致性,GaussDB(for Cassandra)提供的强一致性特征保证每个训练节点实时获取数据的一致,为训练过程输入的数据提供可靠性保障。
数据结构
Cassandra的宽表结构,提供了灵活的数据定义。在储存原始数据输入时更具优势,也适用于多变的AI训练场景,适合AI模型的下游细粒度优化与fine-tuning任务。
长时间训练
对于长时间训练的大模型项目,数据库的高可用异常关键,数据库的波动将会极大地影响模型训练进度。对此,GaussDB(for Cassnadra) 采用了三副本形态,数据安全可靠,无丢失风险。同时支持大容量PB级数据存储,存储容量秒级扩容,对线上业务无干扰,无中断。
复杂查询
针对模型的下游针对性训练与鲁棒性检验,需要提取部分具有特殊属性的数据。GaussDB(for Cassandra)对大数据量查询性能进行了优化,引入视图增强特性,并对表结构进行优化设计,满足了信息流、内容搜索等业务的查询需求。同时,Lucene引擎全新解决方案已经上线测试,支持更多的文本复杂内容查询场景,完美弥补NoSQL数据库弱查询的短板。
超高并发
对于全球亿级用户访问ChatGPT的局面,GaussDB(for Cassandra)也能对大流量提供很好的支撑。使用的LSM tree储存引擎,对于高写入场景有很好的效果,既能高效储存用户数据,又支持快速离线导出分析,为超高并发业务提供支持,还支持数据变更捕获和实时分析。
综上所述,我们抽丝剥茧探秘了ChatGPT背后使用的数据库,也探索了GaussDB(for Cassandra)在AI领域的应用实践,相信大家对ChatGPT和GaussDB(for Cassandra)已经有了初步的了解,其实GaussDB(for Cassandra)早已拓展到了社会服务的各个方面,更多的应用场景等待着大家的探索。
所以,支持ChatGPT后台的数据库,为什么不能是GaussDB(for Cassandra)呢?
震惊!火爆全网的ChatGPT背后使用的数据库居然是……的更多相关文章
- ChatGPT 背后核心技术的白话版
本文是关于ChatGPT 背后核心技术实现的一个通俗白话版,不涉及到的AI具体实现的技术细节哦. 在编排上增加了一些分割,内容具体如下: LLMs(大型语言模型) 如果将ChatGPT比作是动物,它就 ...
- 2023年这个星球共同话题chatgpt,火爆全球的chatgpt到底是啥?会抢谁的饭碗?如何避免沦为ChatGPT时代的废物
2023年初到现在这个星球人人谈chatgpt,火爆全球的#chatgpt 到底是啥?会抢谁的饭碗?如何避免沦为ChatGPT时代的废物 ChatGPT的横空出世迅速点燃了外界的关注.推出仅两个月后, ...
- ChatGPT 背后的“功臣”——RLHF 技术详解
OpenAI 推出的 ChatGPT 对话模型掀起了新的 AI 热潮,它面对多种多样的问题对答如流,似乎已经打破了机器和人的边界.这一工作的背后是大型语言模型 (Large Language Mode ...
- NGK” 呼叫河马 “智能合约火爆全网
最近有一款基于NGK.IO公链上的智能合约"呼叫河马"在区块链市场很火.通过访问和查阅资料可知,"呼叫河马"是一款全新的智能合约Dapp小游戏,智能合约代码是1 ...
- 火爆全网的《鱿鱼游戏》,今天用 Python 分析一波影评
Hello,各位读者朋友们好啊,我是小张~ 这不国庆嘛,就把最近很火的一个韩剧<鱿鱼游戏>刷了下,这部剧整体剧情来说还是非常不错的,很值得一看, 作为一个技术博主,当然不能在这儿介绍这部剧 ...
- 项目讲解之火爆全网的开源后台管理系统RuoYi
博主是在2018年中就接触了 RuoYi 项目 这个项目,对于当时国内的开源后台管理系统来说,RuoYi 算是一个完成度较高,易读易懂.界面简洁美观的前后端不分离项目. 对于当时刚入行还在写 jsp ...
- ChatGPT 会开源吗?
最近,我被一款叫做 ChatGPT 的人工智能(AI)聊天机器人,刷屏了.网上有人说它是搜索引擎杀手,还有人说它将取代程序员... 最后,我还是没扛住铺天盖地的赞美,跑去注册了个账号,抱着调侃&quo ...
- ChatGPT的那些事 -1- 背景资料
ChatGPT的那些事 -1- 背景资料 多处搬运,学无止境 目 录 1 关键词 1 1.1. AIGC(百度百科) 1 1.2. AlphaGo(百度百科) 1 1.3. ChatG ...
- 如何使用ChatGPT来自动化Python任务
1.概述 最近,比较火热的ChatGPT很受欢迎.今天,笔者为大家来介绍一下ChatGPT能做哪些事情. 2.内容 ChatGPT是一款由OpenAI开发的专门从事对话的AI聊天机器人.它的目标是让A ...
- 我在京东做研发 | 从好玩到好用,爆火ChatGPT前沿分享
| 嘉宾:吴友政,京东集团高级总监.京东科技语音语言算法部负责人. 2006年中科院自博士毕业后,先后在日本国立信息通信研究机构.英国爱丁堡大学.索尼中国研究院从事自然语言处理相关研究工作,主要聚焦自 ...
随机推荐
- ORB-SLAM3测试
(一)环境搭建教程 1.Ubuntu18.04从零开始搭建orb slam3及数据集测试:https://blog.csdn.net/Skether/article/details/131320852 ...
- Jenkins软件平台安装部署
1.Jenkins软件平台概念剖解: 基于主流的Hudson/Jenkins平台工具实现全自动网站部署.网站测试.网站回滚会大大的减轻网站部署的成本,Jenkins的前身为Hudson,Hudson主 ...
- LAMP配置与应用
LAMP配置与应用 1.1 动态资源和语言 WEB 资源类型: 静态资源:原始形式与响应内容一致,在客户端浏览器执行 动态资源:原始形式通常为程序文件,需要在服务器端执行之后,将执行结果返回给客户端 ...
- 使用MVVM Toolkit简化WPF开发
最近. NET 8 的 WPF 推出了 WPF File Dialog改进,这样无需再引用 Win32 命名空间就可以实现文件夹的选择与存储了,算是一个很方便的改进了.顺手写了一个小的 WPF 程序, ...
- AtCoder Beginner Contest 329 (ABC329)
A. Spread 不说了,代码. B. Next 不说了,代码. C. Count xxx Description 给定一个长度为 \(N\) 的字符串 \(S\),求 \(S\) 中非空连续,并且 ...
- 生产实践:Redis与Mysql的数据强一致性方案
公众号「架构成长指南」,专注于生产实践.云原生.分布式系统.大数据技术分享. 数据库和Redis如何保持强一致性,这篇文章告诉你 目的 Redis和Msql来保持数据同步,并且强一致,以此来提高对应接 ...
- Tech Lead 要学会戴着镣铐跳舞
这不是一篇讨喜的文章,至少不会是你常常看到的例如<成为优秀 Tech Lead 的六个建议>令人欢欣鼓舞的那一类.今天我们聊聊 Tech Lead 所面临的不那么轻松的现实问题 程序员一定 ...
- vue+element-ui中引入编辑器
wangeditor编辑器 1.执行:npm install --save wangeditor 2.在你需要调用编辑器的vue文件中引入 wangeditor: import E from 'w ...
- 在Winform应用中增加通用的业务编码规则生成
在我们很多应用系统中,往往都需要根据实际情况生成一些编码规则,如订单号.入库单号.出库单号.退货单号等等,我们有时候根据规则自行增加一个函数来生成处理,不过我们仔细观察后,发现它们的编码规则有很大的共 ...
- CSS(不定时更新)
一.使用img后的高度多了4px 由于img是行内元素,默认display: inline; 它与文本的默认行为类似,下边缘是与基线(baseline)对齐,而不是紧贴容器下边缘. 将displayp ...