查看原文
教育与研究

再观察|思考力如陆奇博士也焦虑了?|继春季“新范式”巡讲后的秋季开营分享讲了什么:陆奇强调创业者要学习、且要快速!

ai汤源 AI范儿 2023-09-23


图|汤源

文|汤源
从智能角度解读陆奇秋季开营活动分享

题记

秋天是收获的节季。
在AI范儿·社区发源地魔都上海,走在早些天伊始的细雨中的东湖路,从淮海路环贸到静安寺,于丝丝凉意中读完陆奇博士最新在秋季开营活动中的大模型创投趋势分享,相比半年前的陆奇博士的“新范式”巡讲中的“holy shit”的兴奋,更多地读出了当前这波AI狂潮背后的冷静,甚至面对创业营的创业学员的一丝焦虑 - 要学习,且要快速
关于AI Hype Wave中的冷静,在半年前的陆奇博士演讲刷屏的公众号文章中,作为AI范儿·CPO(即笔者,有时自称Chief Prompt Officer)也有所表露。参见公众号文章:
陆奇博士“我的大模型世界观”刷屏之外

解读正文

对这波AI范式认知框架-A𝕀²·ℙarad𝕚g𝕞,今天已经暂时稳定在第4版,可以说ℙarad𝕚g𝕞这个词就来自陆奇博士的3月份前后的“新范式”演讲,对我对这波AI现象的研究,也有着非同寻常的启发,让我从起始就定位到“范式”的高维度来思考剖析和概括AI万象;

在最近,越来越意识到硅基智能A𝕀达到人类智能水平(human level)后,其激活函数和奖励模型与人类智能H𝕀的进化过程中的基于生物化学物质奖励的完全不一样,所以有了𝕀²的问题,因此需要来构建对这个问题的认知ℙarad𝕚g𝕞。 

图中之所以用克罗内克积来从不同维度解析𝕀²的问题,源于他说过的一句话:上帝创造了整数,其余都是人做的工作。 

老子说:道生一,一生二,二生三,三生万物。和黑格尔认为的,推动世界的力量总是从一个极端走向另一个阶段然后进入一种平衡的的正反合三阶段,也似乎自洽。具体参见公众号前文:

新观察 · 当今LLM智能发展之“事不过三”定律|黑格尔的正反合·老子的道德经·Marvin Minsky的悼文

A𝕀²·ℙarad𝕚g𝕞对于新范式的认知框架,与本文讲的陆奇秋季分享中的,对于大模型创投新格局下,强调创业者要快速学习,也不谋而合。
说到陆奇博士的分享隐隐露出的焦虑感,笔者分析来自两方面:一方面世界格局大环境导致无论创与投,都面临前所未有的挑战;另一方面虽然数字化的大模型成本驱动趋势未变,但大模型本身仍处于快速发展的早期,需要构建对于这一趋势的第一性原理认知。
归根结底,要求创投者本身也要快速构建自身的认知大模型!
💡人类智能与机器智能的实现都是各种模型▩陆奇博士分享原文我们每个人本质上都是由各种模型组成:认知模型让我们听、说、看、思考;任务模型让我们完成日常任务,如爬楼梯、搬椅子;领域模型则包含了我们的专业知识。这次的变革的拐点,能力发展的速度一定会比过去更快更强,如 OpenAI 类的公司正在投入巨资开发这些模型,而对于我们普通用户,利用这些模型的成本越来越低。▩CPO解读这与笔者常说的要借鉴LLM GPT的ANN机器学习对于注意力机制的实现,把注意力集中到自身BNN大模型的训练中,将所有相关的现象、阅读、日常prompt都与之关联,形成丰富多样的训练语料,从而对于专注的事物形成无限逼近的认知大模型构建。当前的ANN大模型主要还是增强人类认知模型的构建上,而基于LLM的agent则可以帮助人们完成很多数字世界的任务,陆奇博士在第一节最后也提到特斯拉的具身机器人对于人类物理世界的生产活动的影响。
世界格局百年范式变革的大模型时代,如何学习,如何训练自身的BNN认知大模型呢?
💡OpenAI带来的新范式下如何学习跟进▩陆奇博士分享原文OpenAI 代表了一种新的公司发展体系,如果想要跟得上,我们的学习方式也要改进:第一,看论文;第二,看产品、看技术、看模型;第三,看商业化,钱到哪里去,资本从哪里进来。▩CPO解读这与笔者形成A𝕀²·ℙarad𝕚g𝕞的过程类似,从SOTA的GPT工程论文研读、灵魂人物的访谈解读,到工程范式提炼、商业范式的区分以及现象的命名,最终所形成的v4版A𝕀²·ℙarad𝕚gm范式框架,一个重大升级就是思维范式的变化,研究对象从GPT现象上升到智能现象,同时纳入了和人类及其组织智能对等的硅基原生智能及其生态,甚至在具有某种自主意识的AI智能体“具生”范式,考虑在world of bits的纯数字世界,和人类无关的agent形态。对等智能体分别为Human Intelligence Species(含群体组织)与 Silicon Native Entities(含群体生态),区别为human是否in loop。

至于陆奇博士其它分享内容,请各位研读以下附录一内容。

附录一:今天的创新格局下,创业者要快速学习

💡 各位提交过奇绩创业营申请表的创业者,感谢大家的申请。我们一直把提交过奇绩申请表的创业者视为奇绩创业者大社区的一员,并在适当的时候,分享我们认为可能有用的信息。今年 3 月,我们分享了奇绩内部大模型转型实录。这次,我们整理了陆奇博士在奇绩秋季创业营开营活动分享的部分内容,希望这些内容对你有用,主要内容包括:

一、世界格局的变化

二、新的创业环境

三、创业者如何应对这些变化

一、世界格局的变化

1、根本性的变化|如果有一个生产资本是任何生产都需要的,当它的成本从边际移向固定,世界也会因此改变。

数字化本质上是人的延伸,数字化产业的发展,由内在的三位一体结构“信息、模型、行动”驱动主导。

数字化产业,正在由过去“信息成本降低驱动”,变成现在的“模型成本降低驱动”,全新的格局正在重塑。

2、人工智能大模型的出现,预示着全新的数字化产业开篇|互联网时代的拐点发生在 1995-1996 年,本质是“信息”的成本结构发生了改变。当时在美国一张地图 3 美元,而现在,像谷歌这样的公司每年投资数十亿美元制作地图,对我们用户而言,几乎可以在瞬间免费获取,对谷歌来说,为一个用户提供一次地图的成本近乎零。这个过程,伴随的是“信息获取的成本,从边际成本走向固定成本”,与信息传播的相关行业大规模崛起,如广告、电商、游戏等,都与这个结构性的变化相关。

然而,从 2022 年开始,以“ OpenAI ”为代表的公司正在引领我们走向新的技术时代,这一次,是“模型”的成本结构在发生变化。模型是更重要的生产要素,比信息起到的作用更大。

我们每个人本质上都是由各种模型组成:认知模型让我们听、说、看、思考;任务模型让我们完成日常任务,如爬楼梯、搬椅子;领域模型则包含了我们的专业知识。这次的变革的拐点,能力发展的速度一定会比过去更快更强,如 OpenAI 类的公司正在投入巨资开发这些模型,而对于我们普通用户,利用这些模型的成本越来越低。

随着模型成本从边际成本走向固定成本,将撬动所有产业如医疗、教育、制造、交通、物流等发生变化,有些行业甚至是结构性的重构。事实上,这一轮技术革命的速度无疑将超越前一次,而我们正处于这个转折点的开始。

下一个拐点|未来的技术转折点将围绕“数字化行动”展开,代表企业如特斯拉正是这一趋势的先驱。

二、创业者面临的新境况

除了上述的大局以外,最近这半年,我们注意到了一些重要的新变化:

1、美元利率变化,对全球资本市场产生深远影响|过去20多年,美元处于零利率时代,但如今,美元利率已经上升到 5% ~ 5.5% 。那些曾被大量投资的领域,如云计算和 SaaS ,在市场估值上受到重大影响。过去即使风险很高的项目,投资者也愿意投,估值也相应较高 ,但在今天,投资者会不愿意投了。中国的资本市场与美国有着紧密的联系,这一变化将会对创业和风险投资带来实质性的冲击。

因此,创业者的融资策略、生存策略也要重新评估。过去可以活下来的公司,今天不一定能活,过去可以融到钱的公司,放在今天是融不到的。我们观察到,融资机会更多出现在以大模型为基础的创新创业中。如果不在这个领域,要更积极地寻找生存方式。

2、中美的创新起跑线相近,都有可能诞生体量更大的公司,但有些领域创业者做到很大很成功需要二选一过去,大多数互联网、移动互联网等技术的推动,是从美国开始扩散的,如搜索引擎、电商等。中国的很多创业往往是在这些基础上模仿和发展的。现在,美国和中国的大量企业都在积极追赶 OpenAI,从整体上看,两国都站在了相近的起跑线上。

在美国,数字化产业格局基本定了,第一梯队是以模型为主的横向平台, OpenAI 带着微软,加上英伟达,谷歌倾其全力追,Meta、Apple、特斯拉也有机会追上去,中国的产业还在早期,头部是哪几家还不明朗。

中国和美国都同样有机会做出大规模的公司。在互联网信息时代,美国涌现了谷歌、亚马逊,中国也崛起了腾讯、阿里、字节、美团、百度等。在未来三年左右,同样体量的公司,甚至体量更大的公司极可能会诞生。

在政府的政策监管上,过去政府都是后期才进入,这次全球的政府都快速进入了产业,因为这次的产业变革对社会的影响很大。如果要创业,需要知道政府是如何考虑的,了解相应的监管政策。

国际背景也让科技创新的选择变得更为复杂。特别是在人工智能领域,有些领域的创业者需要在不同的国家之间做出二选一的选择。这将是一个长期的趋势,创业者需要做好充分的思想准备。

3、机会涌现在供给端,要从第一性原理去理解大模型时代的创业思维|从“供给、需求、流通”角度来看,流通端机会,如营销广告等,已经非常少了,价值也很弱了。需求端的产品形态,从以往的信息传递转向更贴近人们需求的产品形态(例如提供情感陪伴的数字人等)。

而在当前的模型时代,我们认为更多的机会出现在供给端,它们会从根本上改变生产方式提高生产效益。今天是掌握模型的人变得非常有价值,其次是拥有基础设施和工具的人,再次是那些拥有数据和应用场景的人。对于创业者而言,也要跳出信息时代的思维惯性,从第一性原理出发,真正去理解大模型时代的创业思维。

4、主流的大模型架构创新点基本确定,开发方式彻底转变,创新能力系统性增强|今天,模型体系是主要的驱动力,模型的架构、数据、训练方法相对稳定。虽然它们还会不断演变,但是我们已经大致掌握了它们的运作方式,包括模型的开发、应用和优化。

开发体系(我们称之为 AIGD ),开发方式已经发生了彻底的改变,这个领域充满着巨大的机会。

整个创新体系也经历了巨大的变革,即使是单枪匹马的创业者,也能够开展大量工作。比如Midjourney公司只有十几个人,但却创造了大量的收入。核心是创新能力系统性地变强,创业者可以利用大模型和Agent 完成大量的工作。

5、中国涌现了大量的原创性机会,新一代的软件基础设施和算力领域机会非常大|大模型时代的算力体系是一个全新的体系,核心在于高密度的计算、光交换、光传输、光模块,需要优化的是功耗和空间。这与云时代是相反的,它本质上是超算的云化和云的超算化。

在这个时刻,全球范围内,目前真正领先的,是英伟达和谷歌。一个国家、一个地区、一个城市未来的发展会极大的取决于拥有的有效算力。因此,创业者在创业的过程中,务必要关注算力,即使融到资金,没有足够的算力也无法推进产品的发展。

过去,中国可能存在基础设施不足、缺乏一流的技术人才和市场开发经验有限等问题,但在这一轮创新格局中,中国正迎来大量原创性的机会。对于创业者而言,特别是在中国,探索新一代的软件基础设施和算力,机会非常巨大。

三、如何应对这些变化?更快速、更高效地学习

在奇绩十周的创业营加速里,除了加速产品市场匹配和活下去,我们今年新增了一个目标:学习。它是今天的环境下,创业者们必须关注和花时间的地方。

1、为什么快速学习如此重要首先,我们正身处于一个技术快速发展的时代。过去1年多的变化告诉我,今天对技术比较有效的判断和认知大概在2-3月后就会变得过时,需要调整和提高。抓住创业的先机,必须要学得快,否则很容易就落后和被淘汰。

其次,创新的模式正在快速转变。OpenAI 是第一家规模比较大,且由同一个团队同时既做前沿性科研,也做大规模的工程和平台性的商业化的公司,如果这几部分是分开的,那就很难做得到。OpenAI 代表了一种新的公司发展体系,如果想要跟得上,我们的学习方式也要改进:第一,看论文;第二,看产品、看技术、看模型;第三,看商业化,钱到哪里去,资本从哪里进来。

同时,未来的企业模式,充满未知和不确定性,知道正确答案的团队,是那些迭代快、学习快的。

此外,知识正在被模型所替代,我们能做的事大模型都能做。对于创业者而言,独到的见解和快速的行动能力,是创业者走在前沿、脱颖而出的关键。

2、如何学习:奇绩的实践分享|今年年初开始,奇绩把【学习】放在整个团队和奇绩校友社区建设里很关键的位置,我们也在不断打造学习环境,这里跟大家简单分享我们的实践。

首先,我们整合了很多大模型相关文献,并正在构建一个资源库。我们鼓励团队员工和校友创始人们阅读论文,不仅仅是直接关联的文章,还有跟大模型有关的其它文献。

其次,为了加深对知识的理解和交流,我们每周二晚上组织论文分享会。跟踪 AI 方向顶级期刊论文研究成果,捕捉最前沿的研究信号。

每周三晚产品分享会,基于技术产品的迅速迭代,了解它们的用户体验和解决的核心问题。

每周四晚上 7 点半,我们特设 AI 校友分享会,主要是那些做 AI 创业的校友,他们的前沿讨论和实际操作经验对大家都将是宝贵的财富。

此外,我们也构建了一个 AI 学习社区平台,这不仅是一个线上交流的空间,也会有线下的分享和讨论机会,涵盖产品、论文和资本市场等热门话题。

为了让大家更直接地了解最新的科技资讯,我们还创办了齐思,这是一个集结前沿技术探索与交流的中国版 Hacker-news。

为确保大家随时掌握最新进展,几个月前我们还推出了大模型日报,这是一个每日推送的资讯服务,我鼓励大家坚持阅读,以保持与时代的同步。

总之,我们必须全身心地投入,努力学习,不仅仅是为了自己,更是为了我们所在的团队和项目。每篇论文、每项研究背后都是前人的智慧结晶,即使我们不深究每一个细节,但至少要理解其核心思想,并尝试将这些知识与我们的实践相结合。只有这样,我们才能在这个快速发展的世界中立足。

附录


💡 A𝕀²·ℙarad𝕚gm-Intelligence as a Service v1~v4范式迭代简介

AI范儿A𝕀²·ℙarad𝕚g𝕞从V1到V4的迭代,是一种全新的尝试,基本是沿着:“从GPT现象·看Prompt本质·找创投应用方向“这样的路径,在“AI范儿”社区一众群友prompt下共创并逐步思考迭代的过程。当前v4.0版本涵盖如下内容:1*整体框架与范式路径:(human level)Intelligence as a Service整体框架,与炼丹、挖矿、化身、具生4原生商业范式迭代路径2*服务路径:模型原生(models native)服务路径与卖铲子(shovels selling)服务路径

3*智能发展路径:通用人工智能(AGI)发展路径、面向个人智能伴侣(PIA)发展路径以及硅基原生(Silicon Stack)智能发展路径

范式思维升级:v4版A𝕀²·ℙarad𝕚gm范式框架一个重大升级就是思维范式的变化,研究对象从GPT现象上升到智能现象,同时纳入了和人类及其组织智能对等的硅基原生智能及其生态,甚至在具有某种自主意识的AI智能体“具生”范式里,考虑在world of bits的纯数字世界里,和人类无关的agent形态。对等智能体分别为Human Intelligence Species(含群体组织)与 Silicon Native Entities(含群体生态),区别为human是否in loop。因此对等智能体之间的价值交互可分为:
  • AI对于人类智能的增强
  • AI对于人类智能的替代
  • AI智能本体的自主化

四个GPT原生范式:及其对应的工程范式,版本迭代路径以及商业范式;并对每个原生范式的未来对应发展路径做了一一对应,具生范式是终极商业范式。

▩炼丹(pre-training) (v1. AIGC) - tokens as a service [~AGI/ASI]

▩挖矿(prompting) (v1. AIGC) - prompts as a service [~GPT agents]

▩化身(fine-tuning) (v2&v4. Models Anywhere&Anyone) - models as a service [~in-devices&on-premises agents]

▩具生(agents) (v3&v4. Promptless) - agents as a service [~world of atoms&bits | human in loop & Silicon Native Entities]
△附:A𝕀²·ℙarad𝕚gm-Intelligence as a Service v1-v4范式迭代路径简介版

▩A𝕀²·ℙarad𝕚g𝕞整体框架示意图
说明:转发传播请注明出处,A𝕀²·ℙarad𝕚gm-Intelligence as a Service商业范式研究框架版权归AI范儿CPO所有。

“AI范儿^A𝕀²·ℙarad𝕚gm商业范式v4.0示意图”



进阶阅读


进阶阅读


卡梅隆博士系列E01S01:提示工程-CoT思维链实现LLM推理


卡梅隆博士系列E02S01:提示工程-实用提示工程建议与技巧


卡梅隆博士系列E03S01:提示工程-高级提示工程超越few-shot


卡梅隆博士系列E04S01:提示工程-提示合奏使LLM更可靠




卡梅隆博士系列E01S02:开源LLM的历史-早期


卡梅隆博士系列E02S02:开源LLM的历史-更好的基础模型


卡梅隆博士系列E03S02:开源LLM的历史-化身与对齐



AGI甚至ASI-人类是在盗火还是玩火?

AI商业新范式“智能即服务”解读-A𝕀²·ℙarad𝕚g𝕞^v4


参考

说明:本文在公众号里标注为“原创”仅为防止未经许可的转发,本文引用内容的版权属于原作者和原媒体。

-奇迹创坛:陆奇博士秋季开营分享



END


扫码加群,

立变AI🍚!


AI范儿读者群


👇关注、标星哦~



那些prompt了我的,

是否也prompt了你...


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存