大型语言模型（LLM）是开发软件的强大的新原语。但由于 LLM 实在是太新了，并且行为与普通的计算资源实在是太不一样了，所以怎么使用 LLM 未必总是一目了然。
在这篇文章里，我们将分享新兴 LLM 应用栈的参考架构。该架构将展示我们见过的人工智能初创企业与顶尖科技公司使用的最常见的系统、工具以及设计模式。这个技术栈还比较原始，可能会随着底层技术的进步而出现重大变化，但我们希望它能为现在从事 LLM 开发的开发者提供有用的参考。
评：大模型开发流程展示
零门槛就能晋升插画师，简单勾勒个草图就能得到电影级大片。Stability AI的全新作图神器，简直要让画师和设计师原地失业了！
杀疯了杀疯了，让画家和设计师原地失业的AI作画工具，又上新了！
Stability AI新推出的Stable Doodle简直要封神了！
它能把你的涂鸦一秒变大作，完全颠覆了AI作画传统流程中的纯文本prompt方式。
评：AI绘画进步不错
现有大语言模型的训练和推理速度，还能再快一点——
快多少？2-4倍。
各种大模型都在用的FlashAttention今天正式发布第2代并开源，所有Transformer架构的模型都可使用它来加速。
评：拭目以待FlashAttention架构的前景
颠覆性技术登场，一句话生成大片
现在做一段大片，不用摄像机、不用租场地、不用找专业人员，就是两句话的事。
今年6月，Runway公司出品的AI视频工具Gen-2，正式开启免费试用。Gen-2的前一代是Gen-1，从名字看Gen-2只是Gen-1的升级，但其实Gen-2在Gen-1的基础上做了颠覆性改变。
Gen-2，真正实现了文字生成视频，只要输入提示词，就可以得到下面这样的视频。
评：生成式视频可以实现
昨夜 Meta 又贡献了一个这样的例子。他们宣布将大语言模型 Llama 2 有条件地开源给商业使用（月活用户超过 7 亿需要单独申请），正是在牵头做大模型时代的开源标准。而 OpenAI 的密切合作伙伴微软，这一次成了 Llama 2 的首要合作伙伴。微软是在同一天举行的 Inspire 大会宣布这项合作的，而且就在宣布的 2 分钟前，微软还在一张 PPT 上画着 “微软OpenAI”。微软与有竞争关系的闭源 OpenAI 和开源 Llama 2 两头牵手，反映了如今大模型激烈的技术竞赛之外，多变的商业合纵连横。
评：meta这头鲶鱼在AIGC上卷出高度
马斯克是推特上面的绝对明星、意见领袖。他的意见也包括对推特的看法。推特被人诟病的地方很多，但这家公司多年来一直都很佛系，很少冲动地做出多少重大改变。不过，这种优柔寡断反而让这家事实上属于小众群体的社交网络得以幸存，直到对此受不了的马斯克最后被迫出手，并且雷厉风行地推出了很多重大改动。结果呢？结果他拆除了一道切斯特顿栅栏——如果你不知道那道栅栏为什么要立，最好不要拆。马斯克拆了，推特死了。
评：不作不死吧
设想你是一名草根创业者，刚刚在一场投融资对接活动上认识了几名投资经理。他们干练利落，效率至上，在简单了解需求后就当场发出邀请，约定在某个工作日一起过一遍BP，详细了解你的核心团队、产品洞察，市场分析、同类竞品和具体的融资需求，“看有没有机会进一步合作”。
几天后，会谈如约进行。你带着技术合伙人用30分钟熟练地讲解了这份精心调整过好几版的PPT，又回答了投资经理们关心的几个问题。结束后你怕自己没有发挥好，又点开私聊对话框补充了几条你认为很关键的项目要点，并着重地暗示对方最后一页写的融资目标“不是一口价”“可以谈”——对方似乎也很能理解你的心意，很快回复了几个捂嘴笑的表情，告诉你“懂的X总，我们下来研究一下哈”。
可让你没想到的是，这就是你们最后一次有效沟通了。投资经理们大多数时间“在忙”，需要“稍后回复”；偶尔“和团队讨论了一下你的项目”，但需要等“大领导出差回来”再推进到下个阶段。你因此深感焦虑，熟悉的“打水漂感”笼罩着你，开始思考这次该怎么向团队交代，总不能说“这次对方又不感兴趣”吧？甚至在某个emo的夜晚你心中充满了不服，准备翻翻朋友圈，看看对方到底具体在忙什么，或者具体在哪里忙，实在不行可以强行制造一次“偶遇”，却发现对方设置了朋友圈三天可见，惨白的手机屏幕里横亘着一条沉默的白线。
评：创投一体两面，创业都没啥进展，还指望投资方出什么彩
一时间，圈内有关于美元基金降薪、减员的传闻沸沸扬扬。一位北京VC朋友细数身边的例子——他们办公楼上正是曾经高光的TOP美元 PE，从去年就开始无差别减员，到现在还在陆陆续续走人；还有上海一家知名投资机构，今年2月算完账，决定降薪20%，接下来可能要减员40%。
“可以说，你听过的知名美元基金都在降薪。”新材料投资人汪宇告诉我。
他供职于一家双币基金，所在机构在TMT时代颇有名气，直到2022年开始全面转型新能源，“all in 硬科技”。说到这两年同行人来人往，汪宇自嘲道，“很庆幸我很便宜，裁一个美元VP够养三个这样的我。”
评：底垂的果实已经被摘完了，VC也迎来自己的低谷时期
美国多元化数字媒体公司 BuzzFeed 的联合创始人兼首席执行官乔纳·佩瑞蒂（Jonah Peretti）谈论了关闭曾荣获普利策奖的新闻聚合网站 BuzzFeed News 的惊人决定，并探讨了公司如何在媒体行业的未来中重新寻找方向。在接受我们第三次采访的过程中，佩瑞蒂还分享了关于重新定义社交媒体工具、领导私营企业和公共企业的区别，以及如何忽视外界干扰等方面的经验教训。
评：社交媒体的沉浮历程
Ripple Labs与SEC之间耗时长达三年的诉讼终于有落下帷幕的信号。
上周，纽约南区美国地方法院在判决书中认定，使用 XRP 对其他人进行投资，使用 XRP 发放资助，以及用 XRP 向高管进行转账的行为都不被视为证券。
一时间，XRP或将不是证券的消息利好刺激了整个加密市场，比特币、以太坊等主流币种应声上涨，比特币攀升至今年新高31657美元，直接受益币种XRP更是短时拉升超90%，有部分人士甚至认为这是加密在监管方向上的里程碑式胜利。
评：加密市场打了一剂鸡血