生成式人工智能正在迅速拓宽其应用边界，你可能以为它还只是一个聊天机器人，实际上，生成式AI已经能“造”芯片了。近日，纽约大学坦登工程学院的研究人员通过与AI“对话”，首次实现了由人工智能来设计一种微处理器芯片。
该团队用“史无前例”描述此项研究。据称，这项成果的发布表明——生成式人工智能在硬件设计领域具备极高的潜在应用价值，这不仅会对整个半导体芯片的研发起到加速作用，同时意味着“高不可攀”的半导体芯片设计门槛也会降低，甚至并非专门拥有该领域技术技能的人也可以参与其中。
作为参与者之一，纽约大学坦登工程学院电气与计算机工程系、纽约大学网络安全中心助理教授哈蒙德・皮尔斯博士（Dr. Hammond Pearce）自己坦言，“我根本不是芯片设计专家，这是我设计的第一块芯片，这也正是为什么我觉得它会如此令人印象深刻的原因。”目前该项研究已经发布在arxiv预印本平台上，论文题为ChipChat：对话式硬件设计的机遇与挑战
评：这才叫创新，不像国内在同一业务卷来卷去。
最初吸引我对开源语言模型关注的是 Stanford Alpaca，它展示出了一个低成本微调过的指令遵循可以做到不错的问答对话效果，还有端侧运行、私有化部署以及降低调用成本等方面的潜力。在 3 月份 Alpaca 问世后的一个月里（也就是 LLaMA 泄露的一个多月后），这类模型又出来很多，围绕着它们的炒作达到顶峰，所有人期待的 LLM Stable Diffusion 时刻似乎就快要到了。
在团队出发前硅谷的前一天晚上，我在 YouTube 上刷到 OpenAI 元老 John Schulman 在伯克利有关 RLHF 和 Hallucination 的讲座，他一针见血地指出这类开源模型的做法只是“形似”，实际上降低了模型的 Truthfulness。之后的硅谷之旅我集齐了这个生态的不同视角，对开源社区的现状有了更加清醒的认知——尽管 Stability AI 也非常积极地入场了 LLM，但是这里的 Stable Diffusion 时刻可能仍未到来。
这里的卡点有很多：缺少明确的开源扛把子团队/公司、没有被普遍认可的标准化测试、开源团队都缺高质量数据、蒸馏 ChatGPT 进行指令微调的做法有许多局限、Query 和用户反馈数据飞轮难以转起来、多重的不可商用限制……
不过非常鼓舞人心的是开源社区也非常快地意识到了这些问题，Alpaca Farm 试图解决 RLHF 和标准化测试的问题，OpenLLaMA 和 RedPajama INCITE 等项目开始从预训练环节攻克可商用问题，微调的方向也更百花齐放。
不同的角色在此刻对于 LLM 开源社区的前景信心不一，本文试图从我的硅谷见闻出发，提供对 6 个常见迷思的一些思考，希望对整个社区也有所帮助和启发。我自己非常期待在接下来见到智能跟可商用问题都解决得不错的 Base Model、被普遍认可的开源模型标准化测试和更符合 LLM 时代的开源协议出现
评：开源大模型还有很长的路要走
过去2个月，来自UC伯克利的研究人员给大语言模型们安排了一个擂台——Chatbot Arena。
GPT-4等大语言模型玩家打起了「排位赛」，通过随机battle，根据Elo得分来排名。这一过程中，每当一个用户访问并使用网站，就需要同时让两个不同的模型跑起来。
他们是如何做到的？这不，就在今天，UC伯克利重磅开源了世界最快LLM推理和服务系统vLLM。简之，vLLM是一个开源的LLM推理和服务引擎。它利用了全新的注意力算法「PagedAttention」，有效地管理注意力键和值。配备全新算法的vLLM，重新定义了LLM服务的最新技术水平：与HuggingFace Transformers相比，它提供高达24倍的吞吐量，而无需进行任何模型架构更改。值得一提的是，「小羊驼」Vicuna在demo中用到的就是FastChat和vLLM的一个集成。正如研究者所称，vLLM最大的优势在于——提供易用、快速、便宜的LLM服务。这意味着，未来，即使对于像LMSYS这样计算资源有限的小型研究团队也能轻松部署自己的LLM服务。现在，所有人可以在GitHub仓库中使用一个命令尝试vLLM了。论文随后也会发布。
评：不错的节省成本的方向
目前开源的LLM大模型，要想比较流畅地进行部署体验，离不开 GPU 算力。本文介绍基于阿里云的机器学习平台PAI来免费体验一些开源大模型。
评：白嫖一下阿里云上的GPU资源
奇袭ChatGPT！六大独角兽融资火热，与谷歌、OpenAI理念不合。
转眼之间，ChatGPT已狂飙200余天。在这场空前紧迫的战事中，从科技巨头到创企轮番下场，力图在新兴技术浪潮中抢占先手棋。
尽管ChatGPT仍在站在这一轮狂热的峰顶，但它已不再是产业界、投资界追逐的唯一AI明星。据智东西统计，包括OpenAI在内，主攻大型语言模型和类ChatGPT产品研发的海外AI独角兽企业已至少有7家，估值从10亿到290亿美元不等。
评：大模型百家争鸣的时代
ChatGPT 能够自动生成一些读起来表面上甚至像人写的文字的东西，这非常了不起，而且出乎意料。但它是如何做到的？为什么它能发挥作用？我在这里的目的是大致介绍一下 ChatGPT 内部的情况，然后探讨一下为什么它能很好地生成我们认为是有意义的文本。我首先要说明一下，我将把重点放在正在发生的事情的大的方向上，虽然我会提到一些工程细节，但我不会深入研究它们。（我所说的实质内容也同样适用于目前其他的 “大型语言模型” LLM 和 ChatGPT）
评：太硬核了，小心食用
开源社区围绕ChatGPT这个核心模型，能玩出哪些花来？这是个很有吸引力的问题，ossinsight收集了最近一个月Github上关于ChatGPT主题的应用数据表现，给出了一份榜单。我对这份榜单非常感兴趣，平常我的周刊中ChatGPT应用也占据了大多数，接下来我将对榜单上的项目做个简单的介绍。
评：收集了非常不错的应用
谁说生成图像、视频一定要靠AI？
普林斯顿大学新出的神器，可无限生成逼真3D世界，特别强调“No AI”。
评：反AI生成技术
2016 年 1 月的一天，黄仁勋拎了一个箱子，率领团队如约来到特斯拉位于加州的办公室，见到了马斯克。
这个箱子里，装的是英伟达的初代自动驾驶计算平台 DRIVE PX；把它带过来，是因为英伟达和特斯拉都希望验证一下它的实际能力。于是，马斯克用它跑了几遍当时 Autopilot 团队训练出来的一个神经网络模型，能跑起来，效果还挺满意。
评：自动驾驶与AI相辅相成
2007年，是手机市场发生历史性转折的一年。
这一年的1月9日，在Macworld 2007大会上，史蒂夫·乔布斯正式发布了第一代iPhone。
iPhone的问世，是极具震撼性的事件。它宣告了触屏智能机时代的全面到来，也标志着手机市场的重新洗牌。
评：手机OS下篇
芯片承载着人类最先进的科技。如今中国已成为芯片设计强国，但在芯片制造上却处处被卡，芯片制造究竟难在哪里？
时至今日，芯片已形成一套非常成熟专精的制造流程[1]，它并非简单地一步到位，而是分为存在一定时间间隔和空间次序的多个阶段[2]。大体来说，芯片制造分为晶圆加工制造、前道工艺（芯片加工）及后道工艺（封装测试）三大环节，我国主要集中切入晶圆加工制造、后道封装测试两个环节，前道工艺大部分高端设备和材料基本均处于空白状态，所以高端芯片往往需要进口。[3]
本文是“果壳硬科技”策划的“国产替代”系列第二十四篇文章，关注半导体制造全流程。在本文中，你将了解到：半导体制造全流程的技术细节，半导体制造全流程中涉及哪些设备和材料，半导体制造全流程中国内外的发展情况。
评：芯片的一生
“几天时间没看后台，今天突然发现有15个待下单。”外贸工厂老板齐新立对虎嗅说，最近他刚刚加入TikTok推出的全托管计划，几天时间已经出单。
TikTok推出全托管模式是近段时间出海圈关注的焦点。目前，英国站和沙特站已开放，有合作意向的商家可在审核之后通过邀请码完成入驻。而备受瞩目的美国市场全托管，据称将在7月开放。
所谓全托管模式，即商家将产品供应至配套的广州仓，而TikTok官方负责上架、营销、发货、售后等各项运营，目前平台政策为0保证金、0仓储物流售后成本，并在每月1日与16日结算。
“这种模式更适合工贸一体的厂家，但对跨境卖家就不利了。”TikTok资深跨境卖家汪起川对虎嗅说，自TikTok全托管模式推出后，他就开始做好缩减团队的打算。
实际上，TikTok推出全托管计划之前，国内其他跨境电商巨头也都推出了类似模式。不少业内人士也调侃道，TikTok的这步棋，颇有Temu、SHEIN的味道。
“跨境电商平台托管模式，实际上就是半自营，这是趋势所在，但几家欢喜几家忧了。”汪起川说道。
评：互联网公司当之无愧的卷王
前两天，贝莱德（Black Rock）的CEO Larry Fink接受日本经济新闻采访时表示，当前“出现资金从中国股市转向日本股市的趋势”，日经转述道，“对于转变疫情防控措施、推进经济复苏的中国，市场当初期待很高，但是‘乐观正在被推翻’，这是因为中国国内消费并没有像市场预期的那样恢复。”所以，海外投资者对中国中长期增长放缓表达出担忧。（《贝莱德CEO：资金从中国转向日本股》）再加上巴菲特大举押宝日本商社，全球资金投资日本的热潮开启。
这其中有没有地缘政治安全对资金流动的影响？有没有G2博弈限制美元投资对资金流动的影响呢？当然是有的。这两方面在之前我们已经深入讨论过，在本文就不展开。
评：消费下行是个趋势
“95后”杨星早早拥有了自己的房产——大学还没毕业，父母就帮他付了一套房子的首付。
这意味着，毕业后，他每月要还8000元贷款。由于买房时还没交房，他只能同时在外租房，为了省钱，和男性朋友睡在一张床上。即便这样，每月还完房贷再交房租，手上可支配的也只有几百元。在父母的帮助下还完房贷后，他又开始为了装修攒钱。终于有一天，杨星意识到，既然房子都是自己的了，还不如先住毛坯房。
评：自己房子没钱装修，住毛胚房也行