金算生电子报38集

  1. 大模型就是「造梦机」,Karpathy一语惊人:人类才是「幻觉问题」根本原因

幻觉,早已成为LLM老生常谈的问题。然而,OpenAI科学家Andrej Karpathy今早关于大模型幻觉的解释,观点惊人,掀起非常激烈的讨论。

在Karpathy看来:从某种意义上说,大语言模型的全部工作恰恰就是制造幻觉,大模型就是「造梦机」。另外,Karpathy的另一句话,更是被许多人奉为经典。他认为,与大模型相对的另一个极端,便是搜索引擎。「大模型100%在做梦,因此存在幻觉问题。搜索引擎则是完全不做梦,因此存在创造力问题」。

评:创造力与幻觉是一体两面

  1. 首个开源MoE大模型发布!GPT-4同款架构,来自欧洲的OpenAI

“取消今晚所有计划!”,许多 AI 开发者决定不睡了。只因首个开源 MoE 大模型刚刚由Mistral AI发布。MoE 架构全称专家混合(Mixture-of-Experts),也就是传闻中 GPT-4 采用的方案,可以说这是开源大模型离 GPT-4 最近的一集了。没有发布会、没有宣传视频,只靠一个磁力链接,就产生如此轰动效果。

评:开源界异军突起的LLM,期待中

  1. GPT-2监督GPT-4,防止AI毁灭人类? OpenAI Ilya超级对齐团队首篇论文出炉

就在刚刚,OpenAI首席科学家Ilya领衔的超级对齐团队,发布了成立以来的首篇论文。团队声称,已经发现了对超人类模型进行实证对齐的新研究方向。

未来超级AI系统对齐的一个核心挑战——人类需要监督比自己更聪明人工智能系统。

评:之前在InstructGPT的Reward Modeling中用过这一招

  1. GPT付费订阅再度开放,AI界的「石油危机」解决现状

北京时间 12 月 14 日凌晨,OpenAI CEO Sam Altman 在 X(Twitter)上发布了一则推文,正式宣告重新开放 ChatGPT Plus 新用户订阅。按照 Altman 的说法,核心原因是 OpenAI 已经找到了更多的 GPU,原文是:we found more gpus. 就在 1 个月前,也是 Altman 宣布暂停 ChatGPT Plus 新用户订阅(20 美元/月,约合人民币 141 元/月),理由是「开发日后使用量的激增超出了我们的承受能力,我们希望确保每个人都有良好的体验。」

即使对于风头正盛的 OpenAI 来说,这也不是一件易事。


评:GPU 是新的石油

  1. 华尔街之狼:寒冬下的Biotech“猎手”

苏醒了,猎杀时刻。今冬初雪已至,寒意加剧。Biotech早已开始了寒冬蛰伏,big pharma则在伺机“捡漏”。因为后者通常手握巨额现金,且都有着强烈的管线补充意愿。

今年以来,虽然也时有大额并购案上演,但细究起来,大药企大幅抄底biotech的时刻并未真正到来。率先开启寒冬交易狂欢的“猎手”,是投资机构。

评:收购可能是为了产业整合,也可能只是为了赚上一笔。

  1. 一个风口的兴衰转瞬:合成生物的万亿征途

过去三年,我们又见证了一个风口的兴衰转瞬。

2020年,合成生物学还是默默无闻的“小透明”,到2021年整个行业迅速爆发,初创企业竞相涌现,一级、二级市场躁动不已,站在2023年年尾,行业的投资环境变得更加理性,融资额骤降。被誉为第三次生物技术革命的合成生物学似乎已经迎来了退潮时刻,尤其是海外元老的Amyris的破产倒闭,如今,已经有人开始担心合成生物的风口过去了,未来的发展充满了不确定性。三年前的行业难点,选品、量产,到了今天依然是行业共性问题,合成生物的万亿征途,依旧需要所有入局者一点点去探索。故事仍在继续。接下来,需要参与者拿出实在成绩,夯实资本对合成生物技术的信仰。

评:潮起潮落

  1. CAR-T疗法的压力时刻:艰难的制造、更高的标准

曾几何时,CAR-T疗法的出现总是与“抗癌神药”相伴。谁也不能否认,这一问世至今不过7年的创新疗法,一度让人们看到了战胜癌症的希望。然而,如今的CAR-T疗法却如履薄冰,最近一个多月以来,几乎所有的CAR-T公司都倍感艰难、煎熬。从11月开始,发生在CAR-T疗法身上的黑天鹅事件,一波未平一波又起。先是FDA疑似提高对CAR-T疗法临床数据的要求,后有CAR-T疗法陷入致癌风波。


评:多留出一些时间来完善CAR-T疗法

  1. 展望2024,a16z发布长文:寒武纪生命大爆发时代来临

前几日,美国顶级 VC ——a16z综合了40多位合伙人观点,发布了一份题为《Big Ideas in Tech for 2024》的报告,其中涉及生物健康、游戏行业、toC应用、加密市场在内的8大领域。

评:可能是未来科技的发展方向

  1. 2023年,大厂不再“扩张优先”

2023年,大厂都在“断舍离”。从腾讯、阿里,再到百度、字节跳动,几乎所有互联网巨无霸都在收缩战线,砍掉一切不必要的业务。这些被大厂砍掉的业务,有的曾被寄予厚望并投入大量资源,发展却不如预期;有的为追逐风口仓促上线,在风口冷却后被无情抛弃;还有的虽潜力无限,但回报周期太长、就连大财大气粗的大厂也忍受不了“延迟满足”,只能忍痛止损……

2023年,互联网的春天并未到来,寒冬依然凛冽,企业愈发谨慎。没有人能说清,这到底是一时的权宜之计,还是不可逆转的产业大势。当大厂不再“扩张优先”,而是“收缩式生存”,曾经疯狂的时代也在徐徐落下帷幕。

评:大环境恶劣的时期,生存第一

  1. 播客十年,疲惫与希望同在

长期记录播客动态,我们对行业的变化总是比较敏感。最近我们经常频频感慨各个平台对播客态度的转变。喜马拉雅的slogan变成“听书 听课 听播客”,荔枝重新启用sloan“人人都是播客”,网易云音乐开始扶持音乐播客,微博、微信、小红书开通音频功能。

音频平台、社交媒体,都开始意识到播客的重要性。更多收听渠道,更多创作者和听众涌入,播客前景愈发明朗。作为行业发展的见证者,内心深处的真实想法是,乐观,但很有限。

评:播客的发展历程

发表评论

您的电子邮箱地址不会被公开。