幻觉,早已成为LLM老生常谈的问题。然而,OpenAI科学家Andrej Karpathy今早关于大模型幻觉的解释,观点惊人,掀起非常激烈的讨论。
在Karpathy看来:从某种意义上说,大语言模型的全部工作恰恰就是制造幻觉,大模型就是「造梦机」。另外,Karpathy的另一句话,更是被许多人奉为经典。他认为,与大模型相对的另一个极端,便是搜索引擎。「大模型100%在做梦,因此存在幻觉问题。搜索引擎则是完全不做梦,因此存在创造力问题」。
评:创造力与幻觉是一体两面
“取消今晚所有计划!”,许多 AI 开发者决定不睡了。只因首个开源 MoE 大模型刚刚由Mistral AI发布。MoE 架构全称专家混合(Mixture-of-Experts),也就是传闻中 GPT-4 采用的方案,可以说这是开源大模型离 GPT-4 最近的一集了。没有发布会、没有宣传视频,只靠一个磁力链接,就产生如此轰动效果。
评:开源界异军突起的LLM,期待中
就在刚刚,OpenAI首席科学家Ilya领衔的超级对齐团队,发布了成立以来的首篇论文。团队声称,已经发现了对超人类模型进行实证对齐的新研究方向。
未来超级AI系统对齐的一个核心挑战——人类需要监督比自己更聪明人工智能系统。
评:之前在InstructGPT的Reward Modeling中用过这一招
北京时间 12 月 14 日凌晨,OpenAI CEO Sam Altman 在 X(Twitter)上发布了一则推文,正式宣告重新开放 ChatGPT Plus 新用户订阅。按照 Altman 的说法,核心原因是 OpenAI 已经找到了更多的 GPU,原文是:we found more gpus. 就在 1 个月前,也是 Altman 宣布暂停 ChatGPT Plus 新用户订阅(20 美元/月,约合人民币 141 元/月),理由是「开发日后使用量的激增超出了我们的承受能力,我们希望确保每个人都有良好的体验。」
即使对于风头正盛的 OpenAI 来说,这也不是一件易事。
评:GPU 是新的石油
苏醒了,猎杀时刻。今冬初雪已至,寒意加剧。Biotech早已开始了寒冬蛰伏,big pharma则在伺机“捡漏”。因为后者通常手握巨额现金,且都有着强烈的管线补充意愿。
今年以来,虽然也时有大额并购案上演,但细究起来,大药企大幅抄底biotech的时刻并未真正到来。率先开启寒冬交易狂欢的“猎手”,是投资机构。
评:收购可能是为了产业整合,也可能只是为了赚上一笔。
过去三年,我们又见证了一个风口的兴衰转瞬。
2020年,合成生物学还是默默无闻的“小透明”,到2021年整个行业迅速爆发,初创企业竞相涌现,一级、二级市场躁动不已,站在2023年年尾,行业的投资环境变得更加理性,融资额骤降。被誉为第三次生物技术革命的合成生物学似乎已经迎来了退潮时刻,尤其是海外元老的Amyris的破产倒闭,如今,已经有人开始担心合成生物的风口过去了,未来的发展充满了不确定性。三年前的行业难点,选品、量产,到了今天依然是行业共性问题,合成生物的万亿征途,依旧需要所有入局者一点点去探索。故事仍在继续。接下来,需要参与者拿出实在成绩,夯实资本对合成生物技术的信仰。
评:潮起潮落
曾几何时,CAR-T疗法的出现总是与“抗癌神药”相伴。谁也不能否认,这一问世至今不过7年的创新疗法,一度让人们看到了战胜癌症的希望。然而,如今的CAR-T疗法却如履薄冰,最近一个多月以来,几乎所有的CAR-T公司都倍感艰难、煎熬。从11月开始,发生在CAR-T疗法身上的黑天鹅事件,一波未平一波又起。先是FDA疑似提高对CAR-T疗法临床数据的要求,后有CAR-T疗法陷入致癌风波。
评:多留出一些时间来完善CAR-T疗法
前几日,美国顶级 VC ——a16z综合了40多位合伙人观点,发布了一份题为《Big Ideas in Tech for 2024》的报告,其中涉及生物健康、游戏行业、toC应用、加密市场在内的8大领域。
评:可能是未来科技的发展方向
2023年,大厂都在“断舍离”。从腾讯、阿里,再到百度、字节跳动,几乎所有互联网巨无霸都在收缩战线,砍掉一切不必要的业务。这些被大厂砍掉的业务,有的曾被寄予厚望并投入大量资源,发展却不如预期;有的为追逐风口仓促上线,在风口冷却后被无情抛弃;还有的虽潜力无限,但回报周期太长、就连大财大气粗的大厂也忍受不了“延迟满足”,只能忍痛止损……
2023年,互联网的春天并未到来,寒冬依然凛冽,企业愈发谨慎。没有人能说清,这到底是一时的权宜之计,还是不可逆转的产业大势。当大厂不再“扩张优先”,而是“收缩式生存”,曾经疯狂的时代也在徐徐落下帷幕。
评:大环境恶劣的时期,生存第一
长期记录播客动态,我们对行业的变化总是比较敏感。最近我们经常频频感慨各个平台对播客态度的转变。喜马拉雅的slogan变成“听书 听课 听播客”,荔枝重新启用sloan“人人都是播客”,网易云音乐开始扶持音乐播客,微博、微信、小红书开通音频功能。
音频平台、社交媒体,都开始意识到播客的重要性。更多收听渠道,更多创作者和听众涌入,播客前景愈发明朗。作为行业发展的见证者,内心深处的真实想法是,乐观,但很有限。
评:播客的发展历程