金算生电子报23集

  1. Transformer全新里程碑,诞生6年,开山之作被引近8万,没夺下NeurIPS最佳论文,却彻底改变AI界

2017年6月12日,Attention is All You Need,一声炸雷,大名鼎鼎的Transformer横空出世。

它的出现,不仅让NLP变了天,成为自然语言领域的主流模型,还成功跨界CV,给AI界带来了意外的惊喜。

到今天为止,Transformer诞生6周年。而这篇论文被引数高达77926。

评: 关于transformer模型的发展历程,TL;DR

  1. Understanding GPT tokenizers

Large language models such as GPT-3/4, LLaMA and PaLM work in terms of tokens. They take text, convert it into tokens (integers), then predict which tokens should come next.

Playing around with these tokens is an interesting way to get a better idea for how this stuff actually works under the hood.

OpenAI offer a Tokenizer tool for exploring how tokens work


评:解释GPT token原理

  1. Meta AI 大招

DINOv2分割检索无所不能

LeCun世界模型出场!Meta震撼发布首个「类人」模型,理解世界后补全半张图,自监督学习众望所归

Meta生成式AI竞赛下一站:让开发者靠开源大模型挣钱

  1. ChatGPT是劫杀谷歌的“灭霸响指”?

短短半年,全球巨头之间的AI大战也有了多轮回合了。双方亮剑的频率也是越来越高,就说这两天,ChatGPT再次升级,模型优化、价格下降、公开GPT-4给更多的用户 …… 

从认知度/普及率来看,微软和OpenAI暂时完胜。巨头的对抗分布在多个领域,聊天、翻译、作图、工作助手等等,但市场上最有话题度的还是在AI对传统搜索引擎的替代和颠覆。 

这是因为,“传统搜索引擎”基本可以和“谷歌”划等号。而作为市值1.6万亿美金,60%收入来源于搜索广告的谷歌说,如果传统搜索引擎被AI颠覆,即意味着原先的商业模式需要重塑。而巨头每一次的生死存亡时刻往往都能引来市场的热议。 

譬如在此刻,大家争议的焦点是——在牌面打散后新战局下,谷歌是否还能在数字广告市场保持原先的垄断地位?

评:搜索引擎的历史和目前困境

  1. 全球独角兽 | Hugging Face:在人工智能的大航海时代悄悄地造一艘方舟

几天前,Hugging Face旗下“明星”开源库Transformers的Star数量超过了100,000。

而且,Transformers应该是GitHub上最快达成这一里程碑的开源项目。

毋庸置疑地是,Hugging Face 绝对是这个时代最耀眼的AI公司之一。

过去一年,Hugging Face的搜索指数甚至远超生成式AI领域的明星公司Stability AI。

评:AI领域的当红炸子鸡,拭目以待。

  1. 引入“GIPR/GLP-1R”双靶点创新药,中国生物制药布局千亿减重市场

自利拉鲁肽和司美格鲁肽成为“爆款”后,减重赛道被视为生物医药的新蓝海。

6月13日,港股上市企业中国生物制药(01177.HK)对外宣布,已与鸿运华宁(杭州)生物医药有限公司达成合作协议,共同开发双靶点减重创新药GMA106,鸿运华宁将从交易中获得最高5700万美元的首付款与里程碑付款等;而中国生物制药则将得到GMA106在大中华区的独家开发和商业化权益,至此也正式进军千亿减重市场。

据了解,GMA106是一种GIPR(胃抑制多肽受体)拮抗/GLP-1R(胰高血糖素样肽-1受体)激活剂,利用M-Body技术可使其在特异性阻断GIPR信号通路的同时激活GLP-1R,通过多通路协同达到比单GLP-1受体激动剂更好的减肥效果,降低单位体重脂肪含量的同时,不降低肌肉含量。

评:之前了解这家公司的CEO和董事长是两80后姐弟,一个家族企业能这么放手也是胆识过人。

  1. 艾伯维和百济神州:踏不进同一条河流

药企之间,没有什么比一场成功的专利战,更能将对手一击致命。但同时,被狙击的一方,绝不会轻易束手就擒,往往会用尽了全力反抗。

所以,更多时候,专利战的开打,意味着一场拉锯战就此开始。不少情况下,专利战的结局都是,旷日持久的对峙后以和解告终。

过往,专利战的主角往往是海外药企。但随着国内药企,在全球创新药研发中的地位越来越重要,感受到威胁的海外药企,开始将国内药企纳入专利狙击名单。

最新被狙击的国内药企是百济神州

评:专利,是给天才之火加上利润之油

  1. 为了“卡”住辉瑞的千亿难题,中国人拼了

曾被视为生物医药“革命性”变革的mRNA疫苗,用三年时间已经走完了从一战“封神”到跌回尘埃的全过程。

在此过程中,一个很小的“卡点”在中国火了,甚至卷起来了,这个现象在全球独一无二。这一切,从美国疫苗厂商莫德纳在中国建厂说起。

5月24日,莫德纳在上海投资布局的计划开始落地,根据企查查信息,他们在上海注册了生物科技公司,注册资金1亿美元。

“Moderna(莫德纳)要来上海建厂了,相当于特斯拉来了,油车怎么办?”

当谈到mRNA疫苗在中国热度降低时,回国创业三年的剂泰医药CEO赖才达这样告诉虎嗅——莫德纳来了,传统疫苗厂商怎么办?莫德纳是mRNA疫苗研发的巨头与鼻祖。

评:mRNA疫苗作为第四代疫苗研发技术在这次新冠病毒防疫独占鳌头,国内还是在用第一代的灭火疫苗。

  1. 脑机接口:“黑科技”的过去、现在和未来

5月25日,马斯克旗下的脑机接口公司Neuralink宣布,经过几个月的交涉,它终于获得了美国食品药品监督管理局(Food and Drug Administration,简称FDA)的批准,马上会启动其首个人体实验。这意味着,该公司将脑机接口技术商业化的进程会进入加速阶段。

多年前,马斯克就对脑机接口技术非常看好,认为它会在改进人机交互体验、帮助人们治疗某些神经系统疾病方面具有很大的潜力。2016年,他出资成立了Neuralink公司,致力于脑机接口技术的研究及其商业化。

评:介绍脑机接口简史

  1. 手机操作系统的沉浮往事(上)

移动终端操作系统,也就是指手机、平板电脑等设备所使用的操作系统。

在移动互联网高度发达的今天,我们使用移动终端操作系统的时长,可能已经远远超过了Windows等桌面操作系统。

那么,你真正了解这些移动终端操作系统吗?在长达半个世纪的手机发展历程中,涌现过哪些经典的移动终端操作系统?又有哪些系统已经被时代淘汰?

接下来,我们开启今天的故事。

评:手机OS的发展历程介绍

发表评论

您的电子邮箱地址不会被公开。