近日, Meta 正式发布了全新的 Llama 3 模型,还一次上新了 8B 和 70B 两个参数版本。
它的训练数据集比 Llama 2 整整大了 7 倍,达到了 15T ,容量也是上一代的两倍,支持 8K 上下文长度。
目前,它们已经接入了 Meta 最新发布的智能助手 Meta AI 中,所有人都可以免费使用。
这两个模型同样全面开源,开发者可以免费下载,并且用于商用。 ( 不过要注意的是,如果 MAU 超过 7 亿,你得申请特殊商业许可 )
评:开始着手评测
最大开源模型,再次刷爆纪录!Snowflake的Arctic,以128位专家和4800亿参数,成为迄今最大的开源模型。它的特点,是又大又稀疏,因此计算资源只用了不到Llama 3 8B的一半,就达到了相同的性能指标。
就在刚刚,拥有128位专家和4800亿参数的Arctic,成功登上了迄今最大开源MoE模型的宝座。
它基于全新的Dense-MoE架构设计,由一个10B的稠密Tranformer模型和128×3.66B的MoE MLP组成,并在3.5万亿个token上进行了训练。
不仅如此,作为一个比「开源」更「开源」的模型,团队甚至把训练数据的处理方法也全给公开了。
评:比谁开源更彻底
继上周发布强大的全新开源 AI 模型 Llama 3 之后,由马克·扎克伯格创立并主导的 Meta 公司如今又带来另一条震撼行业的公告:为 Meta Quest 系列头显(包括最新的 Meta Quest 3)提供支持 Horizon 操作系统将向第三方厂商开放,供其据此构建硬件。
评:单干快干不下去,放开加盟
以微软为例,据该公司内部员工透露,微软正在积极开发一款新软件,其强大功能包括根据客户的订单历史自动创建、发送并跟踪发票,甚至能够用另一种语言重写应用程序代码,并验证其是否按预期运行。这款新软件将借助OpenAI的先进技术进行升级,进一步完善微软现有的Copilots套件,该套件目前主要用于会议总结或草拟电子邮件等工作。据悉,微软计划在下个月的年度Build开发者大会上正式公布其中的部分新功能。
这些功能均属于被称为智能体(Agent)的范畴,这是一种能够在最少的人类干预下实现目标的人工智能软件。OpenAI、谷歌以及Facebook母公司Meta都在积极研发各自的智能体。尽管人工智能聊天机器人以其生成真实答案或向程序员推荐代码行的能力赢得了业界的广泛赞誉,但客户们普遍认为,要想进一步释放投资潜力,它们仍需要能够自动化处理更复杂任务的软件。
评:大模型太卷了,另辟新的战线
4月23日,微软在官网开源了小语言模型(SLM)——Phi-3-mini。这是微软Phi-3系列模型推出的首个模型。
Phi-3-mini作为微软Phi系列的第四代产品,以其38亿参数和3.3T tokens的庞大训练数据量,在语言、推理、编码和数学基准测试中超越了众多数百亿参数规模的模型。
评:卷模型参数不如卷数据质量
第三方 iOS 应用商店 AltStore 看上去“难掩兴奋”,在其 X 平台官方账号上发文:侧载登陆欧盟成员国,终于等到了!
AltStore 官微宣布,该应用目前已经启动了将自己“合法化”的程序,欧洲的朋友们可以首次以正规的形式下载 Delta 和其他 AltStore 应用程序了。“各位,三月再见!”
评:打破appstore垄断地位
一转眼,中国互联网,已然步入了而立之年。
1994年4月20日,北京中关村地区教育与科研实施示范网络(NCFC),通过美国Sprint公司接入国际互联网的64K专线正式开通,顺利实现了与Internet的全功能连接。至此,中国正式成为了国际承认、全功能接入Internet的国家。
评:不如之前那么生机勃勃
AI,能够重写人类基因组了?
就在刚刚,初创公司Profluent宣布,完全由AI设计的基因编辑器,已经成功编辑了人类细胞中的DNA。也就是说,世界上首个使用AI从头设计的分子级精确基因编辑器诞生了。
评:生成式AI基因编辑
《自然》期刊刚刚上线的一项研究将刷新我们有关癌症发生的认识。在这项研究中,来自法国国家科学研究中心(CNRS)和蒙彼利埃大学的科学家发现,即便驱动基因没有发生突变——即DNA序列上的变异,仅仅表观遗传上的变异也足以导致细胞癌变。
评:基因本身就安装自我摧毁的装置
当地时间4月23日,美国国会参议院投票通过一项议案修正案,涉及一揽子价值950亿美元的对外援助法案,包括向乌克兰提供超600亿美元的援助,以及向以色列提供260亿美元的援助。该法案还涉及要求字节跳动剥离TikTok。
美国总统拜登随后就参议院通过援乌援以法案发表声明称,这一法案的通过“响应了历史的召唤”,一旦该法案明天送达办公桌,他将签署该法案使之成为法律。
评:看瓜都看了五年多才从法律上封禁,不像威权政府一样分分钟下架