浅谈Llama3.1，从结构、训练过程、影响到数据合成
Llama3.1系列模型的开源，真让大模型格局大震，指标上堪比最好的闭源模型比如GPT 4o和Claude3.5，让开源追赶闭源成为现实。 这里给大家分享一篇俊林兄（@知乎张俊林）的一篇解读，主要对LLaMA3.1的模型结构、训练过程进行分…
8 0 0
声浪
全球首个开源GPT-4o全面发布 ！
6月底，OpenAI宣布推迟发布语音功能和GPT5，7月3日晚，法国一个仅有 8 人的非营利性 AI 研究机构 —Kyutai，发布震惊世界的模型Moshi，具备听、说、看的多模态功能。（访问链接在文章末尾） 更加震撼的是他们在短短 6 个…
27 0 0
思路打开！腾讯造了10亿个角色，驱动数据合成！7B模型效果打爆了
夕小瑶科技说 原创作者 | 谢年年 世界由形形色色的角色构成，每个角色都拥有独特的知识、经验、兴趣、个性和职业，他们共同制造了丰富多元的知识与文化。 所谓术业有专攻，比如AI科学家专注于构建LLMs,医务工作者们共建庞大的医学知识库，数学家…
26 0 0
OpenAI停服，国产大模型免费用！开发者Token自由实现了
今天凌晨，OpenAI 突然宣布终止对中国提供 API 服务，进一步收紧国内开发者访问 GPT 等高水平大模型。国内开发者真是太难了。 好在，随着开源大模型水平越来越高，开发者已经有很多不错的 “平替”，比如 Qwen2、DeepSeek…
26 0 0
GPT-4o攻破ARC-AGI无法被挑战的神话！71%准确率成新SOTA
号称不可能轻易被击败的AGI基准ARC-AGI被GPT-4o撼动，GPT-4o以在公共测试集50%、在训练集71%的准确率成为了新的SOTA！ ARC-AGI是唯一可以用来衡量通用人工智能进展的基准，创造者François Chollets…
28 0 0
互联网大厂 AI App 大横评：元宝、通义、豆包和文心一言哪家强？
腾讯终于也发布了to C的AI大模型APP——元宝，至此国内的四家大厂的AI大模型APP总算是集齐了。 有请各家选手登场：百度的文心一言、阿里巴巴的通义、字节跳动的豆包和腾讯的元宝。 （本次测试每题4分，满分20分） 1、体验与功能对比 在…
22 0 0
GPT-4o实时语音方案提供商Livekit开源voice agent：轻松处理音视频流
项目简介 代理框架设计用于构建在服务器上运行的实时、可编程参与者。轻松访问 LiveKit WebRTC 会话并处理或生成音频、视频和数据流。 该框架包括用于常见工作流程的插件，例如语音活动检测和语音转文本。 代理与 LiveKit 服务器…
32 0 0
手机可跑，3.8B参数量超越GPT-3.5！微软发布Phi-3技术报告：秘密武器是洗干净数据
Scaling Laws再次失效？微软最新的phi-3-mini模型，只用3.8B模型就击败了一众7B老大哥，用iPhone14每秒可生成12个tokens！ 过去几年，借助Scaling Laws的魔力，预训练的数据集不断增大，使得大模型…
28 0 0
全球最大开源模型再刷爆纪录！4800亿参数MoE击败Llama 3、Mixtral
最大开源模型，再次刷爆纪录！Snowflake的Arctic，以128位专家和4800亿参数，成为迄今最大的开源模型。它的特点，是又大又稀疏，因此计算资源只用了不到Llama 3 8B的一半，就达到了相同的性能指标。 就在刚刚，拥有128位…
39 0 0
微软发布Phi-3，性能超Llama-3，可手机端运行
Llama-3 刚发布没多久，竞争对手就来了，而且是可以在手机上运行的小体量模型。 本周二，微软发布了自研小尺寸模型 Phi-3。 新模型有三个版本，其中 Phi-3 mini 是一个拥有 38 亿参数的语言模型，经过 3.3 万亿 tok…
36 0 0