马斯克大模型创始团队曝光！华人超三分之一，清华浙大校友在列
毫无预警地，马斯克刚刚在推特突然宣布 ——成立公司 xAI，目标是理解宇宙的真实本质。
更多消息被创始团队成员透露，xAI，大概率也是锚定大模型领域：
为大型神经网络开发“万物理论”，将成为 AI 提升到新水平的核心攻关点。
https://img.ithome.com/newsuploadfiles/2023/7/5e33fae9-6a6e-4c52-86c0-8616548d2463.png
一同对外亮相的还有创始团队，包括马斯克在内，共 12 人。
xAI 官网介绍，这支由马斯克领导的轻骑兵，组成人员有谷歌学术超过 20 万引用的大佬，还有 ChatGPT 的项目组成员、AlphaStar 的背后参与者、Transformer-XL 的共同作者等。
这些人曾在 OpenAI、DeepMind、微软和特斯拉等公司，以及多伦多大学等学术机构任职。
而且，华人在其中占据了多个席位，备受瞩目。
他们每个人的推特后面，都跟着醒目的 xAI 公司 logo 图标。
https://img.ithome.com/newsuploadfiles/2023/7/f99b12d4-290f-4d65-bb40-f041abd89efc.png
如此阵仗，难怪有网友“惊讶”分享自己的新发现：
哦吼，这是一家员工 100% 使用推特的 AI 初创公司哎！
https://img.ithome.com/newsuploadfiles/2023/7/a0ab0a00-6847-4367-8ae3-bfc12c877904.png
虽然由马斯克带队，但 xAI 将会是一个独立的公司。
不过，团队还是会和 X（Twitter）、特斯拉、SpaceX 等马老板旗下的其他公司，展开密切的合作关系。
消息来得太过突然，不仅打了 OpenAI、Anthropic 等公司一个措手不及，连吃瓜群众都兴奋中带着懵圈。
由于受命于同一个大老板，有推特在职员工都激动凑热闹：
我有一个朋友，他让我帮忙问问，能不能同时在推特和 xAI 工作啊？（doge）
https://img.ithome.com/newsuploadfiles/2023/7/be04cb59-503e-48fd-8d01-b25ba183910c.png
LinkedIn 创始人霍夫曼也发话，他觉得马斯克是很有能力推动 AI 发展的。
不过，霍夫曼同时还是 OpenAI 的前董事会成员，以及风头正劲的 AI 初创公司 Inflection AI 的联合创始人。
面对此情此景，他不由得还问出了心中疑惑：
咱就是说，当马斯克自己下场，试图加快 AI 发展的时候，我就有点怀疑他之前闹着要全球 AI 暂停发展 6 个月，初衷到底是个啥。
https://img.ithome.com/newsuploadfiles/2023/7/11b048b3-5fa0-4328-8e87-e3576fadd263.png
华人占创始团队名单三分之一xAI 简单到不行（只有一页）的官网上，最引人关注的就是列出的 12 人名单。
量子位还注意到，这 12 个人中，有多人都是华人面孔。
包括 Yuhuai（Tony） Wu、Greg Yang、Guodong Zhang 和 Zihang Dai 等。
吴宇怀 Yuhuai（Tony） Wu，斯坦福大学博士后，博士毕业于多伦多大学；
杨格 Greg Yang，在哈佛本科毕业后，在微软研究院工作；
张国栋 Guodong Zhang，多伦多大学硕博毕业，本科时是浙大的学生；
戴子航 Zihang Dai，先后就读于清华大学、CMU，博士毕业后在谷歌研究院上班。
Jimmy Ba，多伦多大学副教授，师从图灵奖得主 Hinton，同时也是 Adam 优化器的开发者。
https://img.ithome.com/newsuploadfiles/2023/7/05e39def-fc40-4e82-b1ec-eefdcab661f4.jpg
来整体看看 xAI 官网是怎么介绍这 12 个人的过往经历的 ——
整个团队由马斯克本人亲自领导。
其余创始团队成员曾在 DeepMind、OpenAI、Googel Research，微软研究院，特斯拉和多伦多大学工作过。
这些人曾在 Transformer-XL，Autoformalization，the Memorizing Transformer，Batch Size Scaling，and μTransfer 方面，担任团队领导角色或做出过学术贡献。
经他们之手的项目，有 AlphaStar，AlphaCode，Inception，Minerva，GPT-3.5 和 GPT-4 等等。
更多消息，官网上也没有表露。
量子位顺藤摸瓜探了探他们入职 xAI 前的履历，并按照此前经历做了简单的梳理。
（仅含 11 名创始团队成员，马斯克其人本文不多作详细介绍）。
OpenAI 前员工：1 人
Kyle Kosic，OpenAI 前工程师，研究兴趣是自动化、可扩展性和分布式计算。
再往前看，他曾在一家制造模拟云平台的公司 OnScale 工作。
3 个月前，Kyle 还在 Linkedin 上激情转发 ChatGPT Plugin 的动态文章。
https://img.ithome.com/newsuploadfiles/2023/7/392437bc-e7c7-4a2c-ba38-dbc220ab1738.png
DeepMind 前员工：4 人
xAI 创始团队中，一共有 4 人曾是 DeepMind 的全职员工。
张国栋，前 DeepMind 研究科学家，xAI 华人面孔之一。
浙江大学信息工程专业本科毕业后，他在多伦多大学获得博士学位，并且曾在谷歌大脑和微软研究院实习。研究方向主要是 ML 和 AI，目前专注于训练、调优和对齐大型语言模型。
曾在 ICML、ICLR 和 NeurIPS 多个计算机国际顶会发表过论文。
https://img.ithome.com/newsuploadfiles/2023/7/7e959418-d1ea-4362-8e31-c8bbd8521e51.png
Igor Babuschkin，一个在 DeepMind 和 OpenAI 反复横跳的人。
2018 年起，他在 DeepMind 工作了 3 年多，是 AlphaStar（DeepMind 星际争霸 AI 模型）登上《Nature》论文的主要作者之一。
而后，他跳槽到 OpenAI。
据介绍，这期间，Igor 是 ChatGPT 项目组的成员。
但是去年 4 月，他又以资深主任工程师的身份回到了 DeepMind。
https://img.ithome.com/newsuploadfiles/2023/7/5c783660-7ed9-426a-8c8d-cacb930558b4.png
Manuel Kroiss，和上面这位一样，也是前 DeepMind AI 部门的资深研究员。
今年 3 月就有消息传出，马斯克把这人挖去了推特，没想到最终的归宿是 xAI。
https://img.ithome.com/newsuploadfiles/2023/7/b3676252-faa7-45ad-a8d8-e6e14081f82d.png
Toby Pohlen，在 DeepMind 的“练习”时长有 6 年 3 个月之久。
在职期间，他开发了 AlphaStar 参与联赛的评估系统 ——AlphaStar 是 DeepMind 开发的 AI，会玩《星际争霸 II》，参加三场比赛的表现都被评为大师级，在官方的人类玩家排名中，排名前 99.8%。
Linkedin 资料显示，2021 年起，Toby 的工作就转而面向致力于大型语言模型的服务和评估工具。
https://img.ithome.com/newsuploadfiles/2023/7/47f1dc58-5e6a-40fe-b7b1-93fb142cb227.png
微软前员工：1 人
杨格，离职前是微软雷蒙德研究院的首席软件工程师。
此前，他还有苹果（2019.4-2021.2）和谷歌（2013.9-2018.10）的就职经历。
他的主要行业经验集中在构建、启动和维护大型分布式系统和基础设施组件，对 TensorPrograms 和 neuralnetworks.有深入研究。
目前，他也是唯一一个已经在推特个人简介上标明“xAI 联创”的人。
在 xAI 官宣成立后，杨格表示：
开发大型神经网络的“万物理论”将是将人工智能提升到新水平的核心。
另一方面，这种 AI 将使每个人都能以此前难以想象的方式理解我们的数学宇宙。
https://img.ithome.com/newsuploadfiles/2023/7/049b6cc0-c6b9-4c92-b821-054c3e5a26ca.png
Google 前员工：3 人
12 人中，有 3 人加入 xAI 前的最后足迹留在了谷歌。
Christian Szegedy，曾在 Google Research 担任研究科学家。
他发明了最早的目标检测算法之一 adversarial examples，主要工作面向深度学习，致力于通过深度学习进行 ML、AI 和 CV。
在 Google Shcolar 上，这位大佬的总被引数超过了 20 万。
https://img.ithome.com/newsuploadfiles/2023/7/89b4592e-aca6-4c38-a6af-cc930bcf1c34.png
戴子航，xAI 华人面孔之一，先后就读于清华大学、CMU。
博士毕业后在谷歌研究院上班。是谷歌前研究科学家。
他的履历还显示，他曾经在百度从事深度学习方面的工作，后来还在图灵奖得主、深度学习三巨头之一 Yoshua Bengio 领导的 AI 实验室 MILA 待过一段时间。
2019 年，CMU 的预训练模型工作 XLNet 中，戴子航与现清华叉院助理教授、国内 AI 初创公司月之暗面创始人杨植麟并列为共同一作。
https://img.ithome.com/newsuploadfiles/2023/7/b1680ff4-b50a-47e2-8ee4-13b7f595d307.png
吴宇怀，xAI 华人面孔之一，博士毕业于多伦多大学，后赴斯坦福大学做博后。
他的主要研究兴趣是制造可以推理的机器，目标是做个有关自动化的数学家。
值得一提的是，吴宇怀的导师之一，就是本次创始团队的另一位成员 Jimmy Ba。
他曾在 DeepMind 和 OpenAI 实习，毕业后，加入了谷歌的 N2Formal 团队。
去年，他参与的 3 篇论文在计算机国际顶会 ICLR 2022 发表，8 篇论文发表被顶会 NeurIPS 2022 接收。
https://img.ithome.com/newsuploadfiles/2023/7/213be5fe-0719-4fdc-8391-216026ae4f8e.png
特斯拉前员工：1 人
Ross Nordeen，特斯拉超级计算和机器学习部门的前技术项目经理。
加入 xAI 以前，媒体报道 Ross 已经在去年 10 月被马斯克“调任”到推特，管理一些招聘和访问事宜。
https://img.ithome.com/newsuploadfiles/2023/7/cd33de65-ea1f-41d1-962e-ba3447e25c5b.png
多伦多大学教职人员：1 人
Jimmy Ba，多伦多大学的明星青年副教授，他本人也是在多伦多大学完成了了本硕博的学习，跟随图灵奖得主 Geoffrey Hinton 拿下博士学位。
Jimmy Ba 的研究重点为深度神经网络的高效学习算法的开发，是训练深度学习模型的首选算法之一 Adam 优化器的开发者。
今年年初，他获得了被称为“诺奖风向标”的斯隆研究奖。
有趣的事是，他的推特个人简介上写道：
我所有的帖子都是由 GPT 生成的。
https://img.ithome.com/newsuploadfiles/2023/7/4bfe8243-a76e-4a9c-8d3c-30820f256029.png
马斯克开搞大模型OpenAI+DeepMind + 微软 + 谷歌 + 特斯拉 + 多伦多大学，可以说，xAI 创始团队的 AI buff 叠满了！
鉴于 xAI 的团队成员曾参与过的项目，已经有不少网友猜测，xAI 的成立就是马斯克进军大模型和 AIGC 的号角，与 OpenAI 激烈竞争。
今年年初 OpenAI 一通连轰带炸后，马斯克就已经嘴炮连连。
一方面是与 Yoshua Bengio、Stability AI 的 CEO、DeepMind 研究人员等 1000 多位大佬联名，要求至少 6 个月暂停 GPT 的训练。
另一方面，持续对外发声，说 OpenAI 已经不 Open 了，并表示自己会推出一个叫 TruthGPT 的 AI 的平台，并声称“这可能是通往安全的最佳途径”。
https://img.ithome.com/newsuploadfiles/2023/7/39636f8d-2c47-40ac-b5c5-21b5488dfc7e.png
说起来，xAI 是马斯克现在带队的第 6 家公司，另外 5 家分别是特斯拉，SpaceX，推特，Neuralink 和 Boring Co.。
官网上白纸黑字写得明白，xAI 是一家独立公司，但会与 SpaceX，推特等有深度合作。
那么，这家马斯克一手打造的 AI 新星，到底是要做什么？
用马斯克的话说，是要理解现实（understand reality），更进一步的，可以通过官网上的另一句话来理解：
“为了理解宇宙的真正本质（understand the true nature of the universe）”。
更多事宜目前并没有公开，xAI 卖了个关子，并欢迎大家在当地时间 7 月 14 日（本周五）的推特 Space 聊天中，向团队直接提问。
https://img.ithome.com/newsuploadfiles/2023/7/c4341dcd-d3ca-48f7-8df6-13cb09f8b478.png
有心人已经偷偷扒出了 xAI 的更多信息。
譬如，今年 3 月 9 日，马斯克就已经注册成立了 xAI 这家公司，马斯克自己当董事。
3 月初就注册成立了，为啥选择今天官宣？
马斯克见没什么人朝这个方向讨论，自己下场刨了自己埋下的包袱。
原因只有一个，那就是他在玩梗，毕竟“42 是宇宙的终极答案”。
https://img.ithome.com/newsuploadfiles/2023/7/3b456037-b0b0-4e4a-a01c-af62db09d8ba.png
说回正题，3 月成立时的这个时间点，略显微妙。
已经有网友猜测，4 月初马斯克为推特购买的 1 万个 GPU，有没有可能是明修栈道，暗渡陈仓，其实偷偷在为 xAI 成立后，开发自家的大语言模型做准备？
永远奔赴在 AI 吃瓜第一线的英伟达 AI 科学家 Jimmy Fan 发推分析了一波：
什么对话文本啊、图像啊、长视频啊、推特上有大量的多模态数据。
xAI 可是唯一一家可以直接合法合理访问这个庞大、每日还在拓展的语料库的 AI 初创公司啊！！！
https://img.ithome.com/newsuploadfiles/2023/7/b1e216c5-e9e8-4983-a87f-86fa31b96c27.png
额外提一嘴，除了创始 12 人，xAI 官网上还有个人的名字：公司顾问，丹・亨德利克斯（Dan Hendrycks）。
他的另一重身份是国际 AI 领域非营利组织“人工智能安全中心”（Center for AI Safety）的主任，这个组织就是今年 5 月 30 日，发布仅 22 个单词公开信的那家。
信里是这样说的：
减轻人工智能带来的人类灭绝风险，应该与大流行病和核战争等其他影响社会的大规模风险一同成为全球性的优先事项。
不知道这人的加入，能不能避免马斯克一直对外表示的“AI 发展过快带来风险”等问题。
https://img.ithome.com/newsuploadfiles/2023/7/78e8cf10-a2c7-4731-bc4a-ca9304260d1e.png
One More Thing马斯克官宣以后，xAI 已经热火朝天开了聊天贴，和网友们聊起来了。
但承载 xAI 初亮相的推特这头，有一些同样 crazy 的事情正在发生。
近期的推特不仅陷入了限流争议，还被喂了口诉讼索赔的官司 ——
马斯克去年收购推特后，辞退了数千名员工。
按道理讲，这些员工应该拿到共计至少 5 亿美元的遣散费，但推特不仅没有按 2019 年起公司内部规定给足，最多只给了被辞退人员一个月的遣散费，有的人甚至一分钱都没从推特身上拔下来。
上个月，诉讼通知已经落到推特头上了，公司也没能支付拖欠员工的数百万美元奖金。
推特的说法是，这事儿“告我不合理”。
Emmmm…… 大概只有和马斯克一起在“理解宇宙的真实本质”后，才能理解推特不根据自家规定支付遣散费的原因吧。
页:
[1]