手机浏览器扫描二维码访问
第113章 意外的邀请（第1页）
相比效果显著，非常出色的老虎算法，移动端优化排序算法的效果要稍差一些。
因而孟繁岐并没有急着推动上线测试，而是等待结合AI语言解释模型的那一个更新准备一起推动。
目前针对语言问题所采用的通常是循环神经网络（RNN）和长短期记忆办法（LSTM），这两个工作都是上个世纪末的老办法了。
这两种方法简明好用，因而一直兴盛到2017年左右。
直到Transformer，也就是ChatGPT的T方法出现。
通常来说，大家都认为Transformer方法之所以能够迅速取代RNN和LSTM，主要是因为它更方便并行进行。
在多个设备上容易做到并行，这件事最核心的意义便是让规模庞大的版本成为可能，这也为后来ChatGPT这样的究极巨无霸模型奠定了基础。
“其实老版的RNN也有办法可以把并行做得很好，领域内对这件事有很大的误解。”孟繁岐皱着眉头思索道。
原本时间线，Transformer出来之后，所有人都放下了手头老方法的研究，拥抱了T方法。
可18年实际上有人专门做了RNN的高度并行，只可惜已经太迟了。
如果这个发现可以早一年的时间，可能RNN会长期作为T办法的竞争对手，我们也有可能看到ChatRNN的出现。
“早期的T方法需要很多数据，各种参数比较难调整，需要的计算能力也很庞大。”孟繁岐即便根据后来成熟的许多方法做了一个改进的版本，T方法在早期仍旧比较麻烦。
“好在谷歌的数据和算力都不缺，而我也比较熟悉各种经典的参数设置。”孟繁岐先写了一个雏形版本的T方法，进行了一下测试。
“不过，受限于现在显卡的显存，模型没有办法做得很大，除非我专门再去开发DeepSpeed这样的高级并行方式。”
在多张卡上训练模型，可能是为了追求速度，也可能是因为一张卡上放不下了。
其中，数据并行是最简单的，也就是不同的卡都在做同样的事情，每张卡上都会存放一个模型。
只不过输入的数据不一样，不同的卡做完运算之后，再一起整合更新。
就像是所有人都拿了同样的刀切不同的菜，最后把切好的食材堆在一起。
可有的时候，一张卡上根本就放不下模型，这样的情况就比较麻烦了。因为一个人根本拿不动这把刀了，需要多人协作。
可以把每一层拆分到不同的卡上，也可以把不同层分配到不同的卡上，如此一来，其实是用多卡实现了类似单卡训练的效果。
显然，前者会比后者容易非常多，前者只需要在不同卡上复制这些模型，分别读取数据做运算就好。
而后者则需要根据不同的情况和设置拆分合并，一个不小心就会搞错。
看了下谷歌大脑的服务器，里面有好几批2013款的GTX泰坦，这东西着实价值不菲。
考虑到当时的其他产品，6G的显存还是鹤立鸡群的。
比起孟繁岐自己重金购置的4G旗舰款，多出的2G显存，足够做很多其他的事情了。
用速度换显存，孟繁岐又做了许多参数和信息在Cpu和Gpu上反复转移的操作。
因为在正式入职之前，谷歌大脑分配给他的显卡就已经有16张泰坦，这部分卡拨给孟繁岐独享，随时都可以使用。
除此之外，还有32张在不同节点上的Gpu可以申请占用。
悟性逆天，我打造反派长生世家 云婷 逆天毒妃云婷云婷墨池寒 魔女小姐不想成为歌姬 苍厄之瞳 诸天长生从明玉功开始 逆天毒妃云婷云婷 不许装乖[电竞] 我用三句话吓哭全星际 我在末日文字游戏里救世 云婷墨池寒 心之怪盗！但柯南 男朋友每天都在觊觎我的念能力 手撕对照组，四岁奶包带爸妈逆袭 师尊，弟子只想欺师不想灭祖 洪荒：我北海玄龟，绝不撑天 我有一把刀，出鞘即斩妖 文娱：开局拿杨老板小金库搞投资 逆天毒妃云婷 LPL全能女替补
军嫂的彪悍时代
军嫂的彪悍时代由作者四叶荷创作全本作品该小说情节跌宕起伏扣人心弦是一本难得的情节与文笔俱佳的好书919言情小说免费提供军嫂的彪悍时代全文无弹窗的纯文字在线阅读。...
动漫狂潮
民工漫内涵漫，萌漫，孟喆引领着潮流的方向。少男向少女向成熟向幼龄向，孟喆的创意近乎无限。仇恨孟喆的人说孟喆兴风作浪毁了无数社会主义好青年，造成宅男宅女千千万！崇拜孟喆的人却说孟喆是动漫世界的至高君王，指引着ACG世界的前进方向，是狂潮是火焰！其实，我只是一个用漫画，来追未来老婆的重生者而已。虽然，一不留神，勾引到的无知少女略微...
萌宝来袭，霸道邪王追妻忙
穿越废材爹不疼娘不爱，这都不要紧，关键是谁来告诉她这个肚子里的宝宝是怎么回事。一个未婚少女成功升级为未婚妈咪，新时代的大学教师穿越到古代，利用自己所学在古代混的风生水起。只是这个自称是孩子的爹爹是怎么回事，死缠烂打的追求，说是要对自己负责。一个暗黑帝国的王者需要如此低三下四的追求么？付出真心后才发现原来所说的愿得一人心都是歌曲中的童话故事而已本人慢热哦。...
贪欢，攻身为上
（本文男女身心干净，请放心跳坑） 宠唯一觉得宠嘉嘉就是她一辈子的克星，她妈抢了她亲爹，她继承了她妈的衣钵，抢了她的初恋男友，现在，这妞还不知死活的抢她赖以生存的房子！ 老娘不发威当老娘是软黄瓜？ 好，既然喜欢抢，老娘就抢你个倾家荡产，家破人亡，桃花尽失，死无葬身之地！ 惹急了的宠唯一化身利爪小野猫，谁惹她，她挠谁！ 记者宠唯一有个独特癖好，在高级夜总会扫厕所，顺便听听墙角挖挖新闻，没想到，让她挖到一条大鱼。 招惹了大批桃花，自然也包括自诩甚美的宠嘉嘉。 宠唯一奸笑两声，老娘先把你男神追到手，牵着在你面前遛一圈，再狠狠甩掉，嗯哼，气死你全家！ 没想到，这个道貌岸然的家伙是只大尾巴狼，一开始就设好了圈套等着她往里钻。 宠唯一控诉我第一次见你，你在女厕所和那女人做的火热！ 我不给自己搞点绯闻，怎么吸引我们的宠大记者呢？宁非妖孽一笑，薄唇印在娇嫩的唇上，要不我也和你在厕所来一次？ ★宠女王不出嫁，宁太子爷很捉急－－ 宁非，那个实习小记者竟然抢了我的新闻头条，不行，我不能输给她。你明天去找个小明星搞个绯闻，把独家新闻留给我。宠唯一一脸愤怒，明明是她抢到的新闻，主编凭什么给那个实习生？ 宁非脸色铁青，周围气压瞬间变强，众人纷纷逃窜避之不及。 宠唯一干笑两声，做戏，做戏而已嘛，又不是让你真跟小明星上床。 宁非脸色缓了缓，我会让人把你写的新闻亲自送到报社。 宠唯一深夜疾书，写了一篇暧昧无比浮想联翩惊心动魄的宁太子潜规则小明星的新闻。 翌日，所有报纸头条皆为－－宁太子爷情定厕所妹宠唯一，将择日完婚！ 记者宠唯一实习记者告诉那个实习记者，她已经荣升为正式记者了。宁狐狸拿着报纸笑得狡诈。 宠唯一拿着报纸浑身发抖宁非你这个混蛋敢给老子掉包！...
暗黑破坏神之无极限
你们有暗黑破坏神游戏2里面的强悍技能，西方世界的神话魔法，但我有火影忍者般的法术，仙剑奇侠传的技能，自身强大的武功。我可以召唤中国神话中的大哥和大姐头和白虎玄武，最重要的是我可以学习你们西方所有的魔法而且不会比你们差。我命由我不由天，竟然穿越了，我就要做一条中国龙。就算是死，我也要守护我身后的家园，做一个顶天立地的英雄。我只信人定胜天，一旦做出承诺我就永不言弃。我的目标是统一罗格大陆的五大种族，封印地狱一族。我相信我可以做到...
星际食尸鬼
他是人类制造出来的最凶残的怪物，他被称作食尸鬼！这是星际时代，各种强悍的生物争相亮相，为了争夺宇宙的霸主地位互相争斗。他是一个被遗弃在尸星之上的少年，最后的一个食尸鬼，他决定从这里开始，自己掌握自己的命运，吞噬一切挡在他路上的敌人！拥有死亡兵器般冷静的头脑，信奉残酷丛林法则的少年，如海绵一般疯狂学习各种知识，无论是面对人类怪物还是外星人，他都无所匹敌！...