2013年的暑假,距离比赛开始时间还有大约一个月的时间。
“模型的训练过程需要将所有的权重,数据和许多中间过程都放入GPU中进行处理。
因而GPU的显存大小格外重要。”
孟繁岐叹了口气,“即便是我们购买的旗舰690,也太小了,只有4G大小。”
比起后来被美国禁止卖给华国的A100-80G,690不说其他性能,单显存就少了20倍。
孟繁岐如今只能可怜巴巴地每次使用16张图片对模型进行迭代。
“一次十六张,一次循环要接近一百万次才能更新完整个数据集。
而想把模型收敛好,上百次循环又是少不了的。”
孟繁岐估算了一下,这个版本出一次结果要接近20天,最后的训练过程确实大概消耗了三周左右以收敛到现在的这个性能。
好在IMAGENET在后来基本成为了每个算法工程师必调参的练手数据集,孟繁岐自己就曾无数次刷榜,自然是轻车熟路,清楚各类参数的大概设置。
这为他至少节省了一两個月的珍贵时间。
即便一次训练需要三周之久,孟繁岐却仍旧赶在比赛开始之前就已经准备好了一版模型。
看着训练出来的模型最终性能达到了预期,孟繁岐心中的一块大石总算落地了。
这几个月来,他唯一担心的一件事情就是多年前的老框架会出一些他意料之外的问题,导致最终的结果不能和理论预期吻合。
一旦这种事情发生,找到问题所在并测试解决的代价就太大了。
倘若不能够及时解决,会很大影响到他初期的规划。
眼下的结果大约在4.9%的top-5错误率,这个版本比后世论文中的性能要稍差了一丁点,但好在仍旧强于赛事方给出的人类标准了。
一般来说,比赛前是不会公布比赛所使用的具体数据的。
只是IMAGENET比赛比较特殊,一千多万量级的图片,总不可能办一两次比赛就舍弃掉,不再使用。
因而每届比赛所用的数据是变化很小的,只是具体赛道,所竞争的内容和评判的方式常会有所调整。
虽说IMAGENET休赛的时期其实也可以提交结果,孟繁岐现在就可以把这个结果上传上去,夺取第一的位置,但关注度毕竟不可与赛时的激烈竞争同日而语。
();() 与此同时,唐璜也终于开始意识到事情的走向已经远远偏离了他的预料。
“我记得之前查到AlNet在这上面的准确率不到85吧,你现在这个已经特么超过95了啊。”
唐璜第一次来查看结果的时候完全不敢相信这个事实。
“你确定没搞错?别忽悠兄弟啊。
兄弟书读的少,很容易被骗的。”
唐璜此刻的心态很复杂,很希望这是真的,但由于事情实在显得太美好,反而很难相信。
“是假的,我骗你的。”
孟繁岐翻了个白眼,“我加了特技,里面都是化学的成分。”
“不会吧,我亲眼看这性能一路上收敛上来的。”
唐璜又翻了翻模型训练的日志,声音之中带了三分委屈。
他刚刚已经在脑补自己抱紧大腿,走上人生巅峰的场景了。
这就是患得患失的可怜人啊,不敢相信,却又害怕是假的。
“虽然我没有测试集的真实答案,但是我从训练集里划了百分之5出来没有使用,作为验证的办法。”
孟繁岐对这个数据集的方差可以说是了然于胸,95%的数据用于训练,5%的数据用于测试已经是相当稳妥而保守的比例了。
“也就是说,只要这百分之5的数据和测试集的数据差别不大,你的办法可以比去年的冠军强十个百分点?”
唐璜仍旧还处于极度的震撼当中。
被奈克洛兹玛召唤到了精灵世界的流星,肩负起了治疗他的重任。不过刚刚出来,为什么卡噗哞哞就要选我当岛屿之王喂喂喂,我连一只精灵都还没有呢!融合世界观,借鉴动画,特别篇,各路漫画关键词精灵宝可梦,口袋妖怪,神奇宝贝,宠物小精灵各位书友要是觉得开局就是阿罗拉岛屿之王还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!...
预收文我在民国当校长求收藏!作为一个颜正,又前途光明的八十年代大学生,除了没钱,狄思科再无其他烦恼。直到他发现自己生活在一本名叫粉红大亨之爱情难逃我手的书里。书中女主是未来娱乐业女大亨,...
她是风华绝代的大帝姬,却穿越成被迫替嫁又不受宠的疯批王妃,人人唾弃。刚穿越便被栽赃陷害拖出去喂狗,这谁能忍?摇身一变成为顶级天医,生白骨活死人,天资潋滟,倾城绝色。曾经辜负她真心的哥哥们纷纷后悔,排队求原谅。一心和离却没想到反被残王宠得无法无天。帝云寒,说好的和离呢?之前那是本王眼瞎。各位书友要是觉得替嫁后,残王的疯批王妃无法无天还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦!替嫁后,残王的疯批王妃无法无天...
反派a老子有钱陆三生陆某是你祖宗。反派b老子有人陆三生陆某是你祖宗。反派c老子有门派撑腰陆三生陆某是你祖宗。众反派能不能别再说祖宗的事了陆三生沉思了一下,淡淡开口...
周礼大司马之职,掌建邦国之九法,以佐王平邦国。...
乱世之中,烽火天下,他一朝穿越,却是个落魄秀才,要啥没啥,更倒霉的是他还被山贼找上门来落魄不要紧,钱我可以自己挣。什么?没处挣?那就去抢。至于山贼?更不用怕,正好抢了他们的财物做军资。我相信,总有一天我林东的名字会响彻整个大明。总有一天,我林东能挽狂澜之将倾,扶社稷之即倒,延续我族千年文明!...