第37章 构建神经网络
- 五年学修车,三年全球卖真理
- 薯条yyds
- 2074字
- 2024-03-19 12:00:59
读取原始数据,对其进行处理,转化为神经网络能够处理的张量格式。
刘天阳手指一挥,输入处理模块便如臂指使般被他定位到算法的起点。
之后便是依续递进,众多模块在他的指挥下像是长龙一般拼在后面。
卷积模型构建,激活函数处理,再度卷积,再次激活,多层神经网络的前向传播此时便有了雏形。
不过如此一来模型很容易陷入过拟合的局部最优点,刘天阳一挥手,神经网络中的一些层便变得虚幻起来。
但这并不代表其断开了连接,而是意味着在训练过程中,这些层会随机的丢掉一些数据,减缓算法梯度下降的速度,并带来一定的随机性。
这种被称之为‘丢出’的操作正是代表着人脑中遗忘的功能,虽然做不到像人那般更有针对性,但对于一个可以无限试错的算法来说,足够了。
不过仅仅是学习还不够,刘天阳最终需要提取出整个神经网络中对于使用目标有用的结果。
这个时候需要的就是全连接层,也即池化层,刘天阳思考了一下,一个方块在远方消失,又凭空出现在他的面前。
墨紫色的方块在他的指挥下落在算法的最尾端,这里就是输出结果的地方。
如此一来,整个前向传播神经网络的结构便确定了,下面要做的,就是把它们全部连接起来。
确定训练目标的损失函数,定义!
为算法运行提供动力,更新模型中各个参数的优化函数,定义!
随着前向传播流程的建立,离构建整个算法流程也就只剩下一步之遥了,那就是创建反向传播,闭环整个算法循环模型。
不过相较于前向传播时的诸多模块个组合,以及其中的各种经验之举,反向传播就显得简单许多。
刘天阳手一挥,数根像是电缆一般的管线便从各个损失函数的环节引出,向算法的头部前进。
这些管线在中间不时连接到对应的卷积层上,并链接上其中的权重参数。
如此一来,整个算法便彻底构建完毕,虽说非常简陋,仅仅能实现对阿拉伯数字的辨认,但刘天阳却从其中收获颇丰。
因为刚刚的操作不仅仅是他所学知识的一个输出,更是帮他完整梳理了这些天看到的所有知识。
以往那些只是知道,但却无法理解的东西此时在刘天阳眼中变得具体起来。
为何使用这部分输入,又为何增加这个求和模块,以及最后输出的值到底被谁使用了,当整个流程都清晰以后,之前那些让刘天阳做噩梦的公式此刻顿时变得和蔼可亲起来。
退出这种状态,刘天阳用火热的目光看着面前的显卡,如今有着能量投送器的远程能源输送,这块显卡的显存中正储存着他刚刚搭建好的神经网络模块。
要验证这个算法也很简单,刘天阳拔下电脑上的那块显卡,将手上这块插了上去。
电脑的桌面上瞬间多出一个项目工程,刘天阳点开,里面的代码虽说不是他编写的,但却异常的熟悉。
因为这正是他刚刚一块一块,如搭积木般拼凑出来的神经网络。
浏览整个工程,以往那些需要全局搜索才能知道什么意思的变量此刻对于刘天阳来说全无障碍,整个算法对于他来说,已然了如指掌。
编译,运行,训练完成!
一套操作行云流水,刘天阳将测试数据导入,然后对比识别结果和真实答案。
100%正确!
和之前那个稳定把9认成1的算法不同,刘天阳新搭建的算法无论是识别速度,还是精准度都远远超过。
而且代码无比整洁规范,完全可以拿来当那些计算机专业大学生的教学范例来使用了。
只不过这个代码相较于系统对于制作人工智能核心的要求,还有很长距离要走。
其神经元数量实在是太少,网络层级太过于简单,评价函数也只是简单的分类罢了。
不过这些问题如今却已然不会让刘天阳束手无策了,在系统的帮助下,他完全可以囫囵吞枣般吸收那些知识,然后再通过实践的方式将其掌握,转化为自己的东西。
不仅如此,刘天阳甚至还有了个更大胆的想法。
假如他掌握的知识网络足够大,知识深度也足够自成一体,那完全可以直接像之前拆解机床那般拆解市面上那些庞大无比的框架和知名的神经网络代码。
然后从中汲取专家们的经验,学百家之所长,融会贯通,建立一个属于自己的超级大模型。
刘天阳打定主意,自己就是缝,也要缝出新花样,缝一个究极缝合怪算法出来。
怀揣着雄心壮志,刘天阳动力满满的继续看起了新的知识。
无监督学习的密度估计算法,自编码器,有监督学习的分类回归算法,结构化学习……
这些以往好似天书一般的东西如今虽然依旧看不懂,但至少刘天阳的脑壳不痛了。
就这么过了几天,刘天阳边加工模具边学习,两不耽误,工厂的产能也随着模具的上线而不断上涨,俨然一副欣欣向荣的样子。
“滋滋滋滋滋滋……铛”
又成功加工完一套模具,刘天阳取下最后一个零件,准备研究一下mini2的外挂架如何设计,陈令却是突然出现在他的面前。
最近这几天,刘天阳的全部心思都放在加工模具和学习之上,完全就是副陷入自我世界的样子,所以除非必要,没有人会来打断他。
而且陈令自从吴奇又跑去老毛子之后就再也没有出现过,现在突然找来,难道是有什么要紧的事吗?
刘天阳停下手中的活,叫来工艺让他安排模具的表处工作,之后便跟着陈令来到之前开会的办公室。
吴奇此时也坐在这间办公室中,而他的面前,正摆着几份不算太厚,但纸张看上去就非常坚韧的文件。
“刘老弟,这次把你叫过来,主要是谈一下咱们之间签合同的事情。”
吴奇开门见山,把一份合同推到刘天阳面前。
“咱们都是兄弟,谈钱总归是有些伤感情,但亲兄弟明算账,这些东西要是一开始不规定好,越到后面越不好收场。”