分卷阅读41 (第1/4页)

    慨。

    【……】系统忽然冒出nongnong的危机意识，【那个，宿主其实我也很有用的！要不让我开放全民好感度涨幅提示！对你有敌意的肯定是负数，到时候还没靠近你就能发现……】

    “不，太吵。”徐静怡很果决摇头。

    “这位同学？”站在台上的森田教授很睿智地看着她，语态很温和，“刚刚我的说法是有什么问题吗？你似乎对此有些不同的见解！”

    徐静怡一懵。

    系统，【糟糕了宿主！好像这位老大爷误会你刚刚摇头了！你别慌，他正在讲RNN和与传统神经网络区别！】

    ——原来已经讲到处理序列数据的循环神经网络。

    这个用大白话来形容，就是机器人处理问题时的逻辑思维能力。举个例子比如“我实在是太冷了，准备去XXX”，根据前面的输入判断“XXX”很大可能就是“穿衣服”，这就是序列数据。

    徐静怡快速扫了一眼黑板，“tanh和sigmoid激活函数的RNN如果遭遇梯度消失要如何是好？”

    徐静怡起身，慢条斯理地开口：“tanh和sigmoid两端的梯度值都基本接近0，从求导公式可以看出有个连乘cao作。而向量函数对向量求导结果为一个Jacobian矩阵，元素为每个点的导数，当矩阵中的值太大时，经过指数放大，则会产生梯度爆炸。可以设置一个梯度阈值来处理。另外梯度消失，可以用ReLU来替代tanh和sigmoid激活函数，或者用LSTM或GRU结构。”

    森□□授调皮的眨眨眼：“回答得相当标准。你对智能编程有所研究对吗？”