使用Keras获取模型输出权重的梯度

使用Keras获取模型输出权重的梯度,第1张

使用Keras获取模型输出权重的梯度

要使用Keras获得相对于权重的模型输出的梯度,您必须使用Keras后端模块。我创建了这个简单的示例来确切说明该怎么做:

from keras.models import Sequentialfrom keras.layers import Dense, Activationfrom keras import backend as kmodel = Sequential()model.add(Dense(12, input_dim=8, init='uniform', activation='relu'))model.add(Dense(8, init='uniform', activation='relu'))model.add(Dense(1, init='uniform', activation='sigmoid'))model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])

为了计算梯度,我们首先需要找到输出张量。对于模型的输出(我最初的问题是什么),我们只需调用model.output。我们还可以通过调用找到其他层的输出的渐变

model.layers[index].output

outputTensor = model.output #Or model.layers[index].output

然后,我们需要选择与梯度有关的变量。

  listOfVariableTensors = model.trainable_weights  #or variableTensors = model.trainable_weights[0]

现在我们可以计算梯度了。它很简单,如下所示:

gradients = k.gradients(outputTensor, listOfVariableTensors)

要实际运行给定输入的梯度,我们需要使用一些Tensorflow。

trainingExample = np.random.random((1,8))sess = tf.InteractiveSession()sess.run(tf.initialize_all_variables())evaluated_gradients = sess.run(gradients,feed_dict={model.input:trainingExample})

就是这样!



欢迎分享,转载请注明来源:内存溢出

原文地址: http://www.outofmemory.cn/zaji/5643411.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-16

发表评论

登录后才能评论

评论列表(0条)

保存