张量流。如何张量板

Tensorflow. How to tensorboard

所以我有这段代码可以工作,直到我想让它为我绘制张量板:

import numpy as np
import tensorflow as tf
import tqdm
from sklearn.model_selection import train_test_split
from tensorflow.python.framework import ops

ops.reset_default_graph()

x = np.linspace(0, 10, 1000, dtype='float32')
y = np.sin(x) + np.random.normal(size=len(x))

X_train, X_test, y_train, y_test = train_test_split(x, y, test_size=.3)

x_ = tf.placeholder(name="input", shape=None, dtype=np.float32)
y_ = tf.placeholder(name="output", shape=None, dtype=np.float32)
w = tf.Variable(tf.random_normal([]), name='w')
b = tf.Variable(tf.random_normal([]), name='bias')

model_output = tf.add(tf.multiply(x_, w), b)

loss = tf.reduce_mean(tf.pow(y_ - model_output, 2), name='loss')
train_step = tf.train.GradientDescentOptimizer(0.0025).minimize(loss)

summary_writer = tf.summary.FileWriter('linreg')
for value in [x_, model_output, w, loss]:
    tf.summary.scalar(value.op.name, value)
summaries = tf.summary.merge_all()

n_epochs = 100
train_errors = []
test_errors = []

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    for i in tqdm.tqdm(range(n_epochs)):  # 100
        _, train_err = sess.run([train_step, loss],
                                feed_dict={x_: X_train, y_: y_train})
        train_errors.append(train_err)
        test_errors.append(
            sess.run(loss, feed_dict={x_: X_test, y_: y_test}))

        summary_writer.add_summary(sess.run(summaries), i)

有了这个我得到:

InvalidArgumentError (see above for traceback): You must feed a value for placeholder tensor 'input' with dtype float
     [[Node: input = Placeholder[dtype=DT_FLOAT, shape=[], _device="/job:localhost/replica:0/task:0/cpu:0"]()]]

所以,如果我理解正确的话,它要求我 feed_dict,好的,让我们修改最后一行:

summary_writer.add_summary(sess.run(summaries, feed_dict={x_: X_train, y_: y_train}), i)

现在我们有:

InvalidArgumentError (see above for traceback): tags and values not the same shape: [] != [700] (tag 'input_1')
     [[Node: input_1 = ScalarSummary[T=DT_FLOAT, _device="/job:localhost/replica:0/task:0/cpu:0"](input_1/tags, _recv_input_0)]]

所以,weight 想要和 x 一样的形状,我可以做到:

w = tf.Variable(tf.random_normal([700]), name='w')

但是 X_test 呢?它只有 300 行:

InvalidArgumentError (see above for traceback): Incompatible shapes: [300] vs. [700]
     [[Node: Mul = Mul[T=DT_FLOAT, _device="/job:localhost/replica:0/task:0/cpu:0"](_recv_input_0, w/read)]]

所以我应该动态改变 w 形状吗?或获取 w1 和 w2 进行训练和测试?如何张量板?

============================================= ===========================

塑造时间。 在变量和占位符的形状规范之后:

x_ = tf.placeholder(name="input", shape=[None, 1], dtype=np.float32)
y_ = tf.placeholder(name="output", shape=[None, 1], dtype=np.float32)
w = tf.Variable(tf.random_normal([1, 1]), name='w')
b = tf.Variable(tf.random_normal([1]), name='bias')

我们可以看到输出数据也应该是正确的:

ValueError: Cannot feed value of shape (700,) for Tensor 'input:0', which has shape '(?, 1)'

所以最后一段代码看起来像这样(在数据上添加了重塑):

with tf.Session() as sess:
    sess.run(tf.global_variables_initializer())
    for i in tqdm.tqdm(range(n_epochs)):

        _, train_err, summ = sess.run([train_step, loss, summaries],
                                feed_dict={x_: X_train.reshape(len(X_train), 1), y_: y_train.reshape(len(y_train), 1)})
        summary_writer.add_summary(summ, i)

        train_errors.append(train_err)
        test_errors.append(
            sess.run(loss, feed_dict={x_: X_test.reshape(len(X_test), 1), y_: y_test.reshape(len(y_test), 1)}))

当前错误:

InvalidArgumentError (see above for traceback): tags and values not the same shape: [] != [1,1] (tag 'w_1')
         [[Node: w_1 = ScalarSummary[T=DT_FLOAT, _device="/job:localhost/replica:0/task:0/cpu:0"](w_1/tags, w/read)]]

现在,我什至不知道张量的形状是 [].

============================================= =================

结束时间。

tf.summary.scalar([value.op.name], value)

不行,因为 tf.summary.scalar 的 first/name 参数需要字符串或字节,否则会出错。

所以名称无论如何都是 [] 的形状,让我们接受它并稍微更改一下代码:

w = tf.Variable(tf.random_normal([]), name='w')
b = tf.Variable(tf.random_normal([]), name='bias')
...
for value in [w, b, loss]:
    tf.summary.scalar(value.op.name, value)

终于开始工作了

x_ 是一个占位符,它将包含您的输入值。它在图表中没有任何固定值,它唯一的值是您提供的值。所以你只需要使用:

    summary_writer.add_summary(sess.run(summaries, feed_dict={x_: X_train, y_: y_train}), i)

但是这样做会让你计算两次。您应该使用的是:

_, train_err, summ = sess.run([train_step, loss, summaries],
                            feed_dict={x_: X_train, y_: y_train})
summary_writer.add_summary(summ, i)

这样你的训练步骤和汇总计算就会同时发生。

编辑:

看起来你只是有整形问题,只能由 tensorboard 揭示...

  • 你的占位符 x_ 应该声明为 [None, n_features] 形状(这里是 n_features = 1,所以你也可以只使用 [None]。我不我真的不知道 None 的作用,也许你的问题来自于它也许不是...)

  • y 的形状应该是[None, n_outputs],所以这里是[None, 1]。可能 None[None] 也可以。

  • w 的形状应为 [n_features, n_outputs],在您的情况下为 [1, 1]。你不能让它按照批量大小进行调整,这在机器学习方面是无稽之谈(至少如果你试图单独从 x 而不是从其余部分学习 sin(x)批处理,这没有多大意义)

  • b的形状应该是[n_outputs],所以这里是[1]

指定所有这些形状是否有效?

编辑 2

这是一个整形问题。答案是,看来你只需要替换

tf.summary.scalar(value.op.name, value)

tf.summary.scalar([value.op.name], value)