tensor

tensorflow是基于python脚本语言的，是一种高级应用，它必须依赖于底层的应用发挥作用。因此需要安装python,当然还需要安装numpy、scipy、six、matplotlib等几十个扩展包。如果一个个安装，十分耗费时间，不过现在有了集成环境anaconda，安装就方便了。python的大部分扩展包,都集成在anaconda里面了，因此只需要装这一个东西就行了。如果你想更多的去了解Anaconda，可以参考 Anaconda官方API 现在最稳定的应该是4.3.0的Anaconda，它自带Python3.6 安装完成后打开终端，输入conda - -version Anaconda安装成功之后，我们需要修改其包管理镜像为国内源（ Tsinghua Open Source Mirror ）。 简单来说就是在cmd中分别运行这两个命令就好了。（后续安装速度快非常多，重要！！！） conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/ conda config --set show_channel_urls yes 推荐第一行命令输入两次，以便把这个镜像地址放在首位。 1>tensorflow最适合的版本是python3.5 终端输入 conda create - -name tensorflow python=3.5.2（可选3.5任一版） 2>激活tensorflow 激活tensorflow后 1）方式一：选择官方文档的安装 pip install –ignore-installed –upgrade https://storage.googleapis.com/tensorflow/windows/cpu/tensorflow-1.0.0-cp35-cp35m-win_x86_64.whl 如果这里会报错的话，就选择一下一种方式 2）方式二：pip install tensorflow 但会超时出错--重复即可（耗时太久，不推荐） 3）方式三：conda install tensorflow 1>打开Anaconda Prompt 证明tensorflow安装成功 2>进入Anaconda Navigator，将Application栏的root切换成tensorflow,再安装Spyder。 1、使用管理员运行：conda prompt 2、执行命令 conda update anaconda-navigator 3、执行anaconda-navigator --reset 4、执行conda update anaconda-client 5、执行conda update -f anaconda-client 安装完成后打开Anaconda Navigator，将Application栏的root切换成tensorflow,打开spyder。 3>打开Spyder，写下第一个Hello 最终完成安装并运行Spyder,导入tensorflow（只能使用Python console ，且有一些错误，但不影响使用） 打开终端，激活tensorflow: 执行conda install pandas 执行conda install matplotlib 歪打正着 spyder更新至较高的版本spyder3，且能够正常启动 2、激活tensorflow：activate tensorflow 3、启动spyder:输入spyder

Safetensors是谷歌开发的一种TensorFlow Lite模型文件格式，用于在移动设备上运行模型。如果你想在手机上打开本地后缀为safetensors的模型文件，可以按照以下步骤操作：首先，你需要确保你的手机上已经安装了TensorFlow Lite解释器。你可以在Google Play商店中搜索TensorFlow Lite并下载安装。将safetensors模型文件拷贝到你的手机存储器上。你可以通过USB连接将模型文件复制到手机上，或者通过电子邮件或云存储服务将文件发送到手机上。打开你的TensorFlow Lite应用程序。在应用程序中，你可以选择“加载模型”选项，并浏览到你的safetensors模型文件所在的位置。选择模型文件并加载。在加载模型文件后，你可以使用TensorFlow Lite应用程序进行模型推断或进行其他操作。需要注意的是，safetensors模型文件只能在TensorFlow Lite解释器中使用。如果你想在其他平台上使用模型文件，你需要将其转换为相应的格式。

Safetensors是谷歌开发的一种TensorFlow Lite模型文件格式，用于在移动设备上运行模型。如果你想在手机上打开本地后缀为safetensors的模型文件，可以按照以下步骤操作：首先，你需要确保你的手机上已经安装了TensorFlow Lite解释器。你可以在Google Play商店中搜索TensorFlow Lite并下载安装。将safetensors模型文件拷贝到你的手机存储器上。你可以通过USB连接将模型文件复制到手机上，或者通过电子邮件或云存储服务将文件发送到手机上。打开你的TensorFlow Lite应用程序。在应用程序中，你可以选择“加载模型”选项，并浏览到你的safetensors模型文件所在的位置。选择模型文件并加载。在加载模型文件后，你可以使用TensorFlow Lite应用程序进行模型推断或进行其他操作。需要注意的是，safetensors模型文件只能在TensorFlow Lite解释器中使用。如果你想在其他平台上使用模型文件，你需要将其转换为相应的格式。

Safetensors是谷歌开发的一种TensorFlow Lite模型文件格式，用于在移动设备上运行模型。如果你想在手机上打开本地后缀为safetensors的模型文件，可以按照以下步骤操作：首先，你需要确保你的手机上已经安装了TensorFlow Lite解释器。你可以在Google Play商店中搜索TensorFlow Lite并下载安装。将safetensors模型文件拷贝到你的手机存储器上。你可以通过USB连接将模型文件复制到手机上，或者通过电子邮件或云存储服务将文件发送到手机上。打开你的TensorFlow Lite应用程序。在应用程序中，你可以选择“加载模型”选项，并浏览到你的safetensors模型文件所在的位置。选择模型文件并加载。在加载模型文件后，你可以使用TensorFlow Lite应用程序进行模型推断或进行其他操作。需要注意的是，safetensors模型文件只能在TensorFlow Lite解释器中使用。如果你想在其他平台上使用模型文件，你需要将其转换为相应的格式。

Safetensors是谷歌开发的一种TensorFlow Lite模型文件格式，用于在移动设备上运行模型。如果你想在手机上打开本地后缀为safetensors的模型文件，可以按照以下步骤操作：首先，你需要确保你的手机上已经安装了TensorFlow Lite解释器。你可以在Google Play商店中搜索TensorFlow Lite并下载安装。将safetensors模型文件拷贝到你的手机存储器上。你可以通过USB连接将模型文件复制到手机上，或者通过电子邮件或云存储服务将文件发送到手机上。打开你的TensorFlow Lite应用程序。在应用程序中，你可以选择“加载模型”选项，并浏览到你的safetensors模型文件所在的位置。选择模型文件并加载。在加载模型文件后，你可以使用TensorFlow Lite应用程序进行模型推断或进行其他操作。需要注意的是，safetensors模型文件只能在TensorFlow Lite解释器中使用。如果你想在其他平台上使用模型文件，你需要将其转换为相应的格式。

Safetensors是谷歌开发的一种TensorFlow Lite模型文件格式，用于在移动设备上运行模型。如果你想在手机上打开本地后缀为safetensors的模型文件，可以按照以下步骤操作：首先，你需要确保你的手机上已经安装了TensorFlow Lite解释器。你可以在Google Play商店中搜索TensorFlow Lite并下载安装。将safetensors模型文件拷贝到你的手机存储器上。你可以通过USB连接将模型文件复制到手机上，或者通过电子邮件或云存储服务将文件发送到手机上。打开你的TensorFlow Lite应用程序。在应用程序中，你可以选择“加载模型”选项，并浏览到你的safetensors模型文件所在的位置。选择模型文件并加载。在加载模型文件后，你可以使用TensorFlow Lite应用程序进行模型推断或进行其他操作。需要注意的是，safetensors模型文件只能在TensorFlow Lite解释器中使用。如果你想在其他平台上使用模型文件，你需要将其转换为相应的格式。

Safetensors是谷歌开发的一种TensorFlow Lite模型文件格式，用于在移动设备上运行模型。如果你想在手机上打开本地后缀为safetensors的模型文件，可以按照以下步骤操作：首先，你需要确保你的手机上已经安装了TensorFlow Lite解释器。你可以在Google Play商店中搜索TensorFlow Lite并下载安装。将safetensors模型文件拷贝到你的手机存储器上。你可以通过USB连接将模型文件复制到手机上，或者通过电子邮件或云存储服务将文件发送到手机上。打开你的TensorFlow Lite应用程序。在应用程序中，你可以选择“加载模型”选项，并浏览到你的safetensors模型文件所在的位置。选择模型文件并加载。在加载模型文件后，你可以使用TensorFlow Lite应用程序进行模型推断或进行其他操作。需要注意的是，safetensors模型文件只能在TensorFlow Lite解释器中使用。如果你想在其他平台上使用模型文件，你需要将其转换为相应的格式。

函数定义 输入：X （Original Input） 参数：W、B 预测值：y 标签值：Y （Original Input 的实际值） 意思是：starter_learning_rate 开始的学习率，global_step：到达的步速，每隔：100000 步，学习率减少到原来的94%。 注意：学利率的设置具有经验性,并且需要重复设置。已达到速度快但又不会略过最优解。 由单层的神经网络有自己的缺陷，那就是解决的都是一些线性的问题，遇到了非线性的问题就束手无策了，所以就引入了多层的神经网络，去解决线性问题，当然多层的神经网络也能兼顾解决线性问题。下图就是多层神经网络的示意图： ConventJS例子： https://cs.stanford.edu/people/karpathy/convnetjs/demo/classify2d.html 那么为什么层数增加而精度提高没有提高呢？ 那就是下一个与精度相关的内容：激活函数。 https://www.w3cschool.cn/tensorflow_python/tensorflow_python-mesu2f8d.html

Tensorflow 1.6图片编解码只有下面这些，建议使用其他python库在预处理阶段先转码。tf.image.decode_bmptf.image.decode_giftf.image.decode_jpegtf.image.encode_jpegtf.image.decode_pngtf.image.encode_pngtf.image.decode_image

pytorch经onnx转tensorrt初体验 上 、 下 中学习了tensorrt如何调用onnx模型，但其中遇到的问题是tensorrt7没有办法直接输入动态batchsize的数据，当batchsize>1时只有第一个sample的结果是正确的，而其后的samples的输出都为0. 本文主要是探索如何进行批量化的处理。 这是 TensorRT/samples/sampleDynamicReshape/sampleDynamicReshape.cpp 中给出的一个解决方案，其主要思路是在原有的INetwork 之前再创建一个用于input resize的Network， 该Network的主要功能是对可变的输入进行resize，以及设置配置文件和参数绑定。 其中，最主要的部分如下： 其中配置器 profile 指定了输入的最小尺寸、最优尺寸和最大尺寸。那么真实输入时，处在最小和最大尺寸中都行。 参考： # TensorRT 7 ONNX models with variable batch size 测试 trtexec -h 发现再次 trtexec -h 即正确显示帮助信息。其中给出了 model options、build options、 inference options和system options等。 a. 从固定尺寸的onnx转cudaEngine ··· trtexec --explicitBatch --onnx=./resnet18.onnx --saveEngine=resnet18.engine ··· b.从可变尺寸的onnx转cudaEngine，需要指定profile。 c. 接下来看一下python API的调用 主函数： 下表给出的是V100上resnet18的前向推断时间(ms) 总结一下，dynamic batchsize的处理流程：

TensorRT repo 参考 csdn 在 TensorRT/samples/python/ 下参考 costom 编写方式和cmake，docker环境里make生成 .so, 注意插件名字和trt用到的组件名应该一致 python 加载插件 如果用 trtexec ，需要 vim .bashrc 安装依赖 参考

首先需要安装onnx和onnx-tf这两个包，用pip安装就行

slim就是TensorFlow的简洁版。本篇就是介绍如何使用slim，因为自己也是刚开始接触TensorFlow，slim更是用得少，因此，本篇就当做是slim的学习记录，后面会不断更新。 先贴出slim的github，这里更详细 https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/slim 首先，导入，在安装TensorFlow时，slim包也一起安装了，因此不需要再安装。 基础操作 slim是TensorFlow的简洁版，因此在实际操作过程中要简单得多。 原生TensorFlow的一个卷积层： 在slim中： inputs就是网络输入； 16是输出神经元个数； [3,3]是该层卷积核大小 很简单！！更简单的是，Slim也提供了两个元运算符----repeat和stack，允许用户可以重复地使用相同的运算符。 上面可以替换为： 这就是slim.repeat的作用。 解释：3表示重复slim.conv2d这个操作3次，每次输出神经元个数都是16，卷积核都是3*3； 那么，要用不同的参数怎么办？ 可以用slim.stack: 输出神经元个数不同： 每层网络的输出神经元个数和卷积核都不同： scope 除了tensorflow中自带的scope机制类型（name_scope, variable_scope）外, TF-Slim添加了一种叫做arg_scope的scope机制。这种scope允许用户在arg_scope中指定若干操作符以及一批参数，这些参数会传给前面所有的操作符中。如果后面不需要这种参数，可以重写，覆盖。 原始繁琐的操作： 简单操作： 嵌套操作： 这里最外面的一层scope包含slim.conv2d和slim.fully_connected两个共有参数，里面一层scope则只包括slim.conv2d的参数。 下面来一个slim写的例子，vgg16的实现： 是不是特别精简？但其中包含的东西却很多，需要细细体会，还好之前走过原生TensorFlow的路。 这里特别要注意： 在最后一个全连接层中activation_fn=None，因为最后一层不需激活函数，而slim.fully_connected()是默认使用激活函数tf.nn.relu的，因此在网络模型最后一层中要添加activation_fn=None。 上面的这个vgg16网络就是slim内已经实现的网络，里面还有很多，可以直接拿来用，最好还是自己写一下，等有空了一定要全部自己重写一遍，先贴这里 https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/slim/python/slim/nets 目前我接触的就这些，后面还会碰到，等自己理解了再来更新吧！！ 参考文章： 原po写得更多更详细，学习了 http://blog.csdn.net/guvcolie/article/details/77686555

saver=tf.train.Saver()假设保存变量的时候是checkpoint_filepath="models/train.ckpt"saver.save(session,checkpoint_filepath)则从文件读变量取值继续训练是saver.restore(session,checkpoint_filepath)

德国restek tensor230伏德国产，状态好无修摩，用料足，8只大管，推力足，音色平衡大气，通透自然。德国Restek力无敌CD Radiant,前级Sector+后级Tensor 150W 各一台，全部德国制造。CD机黑色面板，分体电源，CDM9 Pro机芯，整块铝遥控器；前级电镀面板，分体电源，功能正常，后级电镀面板，工作正常。整套机器音色贵气阴柔，纯净平衡力无敌的各型功放风格是不同的，音色对比 其它几款力无敌，柔美、松软、贵气。适合推感觉声音发紧的音箱。

等同张量(identitytensor)又可译为unittensor。 A.正确B.错误正确答案：A

是德国布鲁克傅里叶红外光谱仪的一种型号。

个人的一点看法：1. TensorFlow是采用的DataFlow的数据流模型，不过我不觉得和Dryad有太多相似之处，此外Dryad也不是第一个提出DataFlow模型的地方，要说最早可以参考MIT TaggedTokenmachine里面的static dataflow 和dynamic dataflow architecture[2]的资料. 在一个大规模机器学习系统上全面、可靠的支持DataFlow的feature本不是一件容易的事情，但是Tensorflow做到这一点，支持control_dependence, merge, condition,for-loop/while-loop, iteration。1. 就像LSTM的unrolling，原来需要predefine unroll，现在用for-loop去做展开(内部维持状态的变化) 2. 还有比如一些算法需要对不同的input example做不同的训练(不同的gradient，更新不一样的variables)，以前需要hack很多东西(至少在DistBelif上是)，现在只需要一个ConditionOp就解决了。3. 比如不同的variables用不同的optimizer，SGD/AdaGrad/FTRL/Momentum等。有了ControlFlow的支持，tensorflow graph更像是一种语言的抽象(variables, tensors, controlflow, compile[这个是指会rewrite整个graph, send/recv node, un-reference, graph partition, dynamic placement], parallelism，functional programming等)，从这个角度讲还是有不少新东西在里面。2. 是否用Dataflow和BSP并无直接对应关系，Dataflow只是tensor/token的流动，怎么 schedule和控制流动是别的部分的事情(session 如何drive)。事实上，Tensorflow提供的灵活性用户很容易在上层做BSP(如果你非常喜欢这样做的话，这种模型最大的缺点是fault tolerance很难做)，SSP(如果非要把这个概念引入的话) 或者parameter server的结构(事实上我从来不认为这是一种通用的结构，只是ps被centralized起来存有状态的variables而已, 5年前的DistBelief就是这种架构)，有了这个框架的抽象，然后进一步你可以做Synchronous or Asynchronous training。所以说Dataflow只能做BSP，这个是很没有缘由的。3. 数据表示成tensor/token，单单这一点非要说这个有多少的创新确实也谈不上。不过基于tensor的每一个single op怎么做实现就有考究了，从Eigen开始到每一个kernels op基本都有micro-benchmark来保证单个op的performance达到最优，既然是kernel级的tensorflow的框架支持用户可以随便扩展GPU、CPU甚至即使是CPU的可以针对不同的指令级做优化和定制。当然任何事情有得就有失，大的系统的设计本身就是trade-off，比如你本来所有的东西揉在一起操作指针、inplace内存读写就可以，但现在抽象成多个各个粒度的operators，operators之间读写难免有很多overhead(当然graph rewrite已经最大限度的避免)。所以概括而言TensorFlow采用(目标)的设计其实是是production级的performance/成熟度和research flexibility的trade-off。从Google内部的各种产品线(Search/inbox/Photo等)的使用看，这个系统无论从各个方面都是经受住了考验(performance/scalability/flexibility/usability等)。Ps: TensorFlow绝不是只能做deep learning, shallow/wide model 以及传统的ML都可以基于这个系统来做(当然一些operators并不现成，需要去实现)。

本使用使用 TensorFlow. 图中的节点被称之为 op (operation 的缩写), 这四个维度分别是 [batch. 一个 op 获得 0 个或多个 Tensor. 通过 变量 (Variable) 维护状态. 在被称之为 会话 (Session) 的上下文 (context) 中执行图, 你可以将一小组图像集表示为一个四维浮点数数组, 使用图来表示计算任务. 例如. 使用 feed 和 fetch 可以为任意的操作(arbitrary operation) 赋值或者从其中获取数据. 使用 tensor 表示数据. 每个 Tensor 是一个类型化的多维数组, 产生 0 个或多个 Tensor, 执行计算. 综述 TensorFlow 是一个编程系统, height, 你必须明白 TensorFlow, channels]: 使用图 (graph) 来表示计算任务, width

训练完一个模型后，为了以后重复使用，通常我们需要对模型的结果进行保存。如果用Tensorflow去实现神经网络，所要保存的就是神经网络中的各项权重值。建议可以使用Saver类保存和加载模型的结果。1、使用tf.train.Saver.save()方法保存模型sess: 用于保存变量操作的会话。save_path: String类型，用于指定训练结果的保存路径。global_step: 如果提供的话，这个数字会添加到save_path后面，用于构建checkpoint文件。这个参数有助于我们区分不同训练阶段的结果。2、使用tf.train.Saver.restore方法价值模型sess: 用于加载变量操作的会话。save_path: 同保存模型是用到的的save_path参数。下面通过一个代码演示这两个函数的使用方法假设保存变量的时候是checkpoint_filepath="models/train.ckpt"saver.save(session,checkpoint_filepath)则从文件读变量取值继续训练是saver.restore(session,checkpoint_filepath)

1、解压tensor_toolbox_2.5.zip2、将解压出来的文件夹tensor_toolbox_2.5拷贝到malab安装文件中的toolbox文件夹下，并将tensor_toolbox_2.5改名为tensor_toolbox3、启动malab，在matlab窗口中中找到Current Folder，从根目录中找到tensor_toolbox文件夹4、在matlab窗口中运行以下命令：addpath(pwd) %<-- Add the tensor toolbox to the MATLAB pathcd met; addpath(pwd) %<-- Also add the met directorysavepath %<-- Save for future MATLAB sessions参考网址及下载地址：http://www.sandia.gov/~tgkolda/TensorToolbox/thankyou-2.5.html

TensorFlow2.0不支持tensor在GPU和CPU之间相互转移？（） A.TRUEB.FALSE正确答案：B

个人反而是比较推荐游戏显卡. 当然当张是比不上专业显卡如tesla系列, 但专业显卡常常是数倍的价格, 但速度并不是数倍, 因此不如多买几张游戏显卡, 比较有效.

1、解压tensor_toolbox_2.5.zip 2、将解压出来的文件夹tensor_toolbox_2.5拷贝到malab安装文件中的toolbox文件夹下，并将tensor_toolbox_2.5改名为tensor_toolbox 3、启动malab，在matlab窗口中中找到Current Folder，从根目录中找到tensor_tool.

from tensorflow.python import pywrap_tensorflowimport osmodel_dir = "your model directory"checkpoint_path = os.path.join(model_dir, "model.ckpt")reader = pywrap_tensorflow.NewCheckpointReader(checkpoint_path)var_to_shape_map = reader.get_variable_to_shape_map()for key in var_to_shape_map:print("tensor_name: ", key)#print(reader.get_tensor(key)) # Remove this if you want to print only variable names

定义一个稀疏tensor。 将一个稀疏tensor转换成稠密tensor。 计算ctc_loss。 主要参数1：labels: int32 SparseTensor 是数据的真实标签，一般是先用sparse_placeholder()，然后在session中feed训练数据batch_y。batch_y为 SparseTensor 利用sparse_tuple_from(y)函数计算得到。 sparse_tuple_from(y)函数的输入是在train_y中随机选择大小为 batch_size 的数据，输出是一个(indices, values, shape)形式的三元组。 主要参数2：inputs:是三维 float Tensor .logits是网络向前传播inference计算的结果。形状为[max_time_step, batch_size, num_classes]这里的num_classes是中文字典的大小，及992个汉字加1个空白，所以num_classes=993。输入图像经过卷积之后的大小为[batch_size, 11, 1, 512]，max_time_step=512,是通道数，可以看作是512个图片特征序列。 主要参数3：sequence_length：一维 int32 向量【注意是向量，不是 Tensor ！！！】长度为batch_size（批处理大小）,值为max_len（ctc的最大输出长度，这个长度是自己定义的！合理即可！）的可以按照下面的方式定义。 占位符。在session中feed训练数据。

5月12日消息，今日凌晨，谷歌I/O2022开发者大会正式开幕。开发者大会上，谷歌接连发布了五款硬件新品，包括智能手机、智能手表、TWS耳机、平板电脑和一款概念AR眼镜。其中，谷歌Pixel平板电脑为娱乐用途设计，但需到2023年才会上市。这也是谷歌自2018年推出搭载Chrome操作系统的PixelSlate以来首次推出平板电脑。PixelSlate此前曾拥有后继机型，但谷歌随后表示将停止平板电脑的计划。在此之前，最后一款运行Android系统的谷歌平板电脑是2015年推出的PixelC。谷歌表示，计划让这款Pixel平板电脑成为“Pixel手机的完美伴侣”。此外，2023款Pixel平板电脑将与手机一样搭载GoogleTensor芯片。不过，谷歌并未透露这款平板电脑的价格。预告图显示，Pixel平板电脑正面采用白色边框，搭配后置单摄设计，谷歌G标识下方为四个白色触点，拥有灰白和绿灰两款配色。

原因之一是因为没有把tensor toolbox 的路径加到matlab工具包下将tensor包拷贝到matlab的安装文件下的toolbox文件目录下，然后在matlab中运行addpath D:/MATLAB/toolbox/tensor toolbox（中间的目录依个人而定） ，然后运行 help ‘tensor"，若成功则安装成功

无论怎样，都要相信自己前途无量

训练完一个模型后，为了以后重复使用，通常我们需要对模型的结果进行保存。如果用Tensorflow去实现神经网络，所要保存的就是神经网络中的各项权重值。建议可以使用Saver类保存和加载模型的结果。1、使用tf.train.Saver.save()方法保存模型sess: 用于保存变量操作的会话。save_path: String类型，用于指定训练结果的保存路径。global_step: 如果提供的话，这个数字会添加到save_path后面，用于构建checkpoint文件。这个参数有助于我们区分不同训练阶段的结果。2、使用tf.train.Saver.restore方法价值模型sess: 用于加载变量操作的会话。save_path: 同保存模型是用到的的save_path参数。下面通过一个代码演示这两个函数的使用方法假设保存变量的时候是checkpoint_filepath="models/train.ckpt"saver.save(session,checkpoint_filepath)则从文件读变量取值继续训练是saver.restore(session,checkpoint_filepath)

基本使用使用 TensorFlow, 你必须明白 TensorFlow:使用图 （graph） 来表示计算任务。在被称之为 会话 （Session） 的上下文 （context） 中执行图。使用 tensor 表示数据。通过 变量 （Variable） 维护状态。使用 feed 和 fetch 可以为任意的操作（arbitrary operation） 赋值或者从其中获取数据。综述TensorFlow 是一个编程系统， 使用图来表示计算任务。 图中的节点被称之为 op（operation 的缩写）。 一个 op 获得 0 个或多个 Tensor, 执行计算，产生 0 个或多个 Tensor. 每个 Tensor 是一个类型化的多维数组。例如， 你可以将一小组图像集表示为一个四维浮点数数组，这四个维度分别是 [batch, height, width, channels].一个 TensorFlow 图描述了计算的过程。 为了进行计算， 图必须在 会话 里被启动。会话 将图的 op 分发到诸如 CPU 或 GPU 之类的 设备 上， 同时提供执行 op 的方法。这些方法执行后， 将产生的 tensor 返回。 在 Python 语言中， 返回的 tensor 是numpy ndarray 对象； 在 C 和 C++ 语言中， 返回的 tensor 是tensorflow::Tensor 实例。计算图TensorFlow 程序通常被组织成一个构建阶段和一个执行阶段。 在构建阶段， op 的执行步骤被描述成一个图。 在执行阶段， 使用会话执行执行图中的 op.例如， 通常在构建阶段创建一个图来表示和训练神经网络， 然后在执行阶段反复执行图中的训练 op.TensorFlow 支持 C, C++, Python 编程语言。 目前， TensorFlow 的 Python 库更加易用，它提供了大量的辅助函数来简化构建图的工作， 这些函数尚未被 C 和 C++ 库支持。三种语言的会话库 （session libraries） 是一致的。构建图构建图的第一步， 是创建源 op （source op）。 源 op 不需要任何输入， 例如 常量 （Constant）。 源 op 的输出被传递给其它 op 做运算。Python 库中， op 构造器的返回值代表被构造出的 op 的输出， 这些返回值可以传递给其它op 构造器作为输入。TensorFlow Python 库有一个默认图 （default graph）， op 构造器可以为其增加节点。 这个默认图对许多程序来说已经足够用了。 阅读 Graph 类 文档

不知道是什么开发语言，JAVA中可以如下：List转换为Array可以这样处理：ArrayListlist=newArrayList();String[]strings=newString[list.size()];list.toArray(strings);反过来，如果要将数组转成List怎么呢？如下：String[]s={"a","b","c"};Listlist=java.util.Arrays.asList(s);

[1] 【Pytorch | Tensorflow】--- label与one-hot独热编码向量之间的相互转换 [2] Pytorch中，将label变成one hot编码的两种方式 [3] Pytorch中，将label变成one hot编码的两种方式 [4] Pytorch 类别标签转换one-hot编码

用tf.train.saver方法保存和恢复参数，然后运行一下图不更新参数就好了

import tensorflow as tf# 创建一个常量op， 产生一个1x2矩阵，这个op被作为一个节点# 加到默认视图中# 构造器的返回值代表该常量op的返回值matrix1 = tr.constant([[3., 3.]])# 创建另一个常量op, 产生一个2x1的矩阵matrix2 = tr.constant([[2.], [2.]])# 创建一个矩阵乘法matmul op，把matrix1和matrix2作为输入：product = tf.matmul(matrix1, matrix2)

矢量用黑体；张量用简体

import tensorflow as tf# 创建一个常量op， 产生一个1x2矩阵，这个op被作为一个节点# 加到默认视图中# 构造器的返回值代表该常量op的返回值matrix1 = tr.constant([[3., 3.]])# 创建另一个常量op, 产生一个2x1的矩阵matrix2 = tr.constant([[2.], [2.]])# 创建一个矩阵乘法matmul op，把matrix1和matrix2作为输入：product = tf.matmul(matrix1, matrix2)

见图，简单明了

下列属性中TensorFlow2.0不支持创建tensor的方法是？（） A.zerosB.fillC.createD.constant正确答案：C

基本使用使用 TensorFlow, 你必须明白 TensorFlow:使用图 (graph) 来表示计算任务.在被称之为 会话 (Session) 的上下文 (context) 中执行图.使用 tensor 表示数据.通过 变量 (Variable) 维护状态.使用 feed 和 fetch 可以为任意的操作(arbitrary operation) 赋值或者从其中获取数据.综述TensorFlow 是一个编程系统, 使用图来表示计算任务. 图中的节点被称之为 op(operation 的缩写). 一个 op 获得 0 个或多个 Tensor, 执行计算,产生 0 个或多个 Tensor. 每个 Tensor 是一个类型化的多维数组.例如, 你可以将一小组图像集表示为一个四维浮点数数组,这四个维度分别是 [batch, height, width, channels].一个 TensorFlow 图描述了计算的过程. 为了进行计算, 图必须在 会话 里被启动.会话 将图的 op 分发到诸如 CPU 或 GPU 之类的 设备 上, 同时提供执行 op 的方法.这些方法执行后, 将产生的 tensor 返回. 在 Python 语言中, 返回的 tensor 是numpy ndarray 对象; 在 C 和 C++ 语言中, 返回的 tensor 是tensorflow::Tensor 实例.计算图TensorFlow 程序通常被组织成一个构建阶段和一个执行阶段. 在构建阶段, op 的执行步骤被描述成一个图. 在执行阶段, 使用会话执行执行图中的 op.例如, 通常在构建阶段创建一个图来表示和训练神经网络, 然后在执行阶段反复执行图中的训练 op.TensorFlow 支持 C, C++, Python 编程语言. 目前, TensorFlow 的 Python 库更加易用,它提供了大量的辅助函数来简化构建图的工作, 这些函数尚未被 C 和 C++ 库支持.

眼看着市场上折叠屏手机越来越多，谷歌终于坐不住了。近日疑似谷歌折叠屏手机PixelFold被曝光，虽然说有就是好事，但这款手机的搭载的处理器却让人颇感意外。据悉，新款谷歌PixelFold折叠屏手机搭载的处理器参数与Pixel7系列上使用的TensorG2相同，TensorG2使用的是三星5nm制程工艺打造，在之前的曝光中，TensorG2的性能勉强与骁龙888持平，在游戏方面甚至只能对标骁龙870。PixelFold采用内外屏内折设计，内屏分辨率为1840*2208，尺寸为123mm*148mm，峰值亮度为1200尼特，平均亮度为800尼特，但不确定是否支持高刷新率。手机的后置影像模组与Pixel7系列保持统一风格，但并没有一直延伸到边缘，不过让人意外的是，手机共有两个9.5MP前置镜头。其他方面，PixelFold共有黑白两款，其定价为1799美元，约合12549.4元人民币，这个价和三星GalaxyFold4的定价一模一样。王者之心2点击试玩

蓝海大脑高性能计算液冷服务器事业部杨博士：并不是Tensor Core在HPC应用里面，因为精度的关系用不上就是浪费，不管是FP64的Tensor Core还是更低精度的Tensor Core，有一些是直接就可以用起来，像64位的矩阵乘，如果HPC应用里面有大量的double矩阵乘，直接就可以获得很好的加速，精度也不会有任何的影响。甚至很多的HPC任务里面，用更低的精度做一些前期的快速迭代，之前应该是有很多的研究的文章，并不是Tensor Core在HPC应用里才能用起来，其实有很多的应用。另外也不能简简单单的理解成把一个FP32的矩阵乘能用几个FP16或其他精度的一些矩阵乘去做替代，好像数值上也是不可行的，它并不是一个简单的等价关系，而是从很多的迭代算法里面，用一些更低精度，其实可以对于更高精度可以做一些数值上的逼近。

一、环境TensorFlow API r1.12CUDA 9.2 V9.2.148cudnn64_7.dllPython 3.6.3Windows 10二、官方说明1、tf.shape(tensor)参数：input：张量或稀疏张量name：可选参数，操作的名称out_type：可选参数，指定输出张量的数据类型（int32 或 int64），默认是 tf.int32返回：指定 out_type 数据类型的张量2、tensor.shape张量的形状属性返回一个表示该张量的形状 tf.TensorShape对于每个操作，通过注册在 Op 中的形状推断函数来计算该张量的形状，形状表示的更多信息请参考 tf.TensorShape

sess.run( tf.size(tensor) )

最近想用pytorch识别本地的图片库，于是打算用一个最基础的网络，没有用到Conv 由cv2读取本地图形方式为： 第一行选取图形目录，cv2.IMREAD_GRAYSCALE为转为灰度 第二行为转为tensor形式，可以进入计算 基础的网络如下： 这里还需要一个y来表示样本的种类。 目前困惑 ： 这里有个x，y的例子，但是x是每一行一个y对应，对于一个非向量的矩阵块，我还不明白怎么进行分类。 初步想法 ： 如果有大佬看到希望能给予小白指导orz

目前市面上的主流旗舰手机，无非是搭载了高通骁龙8Gen1芯片、天玑9000芯片、苹果A15仿生处理器、谷歌Tensor芯片，其中主流的旗舰手机搭载的骁龙8Gen1芯片和苹果A15仿生处理器这两款，并且深受消费者的欢迎。 而这四款芯片目前具备代表性的旗舰手机，分别为三星S22Ultra、红米K50Pro、iPhone13ProMax、谷歌Pixel6Pro，那么搭载这四款芯片的手机，在性能方面都有哪些差距呢，让我们一起来看下整个测试过程。 第一轮的测试环节，是在三星S22Ultra、红米K50Pro、iPhone13ProMax、谷歌Pixel6Pro这四部手机上，连续打开同样数量的软件，然后分别记录所耗费的时间。打开同样数量的软件，iPhone13ProMax耗费的时间最少，为1分35秒。第二名是三星S22Ultra，耗时为1分56秒。第三名是红米K50Pro，耗时为2分钟2秒。而谷歌Pixel6Pro排名第四，耗时为2分钟13秒。 在机身温度的表现方面，三星S22Ultra、红米K50Pro、iPhone13ProMax、谷歌Pixel6Pro的机身温度，分别为32 、33.6 、32.2 、32.3 ，三星S22Ultra的机身温度最低，红米K50Pro的机身温度最高。 第二轮测试环节是在三星S22Ultra、红米K50Pro、iPhone13ProMax、谷歌Pixel6Pro上运行软件的视频解码测试，这个测试环节也比较考验手机的性能表现。 从测试结果来看，视频解码速度最快的，是iPhone13ProMax，耗时20秒。视频解码排名第二的是三星S22Ultra，耗时30秒。视频解码速度排名第三的是红米K50Pro，耗时32秒。而视频解码速度垫底的是谷歌Pixel6Pro耗时36秒。 视频解码速度测试的结果和软件打开速度测试的结果基本上一致，这四部手机的排名在两个测试环节中也基本上一致。 第三个测试环节是运行软件解压缩测试，这四部手机对于软件解压缩的表现也完全不同。 软件解压缩排名第一的，依然是iPhone13ProMax，耗时为14秒。排名第二的是谷歌Pixel6Pro，耗时为19秒。第三名是三星S22Ultra，耗时为22秒。第四名则是红米K50Pro，耗时为25秒。 第三轮的测试结果发生了变化，谷歌Tensor处理器的表现跃居第二名，比第一轮和第二轮的测试环节表现都要出色。 最后一轮测试，是在三星S22Ultra、红米K50Pro、iPhone13ProMax、谷歌Pixel6Pro上运行GeekBench和安兔兔软件跑分。 GeekBench的跑分结果为，多核分别是3237分、4132分、4728分、2427分。安兔兔跑分测试结果为，904260分、961112分、813448分、589731分。 从两款不同的软件中的跑分可以看出来，这四部手机的跑分结果和排名也是完全不同，看样子这两款软件的侧重点也完全不同。 从多轮的测试结果来看，表现最好的依然是搭载苹果A15仿生处理器的iPhone13ProMax，除了安兔兔跑分的结果不高之外，在GeekBench的跑分和实际测试环节中的表现都非常优秀。所以如果预算充足的话，性能旗舰手机还是首选iPhone13ProMax，因为从使用体验上来看，iPhone13ProMax在多种测试环节中的表现是最好的，性能是最强的。

类型转换同上同上创建数组同上 stronglily: python numpy操作以及用pytorch在服务器训练模型中遇到的一些问题以及一些论文解释(conv-tasnet) scipy.signal的函数 Python保留两位...

在numpy里取矩阵数据非常方便，比如： 这样就把矩阵a中的1,3,5行取出来了。 如果是只取某一维中单个索引的数据可以直接写成 tensor[:, 2] , 但如果要提取的索引不连续的话，在tensorflow里面的用法就要用到tf.gather. tf.gather_nd允许在多维上进行索引: matrix中直接通过坐标取数（索引维度与tensor维度相同）: 取第二行和第一行: 3维tensor的结果: 另外还有tf.batch_gather的用法如下： tf.batch_gather(params, indices, name=None) Gather slices from params according to indices with leading batch dims. This operation assumes that the leading dimensions of indices are dense, and the gathers on the axis corresponding to the last dimension of indices . Therefore params should be a Tensor of shape [A1, ..., AN, B1, ..., BM], indices should be a Tensor of shape [A1, ..., AN-1, C] and result will be a Tensor of size [A1, ..., AN-1, C, B1, ..., BM] . 如果索引是一维的tensor，结果和 tf.gather 是一样的.

为 会话 (Session) 的上下文 (context) 中执行图. 使用 tensor 表示数据. 通过 变量 (Variable) 维护状

原因之一是因为没有把tensortoolbox的路径加到matlab工具包下将tensor包拷贝到matlab的安装文件下的toolbox文件目录下，然后在matlab中运行addpathD:/MATLAB/toolbox/tensortoolbox（中间的目录依个人而定），然后运行help‘tensor"，若成功则安装成功

local part2 = self.convModel:forward({linputs, rinputs})local length = part2:size(1)local file = io.open("/home/xbwang/Desktop/part2original","a")for j = 1,length donumber = part2[j]file:write(tostring(number).." ")end

进口的当然OK啦

使用反向传播法训练神经网络时，模型的参数依据损失函数与对应参数的梯度来调整，即： 自动微分 是机器学习工具包必备的工具，它可以自动计算整个计算图的微分。 PyTorch 内建了一个叫做 torch.autograd 的自动微分引擎，该引擎支持的数据类型为：浮点数Tensor类型 ( half, float, double and bfloat16) 和复数Tensor 类型(cfloat, cdouble) PyTorch 中与自动微分相关的常用的Tensor属性和函数： TensorFlow 通过 tf.GradientTape API来自动追踪和计算微分，GradientTape，翻译为微分带，Tape有点儿历史上磁带机的味道，即在Tape上记录下所有的计算和计算结果。 tf.GradientTape 在tf.Variable而非tf.Tensor上计算，因为在TensorFlow中，tf.Tensor为不可变对象，tf.Variable为可变对象；通常 用tf.Variable来存储模型参数 。 tf.Variable 有一个trainable属性，该属性tf.Tensor没有，类似PyTorch Tensor的requires_grad, 即告知自动微分引擎是否追踪该tf.Variable，并自动计算该tf.Variable的微分。 范例： 从上述可以看到，TensorFlow的自动微分实现方式与PyTorch大不相同，而且 没有把参数和参数的微信封装成一个对象，这点非常不User-Friendly，或者说封装的不好 ！ 为了方便实现模型，模型的参数，与模型参数的微分，TensorFlow又提供了另外一套机制： 模型的微分(Gradients with respect to a model) , 意思是：TensorFlow开发团队也知道了用tf.Variable实现模型参数，然后用tape.gradient()方法计算微分，tf.Variable和它对应的微分是分离的，是没有封装好的，这种方式对开发者不友好，所以，TensorFlow开发者团队对于构建模型的基础类： tf.Module 或者它的子类 ( layers.Layer , keras.Model )，提供了一个 Module.trainable_variables 的属性，该属性把模型参数都封装好了，使用起来比较方便。不过对应微分还是没封装，坚持自己的个性...对于我们开发者，还是选择遵循... 范例： 参考资料：

>>> arr[[10, 11, 12, 13, 14, 15, 16, 17, 18, 19],[11, 12, 13, 14, 15, 16, 17, 18, 19, 20],[12, 13, 14, 15, 16, 17, 18, 19, 20, 21],[13, 14, 15, 16, 17, 18, 19, 20, 21, 22],[14, 15, 16, 17, 18, 19, 20, 21, 22, 23],[15, 16, 17, 18, 19, 20, 21, 22, 23, 24],[16, 17, 18, 19, 20, 21, 22, 23, 24, 25],[17, 18, 19, 20, 21, 22, 23, 24, 25, 26],[18, 19, 20, 21, 22, 23, 24, 25, 26, 27],[19, 20, 21, 22, 23, 24, 25, 26, 27, 28],[20, 21, 22, 23, 24, 25, 26, 27, 28, 29],[21, 22, 23, 24, 25, 26, 27, 28, 29, 30]]>>> l = [x[0] for x in arr]>>> l[10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21]>>>

知道thunder不错

谷歌手机的影像系统一直都是一大卖点，这次谷歌Pixel 7 Pro还可能搭载了一颗潜望式长焦镜头，其拍照能力或许值得我们期待。核心SoC上，

可以直接取tensor变量的一部分，但是不能给tensor变量赋值>>> import numpy as np>>> import theano>>> from theano.tensor.basic import as_tensor_variable>>> b=np.random.rand(4,2)>>> m=as_tensor_variable(b)>>> m[0][0]Subtensor{int64}.0>>> n=m[0][0] #取m的第一个值，n是Subtensor>>> nSubtensor{int64}.0>>> n.eval()array(0.3710058805503049)>>> m.eval()array([[ 0.37100588, 0.95565751],[ 0.86516759, 0.94976681],[ 0.09564244, 0.65019287],[ 0.59892358, 0.4180284 ]])>>> type(m)<class "theano.tensor.var.TensorConstant">>>> m[0][0]=0Traceback (most recent call last):File "<stdin>", line 1, in <module>TypeError: "TensorVariable" object does not support item assignment>>> m[0][0].eval()=0File "<stdin>", line 1SyntaxError: can"t assign to function call>>> n =m[1:3] #取m的第23行>>> n.eval()array([[ 0.86516759, 0.94976681],[ 0.09564244, 0.65019287]])

调试程序时候，有时候需要打印tensor的值的时候，直接print显示的是如下tensor的shape、dtype等信息 使用如下方法可打印tensor值 结果：

我们已经知道pytorch的tensor由“头信息区”和“storage”两部分组成，其中tensor的实际数据是以一维数组（storage）的方式存于某个连续的内存中的。。 view 从字面意思上就是“ 视图 ”的意思，就是将原tensor以某种排列方式展示给我们， view()不会改变原storage、也不会新建storage，只新建头信息区 。 本质上， view()返回的是针对一维storage的某种排列视图，并且这种视图只能是连续、等距切分storage再连续竖向叠加形成的视图，不能跳跃式切分 ，如下图例子。 注意：如果tensor是不连续的，则不能使用view()（ https://www.jianshu.com/p/51678ea7a959 ）。 我们知道，tensor不连续是不能使用 view() 方法的。 只有将不连续tensor转化为连续tensor（利用contiguous()， https://www.jianshu.com/p/51678ea7a959 ）后，才能使用view()。 reshape()正是先完成连续化，然后再进行view() 。 reshape() 和 view() 的区别： （1）当 tensor 满足连续性要求时，reshape() = view()，和原来 tensor 共用存储区； （2）当 tensor不满足连续性要求时，reshape() = **contiguous() + view()，会产生有新存储区的 tensor，与原来tensor 不共用存储区。 前面说到的 view()和reshape()都必须要用到全部的原始数据，比如你的原始数据只有12个，无论你怎么变形都必须要用到12个数字，不能多不能少。因此你就不能把只有12个数字的 tensor 强行 reshap 成 2×5 的。 但是 resize_() 可以做到，无论原始存储区有多少个数字，我都能变成你想要的维度，数字不够怎么办？随机产生凑！数字多了怎么办？就取我需要的部分！ 1.截取时： 会改变原tensor a，但不会改变storage（地址和值都不变），且a和b共用storage（这里是2638930351680 ）。 2.添加时：会改变原tensor a，且会改变storage（地址和值都变），但a和b还是共用storage（这里是2638924338752 ）。

Tensor 是 TensorFlow 中基础的计算单元，它包括以下四个主要组成部分： 当不知道某个维度的大小时， 可以用 None 代替， 表示 Unknown 实际使可能遇到的几种Shape 的情况 因为TensorFlow 是先定义， 后执行， 有些信息在运行 Computation Graph 的时候再运算， 所以会出现上述在定义时， 未知的情况。 参考文档： [1] Understanding Tensorflow"s tensors shape: static and dynamic, Paolo Galeone, 01/28/2018

可以利用in运算符来进行判断。如果在指定的序列中找到值返回True，否则返回False。运算符notin表示如果在指定的序列中没有找到值返回True，否则返回False。Python字典in操作符用于判断键是否存在于字典中，如果键在字典dict里返回true，否则返回false。此方法用于列表可以判断元素是否在列表中。

ValueError:only one element tensors can be converted to Python scalars问题解答 1.1 list 转 numpy ndarray = np.array(list) 1.2 numpy 转 list list = ndarray.tolist() 2.1 list 转 torch.Tensor tensor=torch.Tensor(list) 2.2 torch.Tensor 转 list 先转numpy，后转list list = tensor.numpy().tolist() 3.1 torch.Tensor 转 numpy ndarray = tensor.numpy() *gpu上的tensor不能直接转为numpy ndarray = tensor.cpu().numpy() 3.2 numpy 转 torch.Tensor tensor = torch.from_numpy(ndarray)

数据的预处理以及数据集的构建会经常使用到tensor的切分操作，现整理如下： 功能 ：输入数据与想要切分的块数 chunks ，将数据尽可能 (如果数据个数与块数能整除的话) 平均的切分为 chunks 块 注意 ：没有进行数据的拷贝 参数 Test Output 功能 ： 注意 ：没有对输入数据进行拷贝 参数 ： Test 1 输入整型数据 Output 1 Test 2 输入为整型序列 Output 功能 ：torch支持numpy中对数据的切片操作 Test Output 功能 ：删除tensor的一个维度，返回各个子块组成的 tuple 参数 ： Test Output 感谢你的阅读，如果文中存在错误，还请在评论区指出~

tensorg2芯片相当于骁龙888处理器。GoogleTensor芯片相当于骁龙888处理器，GoogleTensorG2芯片单核成绩是1068，多核成绩是3149，而骁龙888处理器Geekbench单核成绩在1100分左右。谷歌TensorG2处理器由两颗CortexX1超大核、两颗CortexA76大核和四颗CortexA55小核组成，基于三星4nm工艺制程打造，CPU性能仅仅提升了10％左右。GoogleTensorG2超大核CortexX1主频仅提升50MHz，达到2、85GHz，CortexA76大核提升100MHz，达到2、35GHz，其对手高通骁龙8＋CPU超大核主频达到了3、2GHz。谷歌自研Tensor处理器芯片由GooglePixel7Pro首发搭载，从GoogleTensorG2跑分来看，在今年安卓旗舰阵营中，谷歌Pixel7Pro性能属于垫底级别，相比上代没有太大提升。骁龙芯片特征：骁龙是QualcommTechnologies（美国高通）旗下移动处理器和LTE调制解调器的品牌名称。骁龙处理器具备高速的处理能力，可提供令人惊叹的逼真画面以及超长续航时间。随着产品系列不断丰富，可带来目前最先进的移动体验。2013年1月，QualcommTechnologies宣布为骁龙处理器引入全新命名方式和层级，包含骁龙800系列、骁龙600系列、骁龙400系列和骁龙200系列处理器。骁龙处理器是高度集成的移动优化系统级芯片（SoC），它结合了业内领先的3G/4G移动宽带技术与强大的多媒体功能、3D图形功能和GPS引擎，可为移动终端带来极高的处理速度、极低的功耗、逼真的多媒体和全面的连接性。以上内容参考：百度百科-骁龙

我们的目的是要用数学量来表示物理量，可是标量加上向量，都不足以表达所有的物理量，所以就需要扩大数学量的概念，张量就出现了。 几何代数中定义的张量是基于向量和矩阵的推广，通俗一点理解的话，我们可以将标量视为零阶张量，矢量视为一阶张量，那么矩阵就是二阶张量。 张量的严格定义是利用线性映射来描述的。与矢量相类似，定义由若干坐标系改变时满足一定坐标转化关系的有序数组成的集合为张量。 从几何角度讲， 它是一个真正的几何量，也就是说，它是一个不随参照系的坐标变换（其实就是基向量变化）而变化的东西。最后结果就是基向量与对应基向量上的分量的组合（也就是张量）保持不变，比如一阶张量（向量） a 可表示为 a = x* i + y* j 。由于基向量可以有丰富的组合，张量可以表示非常丰富的物理量。 换一种定义方式 一个(p,q)型张量，就是一个映射： 啰嗦一下 如果一个物理量，在物体的某个位置上只是一个单值，那么就是普通的标量，比如密度。如果它在同一个位置、从不同的方向上看，有不同的值，而且这个数恰好可以用矩阵乘观察方向来算出来，就是张量。 张量积这种东西有很多种理解方式，在不同的语境下面会有不同的看法。但是如果拿来跟矩阵乘积比较的话，我觉得比较好的说法是，张量积是一种万有乘积，而矩阵乘法是一种具体化。 我们现在手里有很多矩阵，然后希望把两个矩阵乘起来。一开始肯定想不到怎么乘，但是可以猜一些乘积的最基本的性质，比如说要和数乘是匹配的，也要和加法匹配也就是分配律。不管这个乘积是什么，都应当有这些基本的性质。那么这个时候张量积就出现了，他代表了最广的乘积，也是最弱的乘积，就仅仅满足上面说的那些基本性质。正因为是最弱的，所以一切具体的乘积都可以看成是从张量积的结果具体化得到的，也就是可以看成是万有乘积，或者是一个包络的乘积。 在 数学 中， 张量积 ，记为 向量可以表示什么？ 比如，我们可以用一个平面的法向量代表这个平面；物理上可以用向量代表力等。看来，向量可以表示很多东西，不过仔细想想向量也只表示了幅度（magnitude）与方向（direction）两个要素而已。 一个向量有很多种表示方式，我们可以用[0, 1]表示一个二维向量，也可以用平面、三维或更高维空间中的一条带箭头的线表示一个向量。我们都是知道（0， 0） —> （1， 1）可表示一个从（0， 0）到（1， 1）的有向线段（向量），那么，为什么可以用[0, 1]表示一个向量呢？ 根据前面的讲解，我们知道一个向量就是空间中的一条有向线段，可以用一组坐标系的基和向量相应分量的乘积组合来表示。由于坐标系有很多种定义方式，基也就有很多种，对应的分量也会有很多种，但如果大家默认使用同一套基向量，那么基向量都不需要了，此时，想要表示一个向量，只要给定这三个分量即可，比如用0, 1表示一个向量，如果加上两个括号，这就是我们在书上经常看到的向量的列表示（0， 1），三维的有（1， 2， 1）。贴一个很有爱的图

在指定的维度dim上对序列seq进行连接操作。 参数： 例子： torch.Tensor.expand( sizes)* → Tensor 返回张量的一个新视图，可以将张量的单个维度扩大为更大的尺寸。 张量也可以扩大为更高维，新增加的维度将附在前面。 扩大张量不需要分配新内存，仅仅是新建一个张量的视图。任意一个一维张量在不分配新内存情况下都可以扩展为任意的维度。 传入-1则意味着维度扩大不涉及这个维度。 参数： 例子： torch.squeeze(input, dim=None, out=None) → Tensor 除去输入张量input中数值为1的维度，并返回新的张量。如果输入张量的形状为（ [图片上传失败...(image-786ec5-1580566115084)] ），那么输出张量的形状为（ [图片上传失败...(image-a0a179-1580566115084)] ）。 当通过dim参数指定维度时，维度压缩操作只会在指定的维度上进行。如果输入向量的形状为（ [图片上传失败...(image-1088a1-1580566115084)] ），squeeze(input, 0)会保持张量的维度不变，只有在执行squeeze(input, 1)时，输入张量的形状会被压缩至（ [图片上传失败...(image-759892-1580566115084)] ）。 如果一个张量只有1个维度，那么它不会受到上述方法的影响。 输出的张量与原张量共享内存，如果改变其中的一个，另一个也会改变。 参数: 例子： torch.Tensor.repeat( sizes)* 沿着指定的维度重复张量。不同于expand()方法，本函数复制的是张量中的数据。 参数： 例子： torch.Tensor.unfold(dim, size, step) → Tensor 返回一个新的张量，其中元素复制于有原张量在dim维度上的数据，复制重复size次，复制时的步进值为step。 参数： 例子： torch.Tensor.narrow(dimension, start, length) → Tensor 返回一个经过缩小后的张量。操作的维度由dimension指定。缩小范围是从start开始到start+length。执行本方法的张量与返回的张量共享相同的底层内存。 参数： 例子： torch.Tensor.view( args)* → Tensor 返回一个有相同数据但是不同形状的新的向量。 返回的装两必须与原张量有相同的数据和相同的元素个数，但是可以有不同的尺寸。 参数： 例子： torch.Tensor.resize_( sizes)* 将张量的尺寸调整为指定的大小。如果元素个数比当前的内存大小大，就将底层存储大小调整为与新元素数目一致的大小。 如果元素个数比当前内存小，则底层存储不会被改变。原来张量中被保存下来的元素将保持不变，但新内存将不会被初始化。 参数： 例子： torch.Tensor.permute( dims)* 将执行本方法的张量的维度换位。 参数： 例子： torch.Tensor.element_size() → int 查看某类型张量单个元素的字节数。 例子：

tensor就是容纳推理框架中间数据的一个数据结构，常用的有关函数如下： 这其中第一个参数是tensor的维度信息，第二个参数是是否指定数据指针，第三个参数是数据在内存中的排布信息，如果是CAFFE证明是NCHW类型，如果是TENSORFLOW证明是NHWC类型，默认的类型是TENSORFLOW类型，这里经常会有一些坑，比如最终想要得到一个1 3 1024*1024的数据时候，如果没有指定是CAFFE类型的数据排布，而是使用默认的情况（TENSORFLOW），读出来的数据channel维度就在最后。 得到各种维度和长度： 得到shape向量和数据总数： 得到数据指针： Interpreter就是一个MNN的从模型得到的一个网络，有关Interpreter的tenosr操作，肯定就是涉及到输入的tesnor和输出的tensor的设置，由于可能在不同的设备上运行，因此可能有内存拷贝的操作。 获取Interpreter的输入tensor： 获取Interpreter的输出tensor： 将host的tensor数据拷贝给Interpreter的tensor 将Interpreter的tensor数据拷贝给host tensor

张量（tensor）理论是数学的一个分支学科，在力学中有重要应用。张量这一术语起源于力学，它最初是用来表示弹性介质中各点应力状态的，后来张量理论发展成为力学和物理学的一个有力的数学工具。张量之所以重要，在于它可以满足一切物理定律必须与坐标系的选择无关的特性。张量概念是矢量概念的推广，矢量是一阶张量。张量是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数。张量的理论来源。亚瑟·凯莱（Arthur Cayley)着力研究的不变量理论（invariant theory)导致了矩阵理论的建立，引进了现代意义上的行列式的代数表达，这成为射影几何的重要工具。凯莱的不变量理论产生于19世纪前半叶的英国着重对代数及代数在几何方面的应用研究这样的背景下。矩阵理论对线性变换的研究引进了向量的代数定义，而这是张量概念的先导。

本文是对 官方文档 的学习笔记。 Tensor 的特点： 这是一个 0 阶 Tensor， 没有“轴” 一阶 Tensor 类似一个 List， 有一个“轴” 二阶 Tensor 类似一个 Matrix ， 有两个“轴” 高阶 Tensor, 这是个 3阶 Tensor ， shape 是 [3, 2, 5] 注意：shape 的规则，最内部的数据个数， 在最后边。 比如上例， 它的shape 是 [3, 2, 5]， 意思是最内部的数组（不再包含其他数组）所包含的元素是 5个， 次内部的数组，每个包含2个元素， 以此类推。 对于一般的 Tensor 来说 tf.Tensor （之前我们讨论的） 要求内部数据形状必须是矩形 （所有轴上的数据长度相等）， 但也有比较特殊的Tensor ， 支持不规则数据形状。 Tensor 支持常见的数学运算 关于 Tensor 的词汇 关于这一段， 原文里面大部分说的很抽象， 没啥指导意义。 倒是这张图， 还有其中的一句话比较有意义。 右边的数值，更加local ，而且在内存上距离更近。 比如上面图所示， 右边的feature 就表示一个sample 的中的feature ，他们之间距离更近。 TensorFlow index 规则： 把 [3,1] shape 转换成 Python list ： as_list reshape 是转换Tensor shape 的最简单的方式 reshape 以后， Tensor 对象会更新， 新的Tensor 还指向相同的数据（The data maintains its layout in memory and a new tensor is created, with the requested shape, pointing to the same data. ） 用： tf.reshape(some_tensor, [-1]) reshape 一般用于增加、减少一个维度。对于上面 3* 2 * 3 Tensor 的例子，减少维度的例子： 如下， 改变轴的顺序应该用 tf.transpose 有人称为是动态形状 Tensor 广播是从NumPy中的等效功能中借用的概念。简而言之，在某些情况下，在对它们进行组合操作时，较小的张量会自动“拉伸”以适合较大的张量。 最简单和最常见的情况是尝试将张量乘或加到标量时。在这种情况下，标量被广播为与其他自变量相同的形状。 在大多数情况下，广播既节省时间又节省空间，因为广播操作永远不会实现内存中扩展的张量。 注意， 这不和上面广播不一样， broadcast_to 产生的新 Tensor 并不会节约内存。 TF2 中很多函数都会要求参数是 Tensor ，如果参数不是 Tensor 则会调用 convert_to_tensor 来做转换。 有些类型， 比如 ndarray， TensorShape，Python list， tf.Variable 已经“注册”了， 他们可以自动转换成 Tensor。 对于自定义类型， 可以 tf.register_tensor_conversion_function 来注册转换函数。 沿某个轴具有可变数量元素的张量称为“Ragged Tensors”。使用 tf.ragged.RaggedTensor处理不整齐的数据。 例如 普通 Tensor 处理不了长短不一的情况 tf.string是dtype，也就是说您可以将数据表示为张量中的字符串（可变长度字节数组）。 这些字符串是原子的，无法像Python字符串那样被索引。字符串的长度不是张量的轴之一。有关操作它们的功能，请参见 tf.strings 。 在上面的打印输出中，b前缀表示tf.string dtype不是unicode字符串，而是字节字符串。有关在TensorFlow中处理Unicode文本的更多信息，请参见Unicode教程。 如果传递unicode字符，则它们是utf-8编码的。 可以在tf.strings中找到一些带有字符串的基本功能，包括tf.strings.split。 其他更多关于 String Tensor ，可以参考 string_tensors Sparse tensors 用来存储稀疏矩阵类型的数据。

张量积(tensorproduct)，可以应用于不同的上下文中如向量、矩阵、张量、向量空间、代数、拓扑向量空间和模。在各种情况下这个符号的意义是同样的:最一般的双线性运算。在某些上下文中也叫做外积。tensor是矩阵分析里面的张量，表示高维数组，或者叫多路数据。二阶张量就是矩阵，一阶张量就是向量。高阶SVD相对于矩阵SVD更能提取出高维数据的内在结构。Vector类在java中可以实现自动增长的对象数组;vector在C++标准模板库中的部分内容，它是一个多功能的，能够操作多种数据结构和算法的模板类和函数库。(1)矢量：具有方向性的量。(2)编程语言方面：vector是C++标准模板库中的部分内容，中文偶尔译作“容器”，但并不准确。它是一个多功能的，能够操作多种数据结构和算法的模板类和函数库。vector之所以被认为是一个容器，是因为它能够像容器一样存放各种类型的对象，简单地说，vector是一个能够存放任意类型的动态数组，能够增加和压缩数据。

张量积(tensor product) ，可以应用于不同的上下文中如向量、矩阵、张量、向量空间、代数、拓扑向量空间和模。在各种情况下这个符号的意义是同样的: 最一般的双线性运算。在某些上下文中也叫做外积。tensor是矩阵分析里面的张量，表示高维数组，或者叫多路数据。二阶张量就是矩阵，一阶张量就是向量。高阶SVD相对于矩阵SVD更能提取出高维数据的内在结构。 Vector 类在 java 中可以实现自动增长的对象数组; vector在C++标准模板库中的部分内容，它是一个多功能的，能够操作多种数据结构和算法的模板类和函数库。 (1) 矢量：具有方向性的量。 (2) 编程语言方面：vector是C++标准模板库中的部分内容，中文偶尔译作“容器”，但并不准确。它是一个多功能的，能够操作多种数据结构和算法的模板类和函数库。vector之所以被认为是一个容器，是因为它能够像容器一样存放各种类型的对象，简单地说，vector是一个能够存放任意类型的动态数组，能够增加和压缩数据。

《TensorFlow技术解析与实战》（李嘉璇）电子书网盘下载免费在线阅读链接: https://pan.baidu.com/s/1kxBpzF0gnULukMTvNi2ecg 提取码: u5df书名：TensorFlow技术解析与实战作者：李嘉璇豆瓣评分：5.6出版社：人民邮电出版社出版年份：2017-6-1页数：316内容简介：TensorFlow 是谷歌公司开发的深度学习框架，也是目前深度学习的主流框架之一。本书从深度学习的基础讲起，深入TensorFlow框架原理、模型构建、源代码分析和网络实现等各个方面。全书分为基础篇、实战篇和提高篇三部分。基础篇讲解人工智能的入门知识，深度学习的方法，TensorFlow的基础原理、系统架构、设计理念、编程模型、常用API、批标准化、模型的存储与加载、队列与线程，实现一个自定义操作，并进行TensorFlow源代码解析，介绍卷积神经网络（CNN）和循环神经网络（RNN）的演化发展及其TensorFlow实现、TensorFlow的高级框架等知识；实战篇讲解如何用TensorFlow写一个神经网络程序并介绍TensorFlow实现各种网络（CNN、RNN和自编码网络等）并对MNIST数据集进行训练，讲解TensorFlow在人脸识别、自然语言处理、图像和语音的结合、生成式对抗网络等方面的应用；提高篇讲解TensorFlow的分布式原理、架构、模式、API，还会介绍TensorFlow XLA、TensorFlow Debugger、TensorFlow和Kubernetes结合、TensorFlowOnSpark、TensorFlow移动端应用，以及TensorFlow Serving、TensorFlow Fold和TensorFlow计算加速等其他特性。最后，附录中列出一些可供参考的公开数据集，并结合作者的项目经验介绍项目管理的一些建议。作者简介：李嘉璇，创建TensorFlow交流社区，活跃于国内各大技术社区，知乎编程问题回答者。致力于人工智能的研究，对深度学习框架的架构、源码分析及在不同领域的应用有浓厚兴趣。有过上百篇论文阅读和深度学习经验，处理图像、社交文本数据情感分析、数据挖掘经验，参与过基于深度学习的自动驾驶二维感知系统Hackathon竞赛，曾任职百度研发工程师。

基本使用使用 TensorFlow, 你必须明白 TensorFlow:使用图 （graph） 来表示计算任务。在被称之为 会话 （Session） 的上下文 （context） 中执行图。使用 tensor 表示数据。通过 变量 （Variable） 维护状态。使用 feed 和 fetch 可以为任意的操作（arbitrary operation） 赋值或者从其中获取数据。综述TensorFlow 是一个编程系统， 使用图来表示计算任务。 图中的节点被称之为 op（operation 的缩写）。 一个 op 获得 0 个或多个 Tensor, 执行计算，产生 0 个或多个 Tensor. 每个 Tensor 是一个类型化的多维数组。例如， 你可以将一小组图像集表示为一个四维浮点数数组，这四个维度分别是 [batch, height, width, channels].一个 TensorFlow 图描述了计算的过程。 为了进行计算， 图必须在 会话 里被启动。会话 将图的 op 分发到诸如 CPU 或 GPU 之类的 设备 上， 同时提供执行 op 的方法。这些方法执行后， 将产生的 tensor 返回。 在 Python 语言中， 返回的 tensor 是numpy ndarray 对象； 在 C 和 C++ 语言中， 返回的 tensor 是tensorflow::Tensor 实例。计算图TensorFlow 程序通常被组织成一个构建阶段和一个执行阶段。 在构建阶段， op 的执行步骤被描述成一个图。 在执行阶段， 使用会话执行执行图中的 op.例如， 通常在构建阶段创建一个图来表示和训练神经网络， 然后在执行阶段反复执行图中的训练 op.TensorFlow 支持 C, C++, Python 编程语言。 目前， TensorFlow 的 Python 库更加易用，它提供了大量的辅助函数来简化构建图的工作， 这些函数尚未被 C 和 C++ 库支持。三种语言的会话库 （session libraries） 是一致的。构建图构建图的第一步， 是创建源 op （source op）。 源 op 不需要任何输入， 例如 常量 （Constant）。 源 op 的输出被传递给其它 op 做运算。Python 库中， op 构造器的返回值代表被构造出的 op 的输出， 这些返回值可以传递给其它op 构造器作为输入。TensorFlow Python 库有一个默认图 （default graph）， op 构造器可以为其增加节点。 这个默认图对许多程序来说已经足够用了。 阅读 Graph 类 文档

TensorFlow是谷歌基于DistBelief进行研发的第二代人工智能学习系统，其命名来源于本身的运行原理。Tensor（张量）意味着N维数组，Flow（流）意味着基于数据流图的计算，TensorFlow为张量从图象的一端流动到另一端计算过程。TensorFlow是将复杂的数据结构传输至人工智能神经网中进行分析和处理过程的系统。TensorFlow可被用于语音识别或图像识别等多项机器深度学习领域，对2011年开发的深度学习基础架构DistBelief进行了各方面的改进，它可在小到一部智能手机、大到数千台数据中心服务器的各种设备上运行。TensorFlow将完全开源，任何人都可以用。

电容率张量和渗透率张量希望采纳

结果：你会发现第一个输出与第三个一致，第二个输出和第四个一致 reduce_sum 是 tensor 内部求和的工具。其参数中： 其实在reduce_sum()中，是从维度上去考虑的（感觉这个Matlab中数据的概念比较像） 调用 reduce_sum(arg1, arg2) 时，参数 arg1 即为要求和的数据， arg2 有两个取值分别为 0 和 1 ，通常用 reduction_indices=[0] 或 reduction_indices=[1] 来传递参数。从上图可以看出，当 arg2 = 0 时，是纵向对矩阵求和，原来矩阵有几列就得到几个值；相似地，当 arg2 = 1 时，是横向对矩阵求和；当省略 arg2 参数时，默认对矩阵所有元素进行求和。 在 reduce_sum() 中就是按照求和的方式对矩阵降维。 计算张量的各个维度上的元素的平均值。 l2_loss一般用于优化目标函数中的正则项，防止参数太多复杂容易过拟合(所谓的过拟合问题是指当一个模型很复杂时，它可以很好的“记忆”每一个训练数据中的随机噪声的部分而忘记了要去“学习”训练数据中通用的趋势) 结果输出： 7.0 计算的过程: 题外话 正则化的基本思想是向损失函数添加一个惩罚项用于惩罚大的权重，隐式地减少自由参数的数量，所以可以达到弹性地适用不同数据量训练的要求而不产生过拟合的问题。 正则化方法是将惩罚因子加入到各层的参数或激活函数中。其实现位置通常是在模型的optimization里，在计算损失函数时将该惩罚因子加进去。 ( http://www.cnblogs.com/guqiangjs/p/7805098.html ) tf.trainable_variables 返回所有 当前计算图中 在获取变量时未标记 trainable=False 的变量集合. 输出

　不要为我哭泣。多么容易爱已一去不复返。　　试着去看。我是多么深绝望。　　风的命运,来。　　我所有的热泪盈眶的记忆。　　向你呼求你的名是甜蜜和谐唱歌　　但是只有回波信号消失。　　你哭的微风吹过着飘零　　那里已经沉默的眼泪　　别叹息。你讨厌环欺负我。　　试着去看。历史上的碎片。　　我的心和我的黑暗　　那是在大声笑了　　向你呼求你的名是甜蜜和谐的歌唱,　　风没完没了。　　漫游在黑暗世界粗糙的气息回旋。　　残酷的叶片和泪水在悲伤的日子。　　希望错了空心游逛祈求上帝。　　那里,所以我需要天使已一去不复返呢　　哭出来,自己轻轻盲目。　　漫游在黑暗世界粗糙的气息回旋。　　残酷的叶片和泪水在悲伤的日子。　　希望错了空心游逛祈求上帝。　　那里,所以我需要天使已一去不复返呢　　哭出来,自己轻轻盲目。　　请到我的黄昏过去要来。　　试着去看。这个崭新的黎明带来希望微弱。谢谢采纳

基本使用使用 TensorFlow, 你必须明白 TensorFlow:使用图 (graph) 来表示计算任务.在被称之为 会话 (Session) 的上下文 (context) 中执行图.使用 tensor 表示数据.通过 变量 (Variable) 维护状态.使用 feed 和 fetch 可以为任意的操作(arbitrary operation) 赋值或者从其中获取数据.综述TensorFlow 是一个编程系统, 使用图来表示计算任务. 图中的节点被称之为 op(operation 的缩写). 一个 op 获得 0 个或多个 Tensor, 执行计算,产生 0 个或多个 Tensor. 每个 Tensor 是一个类型化的多维数组.例如, 你可以将一小组图像集表示为一个四维浮点数数组,这四个维度分别是 [batch, height, width, channels].一个 TensorFlow 图描述了计算的过程. 为了进行计算, 图必须在 会话 里被启动.会话 将图的 op 分发到诸如 CPU 或 GPU 之类的 设备 上, 同时提供执行 op 的方法.这些方法执行后, 将产生的 tensor 返回. 在 Python 语言中, 返回的 tensor 是numpy ndarray 对象; 在 C 和 C++ 语言中, 返回的 tensor 是

1. 损失函数是在graph中定义的经过operation的tensor。 2.损失函数最终要带入到优化器的minimize方法中做参数。minimize方法内部包含了compute_gradients和apply_gradients方法。 3. 优化器的minimize方法返回的是operation，一般命名为train_step。 4.session的run方法的参数，如果是operation，则返回值为None；如果是tensor，则返回值是ndarray。因此sess.run(train_step,feed_dict)无返回结果，只起训练作用。 5.Variable定义时必须给出初始值。Variable是变量，其值保存在session中，session的global_variable_initializer实际上是初始值的保存。

解决方案： pip install --no-cache-dir tensorflow