您现在的位置:新闻首页>今日更新

TensorFlow Lite 深度解析

2018-07-13 00:02编辑:399534.com人气:


最新的中文技术分享视频来了!本期来自 Google 的工程师 Renmin 为大家带来 TensorFlow Lite 的深度解析视频,主要讲述 TensorFlow Lite 模型文件格式,并可视化以帮助大家记忆理解,也包含 TensorFlow Lite 的具体加载运行过程,并给出关键的数据结构描述, pk10开奖,同样以可视化的形式呈现给大家。

首先,我们需要在台式机上设计、训练出目标模型,并将其转化成 TensorFlow Lite 的格式。接着,此格式文件在 TensorFlow Lite 中会被内置了 Neon 指令集的解析器加载到内存,并执行相应的计算。由于 TensorFlow Lite 对硬件加速接口良好的支持,开发者可以设计出性能更优的 App 供用户使用。

模型文件格式Model 结构体:模型的主结构table Model {

version: uint;

operator_codes: [OperatorCode];

subgraphs: [SubGraph];

deion: string;

buffers: [Buffer]

}

在上面的 Model 结构体定义中,operator_codes定义了整个模型的所有算子,subgraphs定义了所有的子图。子图当中,第一个元素是主图。buffers属性则是数据存储区域,主要存储的是模型的权重信息。

SubGraph 结构体:Model 中最重要的部分table SubGraph {

tensors: [Tensor];

inputs: [int];

outputs: [int];

operators: [Operator];

name: string;

}

类似的,tensors属性定义了子图的各个 Tensor,而 inputsoutputs用索引的维护着子图中 Tensor 与输入输出之间的对应关系。剩下的operators定义了子图当中的算子。

Tensor 结构体:包含维度、数据类型、Buffer 位置等信息table Tensor {

shape: [int];

type: TensorType;

buffer: uint;

name: string;

}

buffer以索引量的形式,给出了这个 Tensor 需要用到子图的哪一个 buffer。

Operator 结构体:SubGraph 中最重要的结构体

Operator 结构体定义了子图的结构:

table Operator {

opcode_index: uint;

inputs: [int];

outputs: [int];

...

}

opcode_index用索引方式指明该 Operator 对应了哪个算子。 inputsoutputs则是 Tensor 的索引值,指明该 Operator 的输入输出信息。

解析器概况

那么 TensorFlow Lite 的解析器又是如何工作的呢?

一开始,终端设备会通过 mmap 以内存映射的形式将模型文件载入客户端内存中,其中包含了所有的 Tensor, pk10开奖,Operator 和 Buffer 等信息。出于数据使用的需要,TensorFlow Lite 会同时创建 Buffer 的只读区域和分配可写 Buffer 区域。

由于解析器中包含了集体执行计算的代码,这一部分被称为 Kernel。模型中的各个 Tensor 会被加载为 TfLiteTensor 的格式并集中存放在 TfLiteContext 中。

每个 Tensor 的指针都指向了内存中的只读 Buffer 区域或是一开始新分配的可写入 Buffer 区域。

模型中的 Operator 被重新加载为 TfLiteNode,它包含输入输出的 Tensor 索引值。这些 Node 对应的操作符存储于 TfLiteRegistration 中,它包含了指向 Kernel 的函数指针。OpResolver 负责维护函数指针的对应关系。

TensorFlow Lite 加载模型的过程中会确定执行 Node 的顺序,然后依次执行。

大家如果想要更好掌握 TensorFlow Lite 的技术细节,一定要阅读以下文件:

lite/context.h

lite/model.h

lite/interpreter.h

lite/kernels/register.h

希望我们的分享能让广大开发者们对 TensorFlow Lite 的代码有一个初步认识,期待看到大家精彩的作品!

另外,视频中提到的 TensorFlow Lite 的代码位置

https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/lite

模型的模式文件位于:

https://github.com/tensorflow/tensorflow/blob/master/tensorflow/contrib/lite/schema/schema.fbs

更多

腾讯视频链接:

https://v.qq.com/x/page/h0672e1j6gd.html

在 Google 官方 Bilibili 频道查看本视频 ( ゜- ゜)つロ:

https://www.bilibili.com/video/av24219725/

YouTube 播放列表: "DevBytes 开发者小技巧"

https://www.youtube.com/playlist?list=PLwv-rHS37fS_f-hjlS7-maXNPcfrPNS8J

Youku 视频播单: "DevBytes 开发者小技巧"

(来源:百山探索)

织梦二维码生成器
已推荐
0
  • 凡本网注明"来源:的所有作品,版权均属于中,转载请必须注明中,http://www.399534.com。违反者本网将追究相关法律责任。
  • 本网转载并注明自其它来源的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品来源,并自负版权等法律责任。
  • 如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。






图说新闻

更多>>