多教师网络知识蒸馏

❶ 知识蒸馏综述:网络结构搜索应用

【GiantPandaCV导语】知识蒸馏将教师网络中的知识迁移到学生网络，而NAS中天然的存在大量的网络，使用KD有助于提升超网整体性能。两者结合出现了许多工作，本文收集了部分代表性工作，并进行总结。

知识蒸馏可以看做教师网络通过提供soft label的方式将知识传递到学生网络中，可以被视为一种更高级的label smooth方法。soft label与hard label相比具有以下优点：

那么知识蒸馏在网络结构搜索中有什么作用呢？总结如下：

知识蒸馏在很多工作中作为训练技巧来使用，比如OFA中使用渐进收缩训练策略，使用最大的网络指导小网络的学习，采用inplace distillation进行蒸馏。BigNAS中则使用三明治法则，让最大的网络指导剩下网络的蒸馏。

目标：解决教师网络和学生网络的匹配问题（知识蒸馏中教师网络和学生网络匹配的情况下效果更好）。

在知识蒸馏中，选择不同的教师网络、不同的学生网络的情况下，最终学生网络的性能千差万别。如果学生网络和教师网络的容量相差过多，会导致学生难以学习的情况。Cream这篇文章就是为了解决两者匹配问题。

普通的SPOS方法如左图所示，通过采样单路径子网络进行训练。右图则是结合了知识蒸馏的方法，Cream提出了两个模块：

Cream中心思想是，子网络可以在整个训练过程中协作学习并相互教导，目的是提高单个模型的收敛性。

消融实验如下：

目标：通过教师引导各个block特征层的学习，根据loss大小评判各子网的性能。

这是一篇将NAS和KD融合的非常深的一个工作，被CVPR20接收。之前写过一篇文章进行讲解，这里简单回顾一下。

DNA是两阶段的one-shot NAS方法，因此其引入蒸馏也是为了取代普通的acc指标，提出了使用子网络与教师网络接近程度作为衡量子网性能的指标。

在训练的过程中，进行了分块蒸馏，学生网络某一层的输入来自教师网络上一层的输出，并强制学生网络这一层的输出与教师网络输出一致（使用MSELoss)。在搜索过程结束后，通过计算各子网络与教师网络的接近程度来衡量子网络。

目标：通过改进KL divergence防止学生over estimate或者under estimate教师网络。

上图展示了OFA,BigNAS等搜索算法中常用到的蒸馏方法，子网使用的是KL divergence进行衡量，文中分析了KL 散度存在的局限性：即避零性以及零强制性。如下公式所示，p是教师的逻辑层输出，q是学生逻辑层输出。

AlphaNet提出了一个新的散度衡量损失函数，防止出现过估计或者低估的问题。如下所示，引入了 。

其中 不为0或者1，这样如下图所示：

蓝色线对应example 2表示，当 为负值，如果q过估计了p中的不确定性， 的值会变大。

紫色线对应example 1表示，当 为正数，如果q低估了p中的不确定性， 的值会变大

同时考虑两种情况，取两者中最大值作为散度：

目标：提出了衡量学生网络和教师网络 内部激活相似度 衡量指标，通过表征匹配可以用来加速网络结构搜索。

这部分其实是属于知识蒸馏分类中基于关系的知识，构建的知识由不同样本之间的互作用构成。

具体的指标构成如上图所示，是一个bsxbs大小的矩阵，这个在文中被称为Representational Dissmilarity Matrix，其功能是构建了激活层内部的表征，可以通过评估RDM的相似度通过计算上三角矩阵的关系系数，比如皮尔逊系数。

该文章实际上也是构建了一个指标P+TG来衡量子网的性能，挑选出最优子网络。

如上图所示，RDM的计算是通过衡量教师网络的feature以及学生网络的feature的相似度，并选择选取其中最高的RDM相似度。通过构建了一组指标，随着epoch的进行，排序一致性很快就可以提高。

目标：固定教师网络，搜索最合适的学生网络。

对于相同的教师网络来说，不同的架构的学生网络，即便具有相同的flops或者参数，其泛化能力也有所区别。在这个工作中选择固定教师网络，通过网络搜索的方法找到最优的学生网络，使用L1 Norm优化基础上，选择出与教师网络KL散度差距最小的学生网络。

目标：在给定教师网络情况下，搜索最合适的学生网络。

神经网络中的知识不仅蕴含于参数，还受到网络结构影响。KD普遍方法是将教师网络知识提炼到学生网络中，本文提出了一种架构感知的知识蒸馏方法Architecture-Aware KD （AKD），能够找到最合适提炼给特定教师模型的学生网络。

Motivation: 先做了一组实验，发现不同的教师网络会倾向于不同的学生网络，因此在NAS中，使用不同的教师网络会导致模型倾向于选择不同的网络结构。

AKD做法是选择使用强化学习的方法指导搜索过程， 使用的是ENAS那种通过RNN采样的方法。

目标：从集成的教师网络中学习，并使用NAS调整学生网络模型的容量。NAS+KD+集成。

这篇文章之前也进行了讲解，是网络结构搜索，知识蒸馏，模型集成的大杂烩。

详见： https://blog.csdn.net/DD_PP_JJ/article/details/121268840

这篇文章比较有意思，使用上一步中得到的多个子网络进行集成，可以得到教师网络，然后使用知识蒸馏的方法来引导新的子网络的学习。关注重点在于：

AdaNAS受Born Again Network（BAN）启发, 提出Adaptive Knowledge Distillation（AKD)的方法以辅助子网络的训练。

集成模型选择 ：

从左到右代表四次迭代，每个迭代中从搜索空间中选择三个模型。绿色线框出的模型代表每个迭代中最优的模型，AdaNAS选择将每个迭代中最优subnet作为集成的对象。

最终集成的时候还添加了额外的weight参数w1-w4：

最终输出逻辑层如下所示：（这个w权重也会被训练，此时各个集成网络的权重是固定的，只优化w）

Knowledge Distillation

目标：解决知识蒸馏的效率和有效性，通过使用特征聚合来引导教师网络与学生网络的学习，网络结构搜索则是体现在特征聚合的过程，使用了类似darts的方法进行自适应调整放缩系数。ECCV20

文章总结了几种蒸馏范式：

最后一种是本文提出的方法，普通的特征蒸馏都是每个block的最后feature map进行互相蒸馏，本文认为可以让教师网络的整个block都引导学生网络。

具体如何将教师网络整个block中所有feature map进行聚合，本文使用的是darts的方法进行动态聚合信息。(a) 图展示的是对group i进行的可微分搜索过程。(b)表示从教师到学生的路径loss构建，使用的是CE loss。(c)表示从学生到教师网络的路径loss构建，使用的是L2 Loss。其中connector实际上是一个1x1 卷积层。

（ps: connector让人想到VID这个工作）

❷ 如何有效使用网络教育资源

因而如何有效利用网络教育资源进行教育教学至关重要。
一、利用网络教育对教师进行计算机基础知识和技能培训，提高教师业务水平。 随着社会的发展信息技术课已经悄悄进入课堂，对教师提出了更高的要求。要给学生一杯水老师必须要有一条奔腾的江水，这就迫切需要我们不断充电。要使教师学会应用多媒体教学手段组织课堂教学和上课，对于大部分教师而言，无异于是思想领域的一场深刻革命。对于农村中小学来说信息比较闭塞，教师根本没有大量的时间进行计算机培训，即使培训了因为没有机会接触计算机很快就忘了。因而可利用网络教育对教师进行计算机基础知识和技能进行培训。具体实施步骤如下： 1、网络教育管理员制定培训计划和实施方案，由网络教育管理员担任辅导教师，有条件的学校可利用多媒体教室进行教学。培训时要结合教师的实际情况进行分块分类教学。 2、培训过程中要注重教师的动手操作能力、学会基本的计算机操作技能。如计算机开关的操作、word文字处理、IE浏览器的使用、文件的下载和解压缩处理、学会利用幻灯片制作课件。把培训的内容与网络教育资源紧密结合起来，避免教师学了不会应用，从而失去学习计算机的信心。
二、利用网络教育资源进行集体备课，提高教学质量。 以往，教师在备课时往往以抄现成的教案为主，来应付即将到来的检查。而上课时，还是凭借平时一贯的经验来从事教学，备课仅成了一种被动的为了检查而备的手段，早以失去了它本该有的意义。其次，教师的思想观念滞后,将先进技术工具带入课堂的积极性远远不够，宁愿这些仪器设备躺在贮藏室里耗费小学教育论文小学教育论文，也不愿将它们带进课堂而上一次漂亮的课。针对农村中小学的课堂教学现状，具体实施措施如下： 1、学校领导应大胆创新，积极改革，开展利用网络教育资源进行集体备课论文的格式免费论文下载。备课前，要求教师认真查阅网络教育资源；备课中，先集体讨论，给每一位教师充分表达的空间，针对每一课发表各自的见解，集思广益。并且，每备一课，做到与农村网络教育资源的有机结合，为每一份新型教案的诞生的质量和可行性打下坚实的基础。2、在集体讨论的基础上，小组再分任务执笔，执笔人根据讨论意见来完善教学设计。这种举措，让种种教学经验密切地交流，很好的上升为一种适合农村本土教学教案的蓝本，为今后的实际教学提供了十分有益的设计框架。3、将各小组通过讨论、反复修改得来的教案进行汇总，再进行指导性的审核，并提出意见，经过修改，最后存入电脑，作为永久性资料。在整个备课过程中，集体备课要有条不紊地进行着，它既解决了应付、抄袭的现象，又有效地减轻了教师教学负担，从而调动了教师的积极性，也提高了教师的教学水平，激发了学生的学习热情，从而推动了网络教育资源的纵深发展，促进了教育教学工作迈向了新的台阶。
三、利用网络教育资源提高课堂教学效率 在教学过程中，教师能否合理地处理教材，也是影响教学效果的重要因素。其中如何突出教材重点、突破难点是至关重要的。而有效地利用网络教育技术，采用多媒体教学手段就成为教师在教学过程中突出教材重点、突破教学难点的有效手段。多媒体课件具有文字、图片、动画、声音、图像等直观媒体信息可同步进行的优点。在同一屏幕上同时显示相关的文本、图像或动画，这是其它教学媒体无法达到的。教学中，若能充分利用这一优点，变抽象为直观，变静为动，通过向学生展示教学情境，有效地完成教学任务。在课堂教学中，恰当地使用现代教育技术是创设情境的最佳途径。如六年级下册《思品与社会》中《动物的灭绝》，这是一篇关于环境保护的课文，其中“酸雨”产生的原因是这篇课文理解的难点，特别是产生的原因这个科学性的知识点学生不易理解小学教育论文小学教育论文，运用了多媒体，利用计算机中光盘中形象的影像把学生自然地引入到情景之中，把抽象的知识变成了形象的画面，亲眼目睹它的变化，如身临其境，使学生对这一自然现象产生了浓厚的兴趣，在通过阅读课文的环节，进一步理解了课文。再如“日本的水俣病”、“长江被污染的水面”等。课文仅用了几句话叙述，这对于知识贫乏的学生来说，单靠教师采用传授、口述等一般媒体设境进行这一段语言文字教学，是难以掌握课文摘要以网络教育资源为平台，学科教研组学习为载体，促进教师与资源对话、与同伴对话，提倡在校本教研中有不同呼声，在一个群体中有不同思想，鼓励教师大胆批评，各抒己见。以教师提出的问题为研究内容，将问题入组，以组为单位制定计划，开展研究。 网络教育为农村中小学带来了先进的文明之光，是广大师生了解世界和认识世界的窗口，是提高农村中小学教育教学质量的有效技术手段，是教师提高自身教学水平的有效途径。

❸ 知识蒸馏-Distilling the knowledge in a neural network

“很多昆虫在幼虫形态的时候是最擅长从环境中吸取能量和养分的，而当他们成长为成虫的时候则需要擅长完全不同能力比如迁移和繁殖。”在2014年Hinton发表的知识蒸馏的论文中用了这样一个很形象的比喻来说明知识蒸馏的目的。在大型的机器学习任务中，我们也用两个不同的阶段 training stage 和 deployment stage 来表达两种不同的需求。training stage（训练阶段）可以利用大量的计算资源不需要实时响应，利用大量的数据进行训练。但是在deployment stage （部署阶段）则会有很多限制，比如计算资源，计算速度要求等。知识蒸馏就是为了满足这种需求而设计的一种模型压缩的方法。

知识蒸馏的概念最早是在2006年由Bulica提出的，在2014年Hinton对知识蒸馏做了归纳和发展。知识蒸馏的主要思想是训练一个小的网络模型来模仿一个预先训练好的大型网络或者集成的网络。这种训练模式又被称为 "teacher-student"，大型的网络是“老师”，小型的网络是“学生”。

在知识蒸馏中，老师将知识传授给学生的方法是：在训练学生的过程中最小化一个以老师预测结果的概率分布为目标的损失函数。老师预测的概率分布就是老师模型的最后的softmax函数层的输出，然而，在很多情况下传统的softmax层的输出，正确的分类的概率值非常大，而其他分类的概率值几乎接近于0。因此，这样并不会比原始的数据集提供更多有用的信息，没有利用到老师强大的泛化性能，比如，训练MNIST任务中数字‘3’相对于数字‘5’与数字‘8’的关系更加紧密。为了解决这个问题，Hinton在2015年发表的论文中提出了‘softmax temperature’的概念，对softmax函数做了改进：

这里的 就是指 temperature 参数。当 等于1 时就是标准的softmax函数。当 增大时，softmax输出的概率分布就会变得更加 soft（平滑），这样就可以利用到老师模型的更多信息（老师觉得哪些类别更接近于要预测的类别）。Hinton将这样的蕴含在老师模型中的信息称之为 "dark knowledge"，蒸馏的方法就是要将这些 "dark knowledge" 传给学生模型。在训练学生的时候，学生的softmax函数使用与老师的相同的 ，损失函数以老师输出的软标签为目标。这样的损失函数我们称为"distillation loss"。

在Hinton的论文中，还发现了在训练过程加上正确的数据标签（hard label）会使效果更好。具体方法是，在计算distillation loss的同时，我利用hard label 把标准的损失（ ）也计算出来，这个损失我们称之为 "student loss"。将两种 loss 整合的公式如下：

这里的 是输入， 是学生模型的参数， 是交叉熵损失函数， 是 hard label ， 是参数有 的函数， 是系数， 分别是学生和老师的logits输出。模型的具体结构如下图所示：

在上述公式中， 是作为超参数人为设置的，Hinton的论文中使用的 的范围为1到20，他们通过实验发现，当学生模型相对于老师模型非常小的时候， 的值相对小一点效果更好。这样的结果直观的理解就是，如果增加 的值，软标签的分布蕴含的信息越多导致一个小的模型无法"捕捉"所有信息但是这也只是一种假设，还没有明确的方法来衡量一个网络“捕捉”信息的能力。关于 ，Hinton的论文中对两个loss用了加权平均： 。他们实验发现，在普通情况下 相对于 非常小的情况下能得到最好的效果。其他人也做了一些实验没用加权平均，将 设置为1，而对 进行调整。

Hinton的论文中做了三个实验，前两个是MNIST和语音识别，在这两个实验中通过知识蒸馏得到的学生模型都达到了与老师模型相近的效果，相对于直接在原始数据集上训练的相同的模型在准确率上都有很大的提高。下面主要讲述第三个比较创新的实验：将知识蒸馏应用在训练集成模型中。

训练集成模型（训练多个同样的模型然后集成得到更好的泛化效果）是利用并行计算的非常简单的方法，但是当数据集很大种类很多的时候就会产生巨大的计算量而且效果也不好。Hinton在论文中利用soft label的技巧设计了一种集成模型降低了计算量又取得了很好的效果。这个模型包含两种小模型：generalist model 和 specialist model（网络模型相同，分工不同）整个模型由很多个specialist model 和一个generalist model 集成。顾名思义generalist model 是负责将数据进行粗略的区分（将相似的图片归为一类），而specialist model（专家模型）则负责将相似的图片进行更细致的分类。这样的操作也非常符合人类的大脑的思维方式先进行大类的区分再进行具体分类，下面我们看这个实验的具体细节。
实验所用的数据集是谷歌内部的JFT数据集，JFT数据集非常大，有一亿张图片和15000个类别。实验中 generalist model 是用所有数据集进行训练的，有15000个输出，也就是每个类别都有一个输出概率。将数据集进行分类则是用Online k-means聚类的方法对每张图片输入generalist model后得到的软标签进行聚类，最终将3%的数据为一组分发给各个specialist，每个小数据集包含一些聚集的图片，也就是generalist认为相近的图片。
在specialist model的训练阶段，模型的参数在初始化的时候是完全复制的generalist中的数值（specialist和generalist的结构是一模一样的），这样可以保留generalist模型的所有知识，然后specialist对分配的数据集进行hard label训练。但是问题是，specialist如果只专注于分配的数据集（只对分配的数据集训练）整个网络很快就会过拟合于分配的数据集上，所以Hinton提出的方法是用一半的时间进行hard label训练，另一半的时间用知识蒸馏的方法学习generalist生成的soft label。这样specialist就是花一半的时间在进行小分类的学习，另一半的时间是在模仿generalist的行为。
整个模型的预测也与往常不同。在做top-1分类的时候分为以下两步：
第一步：将图片输入generalist model 得到输出的概率分布，取概率最大的类别k。
第二步：取出数据集包含类别k的所有specialists，为集合 （各个数据集之间是有类别重合的）。然后求解能使如下公式最小化的概率分布q作为预测分布。

这里的KL是指KL散度（用于刻画两个概率分布之间的差距） 和 分别是测试图片输入generalist 和specialists(m)之后输出的概率分布，累加就是考虑所有属于 集合的specialist的“意见”。

由于Specialist model的训练数据集很小，所以需要训练的时间很短，从传统方法需要的几周时间减少到几天。下图是在训练好generalist模型之后逐个增加specialist进行训练的测试结果：

从图中可以看出，specialist个数的增加使top1准确个数有明显的提高。

本文结合Hinton在2014年发表的论文对知识蒸馏和相关实验做了一个简单的介绍，如今很多模型都用到了知识蒸馏的方法，但知识蒸馏在深度学习中还是非常新的方向，还有非常多的应用场景等待研究。

项目地址： https://momodel.cn/explore/5dc3b1223752d662e35925a3?type=app

[1]Hinton G, Vinyals O, Dean J. Distilling the knowledge in a neural network[J]. arXiv preprint arXiv:1503.02531, 2015.
[2] https://nervanasystems.github.io/distiller/knowledge_distillation.html
[3] https://www.youtube.com/watch?v=EK61htlw8hY&t=3323s

❹ 精馏和蒸馏的区别，详细的，最好再有些化工基础知识．

精馏
是多次简单蒸馏的组合。
精馏是石油化工、炼油生产过程中的一个十分重要的环节回，其目的是答将混合物中各组分分离出来，达到规定的纯度。精馏过程的实质就是迫使混合物的气、液两相在塔体中作逆向流动，利用混合液中各组分具有不同的挥发度，在相互接触的过程中，液相中的轻组分转入气相，而气相中的重组分则逐渐进入液相，从而实现液体混合物的分离。一般精馏装置由精馏塔、再沸器、冷凝器、回流罐等设备组成。
精馏塔底部是加热区，温度最高；塔顶温度最低。
精馏结果，塔顶冷凝收集的是纯低沸点组分，纯高沸点组分则留在塔底。
蒸馏
一种分离液体混合物的方法
蒸馏的原理

利用液体混合物中各组分挥发度的差别，使液体混合物部分汽化并随之使蒸气部分冷凝，从而实现其所含组分的分离。是一种属于传质分离的单元操作。广泛应用于炼油、化工、轻工等领域。
http://ke..com/view/135935.htm

❺ 关于蒸馏的知识点

它利用混合液体或液-固体系中各组分沸点不同，使低沸点组分蒸发，再冷凝以分离整个组分的单元操作过程，是蒸发和冷凝两种单元操作的联合。与其它的分离手段

❻ 如何有效开展网络教研活动

近几年，随着互联网得快速发展，很多学校建设了校园网络，有部分学校的网络还比较先进。校园网络为教师上网提供了平台，有些学校即使没有校园网络，也有很多教师家里通过ADSL等方式上网。教师除了使用聊天、游戏、查找资料、收发电子邮件等一般性的功能，如何有效的利用网络与专家进行点对点的零距离交流以及和全国各地教育同仁就教育教学问题进行深入切磋已经成为教师群体共同的需求。笔者是一名信息技术教师，接触网络有好几年的时间了，现就教师如何开展网络教研与大家一起探讨，相互学习。

一、 网络教研的特点

1、教学资源丰富

网站拥有大量的教学资源，主要是教师平时设计的教案和课例，是教师们经验的汇聚，是教师们在长期教学过程中辛勤劳动的结晶。教学资源主要以文档的形式挂到网站上，方便其他老师下载，大大地提高教师们的备课效率。利用这些资源能够让教师在教学上举重若轻，在分享同行经验的同时，提高自我，形成良性循环。
2、时效性强

网站上的内容，包括教案、课例、论文以及国内外的教研动态，都是在最短的时间里上传上去的。只要打开教研网站，点击相应的文章，就可以得到最新的消息。这样，有利于教师跟上时代步伐，走在前列。例如，今天有老师上示范课，前一天就已经把整理好的教案上传到网站上，其他教师可以根据教案里的设计思路对上课教师的教学加以评价，大大提高了教研的效率。
3、能突破空间的限制

网络的最大优势就在于能让处于不同地方的人能够互相协作，取长补短，高效完成任务。网络教研正是利用这种优势，使区内、市内、国内甚至国外都能够在同一个网站上交流学习，学习别人的优点，改进自己的教学。在这个方面，我们的教研网站已经在区内发挥着重要的作用。教师们随时随地都能够根据自己的需要，参与区内的教研活动，突破空间的限制，只要拥有一台上网的电脑，就能够拥有大量的教学资源。这样可以加大教研力度，增强教研效率，形成浓厚的教研氛围。
二、 学科教研网络的构建

1、制定详细的教研计划，按年级组划分为不同的教研小组，各小组负责自己级组的教研工作。

我们把一到六年级分成低年级组、中年级组和高年级组，每个年级组都有负责教师。这样，我们就可以把任务有计划地分到每个年级组的手上。再由负责教师按照具体的工作计划，确定教研专题，制定本学期的工作目标。
2、网络资源的收集，主要根据本年级组的实际情况进行资源的收集工作。

我们收集的资源大部分是本小组教师设计的优秀课例和教案。在本学期当中分阶段收集，包括开学初教材分析，期中的公开课教案设计，期末复习指导等，提供给其他教师参考；也可以是其他的教学资源，例如原创性的论文、教案、课件；也可以是网络中的优秀教学资源。此项工作有专人负责，有详细的资源收集记录。
3、对收集的资源进行分门别类的整理，形成各教研小组的资源库。

如上所述，很多不同种类的信息，不进行整理是杂乱无章的。我们需要按照网站上的不同栏目，放到其适当的位置上，方便教师查阅。要是内容越来越多，我们还设计网站自带的搜索引擎，大大地提高效率。此外，我们还定期或者不定期的对资源库进行更新和删除，尽量做到资源的最优化整理。
4、定期对资源进行上传。

根据教研计划，及时对资源库内的资源进行上传，形成区内资源库，对所有的资源进行共享，实现资源的最优化，体现网络教研的优势———开放、交互动态的网络教研平台。可以说，只要有新的资源，我们都会以最快的速度上传到网站上去。教师如果在同一天不同时刻浏览我们的网站，都会发现有资料的增加。很高的浏览率点击率证明教研气氛非常活跃。
5、期末对网站进行总结交流，定期进行网络教研的总结和经验交流，不断提高网络教研的实效性和实用性，对出现的问题积极探求解决方法，同时也可以通过校园网站对出现问题进行及时反馈。
三、 教研网络的完善与利用
1、 更新教研观念

教育科研必须以教师发展为本，必须确立教师在教育科研工作中的主体地位，让教师成为科研的主人。通过科研来培养教师、提高教师素质，为教师的自我发展服务。教育科研必须以学生发展为本，要研究学生，遵循学生的身心发展规律，尤其要解决学生发展过程中存在的疑难问题，讲求实效。正是因为当前教育具有多元性，传统的教育理念已经难以满足教师和学生的学习要求，要高效、高质地完成教育任务，就要依靠现代化先进的信息技术，具备现代化的教育工具，学习网络知识，掌握有效的途径进行教研学习，让新的教研理念深入人心。
2、 全面提升教师的信息素养

必要的信息素养是贯彻新观念的重要条件。我们向英语教师提出开展网络教研要求，要求教师具备打字和上网的能力，懂得怎样使用计算机以及在网络上与他人交流。开展网络教研，整体提高教师利用现代教育技术开展教学研究的水平，提高教研活动的质量和效益。
网络教研在我区实施已经一年，取得了较大的成绩。我们在假期里把教师们优秀的课例设计好，并在开学前把教案放到网站上。在每个学期的教材分析会上给教师们提供网站的地址及信息存放的位置。掌握了网络知识以后，教师们就能够参考优秀课例。在教学的过程中，教师们遇到的问题可以及时在网站上专门的话题区提出来，发表自己的看法和意见。
3、 充分收集教学资源，丰富教研网站

小学英语课堂教学需要教学资源，特别是教学课件。小学生的年龄特点决定了他们喜欢从视听觉上捕捉新鲜事物，活泼生动的画面能给他们留下深刻的印象，起到事半功倍的作用。其次，学习前人优秀的教学经验和方法也是达到成功的一条有效捷径。我们可以通过网络看到他人优秀的经验和论文，学习别人课例的设计方法，从而使自己的自身发展得到快速的提高。所有这些资源，我们都可以通过网络得到，可以说网络是有效吸收别人的经验和方法的有效途径，它必然成为教师学习的有力工具。因此，收集教学资源，丰富教研网站，应该成为每一位教育科研老师的能力和需要。
4、创设浓厚的教研氛围

创设浓厚的教科研学术氛围，鼓励教师进行网络教研。定期在教研网站上发表自己的教研心得体会，提供好的课例教案以及优秀的课件等。表扬做得好的教师，利用有效的奖惩措施帮助教师们增强教科研意识，提高教师参与的积极性和主动性，采用新老教师结对子的方式，利用新教师的活力结合老教师的经验形成优势互补，就会将网络教研如火如荼的开展起来。

❼ 精馏和蒸馏的区别,详细的,最好再有些化工基础知识．

精馏是多次简单蒸馏的组合.精馏是石油化工、炼油生产过程中的一个十分重要的环节,其目的是将混合物中各组分分离出来,达到规定的纯度.精馏过程的实质就是迫使混合物的气、液两相在塔体中作逆向流动,利用混合液中各组...

❽ 网络研修的主要措施

（1）加大投入，建设硬件
教体局投入必要的资金不断完善网络教研的硬件设施，并列支专项经费保证网络教研活动的开展。各学校也要列支一定的专项经费用于网络教研活动。
（2）办好栏目，构建平台
建好三个网站，并派专人对网页进行日常管理与维护。
信息平台：
资源平台：
交流平台： （1）加强学习 转变教研观念
各学科教研员必须加强学习，转变传统的教研理念，树立新的资源观、教研观和共建合作观，具备一定的信息技术素养，做到会使用计算机和网络，能在网上收集、整合、发布各种教育信息和教学资源，不断提高网络教研的能力和实效。
（2）加强培训 提高技术水平
要加强对教研员和广大教师的网络技术培训。培训内容包括基本网络知识、电脑处理文字、学会在网上收集各种教育信息和教育资源、学会建立博客、学会应用电子邮箱传递电子文档等。市网络教研工作领导小组和各学校要定期有计划地组织教研员和教师培训学习，不断提高网络教研技术水平。
A、培训教研员队伍
由教研室先培训各学科教研员，为其学科带动打下技术基础。
B、网络教研三级培训
一级培训：教研室培训各中心校的专干；
二级培训：各中心校的专干再培训所辖学校的专干；
三级培训：各学校的专干最后培训本校的教师。
C、利用一切培训机会对教师进行网络教研技能的培训 （1）以学科教研员为核心，以学科博客群组为平台，进行联动式主题教研。
我们每个教研员都在这个平台上建立自己的教育博客，并以学科为龙头建立博客群组，定期确立讨论主题，传达课改信息，解决学科难题，与同学科的教师进行教研交流，调选精华日志。如果老师们遇到问题，也可以在教研员或学科带头人的博客中留言，请求指导。教研员们穿行于基层老师们的博客群中，做到亲切交流、及时回复，追踪问题、定期话题、跟进管理、多元评价，为教师提供最有力的思想和技术上的支持。 充分利用了名师资源，形成了良性的互动。
（2）以学科教研员为核心，以资源库和研修茶座为平台进行观课议课。
初中语文学科率先进行网络教研的尝试，我们整合资源库和研修茶座的优势，探索利用网络进行观课议课活动。首先利用教学资源库，提供视频课例，约定在同一时间，大家同看一课例，看的同时，并利用QQ群的“中语在线”进行即时交流。这样克服了以前观课时交流范围的局限性。看课后，老师们在研修茶座博客进行反思交流。以研课为主，依托网络，进行观课议课的课例研讨模式，加强了区域间的合作与交流，提高课堂教学的有效性，促进教师的专业成长。2008年上半年，我们共开展了六期的网上观课议课活动，获得老师们的一致好评。
（3）以中心校为核心，以研修茶座为平台，进行集体备课。
各中心校所辖学校，所处比较分散，而每个学校的规模又比较小，怎样才能更好的开展集体备课呢。具体做法是：
A、每学期开学初，中心校制定网络集体备课的实施方案，并召开省、市骨干教师和备课组长会议，研究制定本期各级各科的教学进度和网络集体备课的篇目和内容。
B、主备教师在学校教研组成员的共同参与下，根据教学进度，提前一周将自己的教学设计发至中心校网络备课专用邮箱，中心校将其上传“研修茶座” 博客网上的相应中心校的博客上，供广大教师参阅。
C、同级同科教师在第一时间内上网阅览，并进行实名评论，提出自己的观点、建议或修改意见，形成自己的教学方案。
D、各位教师结合自己的教学实际和学生实际，组织课堂教学，根据教学过程中的成功和不足写出自己的教后反思，在相应教案后以评论的形式上传。
各位教师在进行网上评论的过程中，求同存异，共同研讨，共同提高。同时，网络集体备课还吸引了许多兄弟乡镇学校的教师进行留言评论，真正做到了教师间的交流互动，为实现优质教学资源共享，提高教师能力和授课水平。