ensemble方法(并行集成学习方法parallelensemble为何可以并行进行训练)

1.并行集成学习方法（parallel ensemble）为何可以并行进行训练

1.1 什么样的集成学习（ensemble

learning）方法可能获得好的预测性能？

各个分类器准确率高，且分类器差异性大，ensemble后得到的预测性能好。

1.2

并行集成学习方法（parallel

ensemble）为何可以并行进行训练？

各个分类器之间是相互独立的，没有关联。

1.3

作为0-1损失函数（0-1 loss）的近似，logistic

regression loss、perception loss、hinge loss、exponential loss各有什么优缺点？

说明：分类的目标是将两类点尽可能地区分开来，本题所讨论的范围是线性分类问题，即用一个分离超平面wTx+b=0将两类点分隔开。为求得参数w, b，通常是利用最优化方法——极小化损失函数——来求解。对于不同的分类模型有不同的策略，也就对应不同的损失函数。例如最自然的策略是极小化误分类点的个数，该策略对应的就是0-1 loss——当一个点分错的时候损失值为1，分对的时候为0——求和所有点的0-1 loss，然后极小化这个总数就得到该策略所要求的分离超平面的参数w, b了。对于各种分类方法，LR方法使用Logistic

regression，感知机方法使用perceptron,SVM使用hinge loss,boost方法使用exponential

loss。不同的策略使用不同的损失函数，表示了离选定的分离超平面远近及分对分错两方面计算经验损失的方式不同，因此对损失函数来说没有好坏之分，所以本来也应该没有“优缺点”一说的。不同的策略对应的一个点的损失函数如下图（图中是一个点的损失函数，对于一个分类问题损失函数是指所有点损失函数求和）：

0-1 loss表示的是分类正确的点的损失值为0，分类错误的点的损失值是1。这种策略对应的损失函数就是误分类的点的总数，对应的分类模型就是最小化误分类点数即希望求得w,b使分类错误的点最少，这是我们最自然能想到的模型。但是按照0-1 loss策略得到的损失函数不是参数w,b的连续可导函数，不易于优化和求解，因此我们用其他一些策略来求解。

Logistic regression loss和exponential loss在实数域内是连续可导函数，因此能得到比较好的最优化表达式的函数表达，且易于求解；perceptron和hinge loss在实数域内是连续的，也易于优化求解。

0-1loss是真正的损失函数，其余4个损失函数与0-1 loss相比，误分类的点（yi(wTxi+b)

logistic regression loss, exponential loss, hinge loss与perceptron, 0-1 loss相比，对于某个分离超平面，分类正确的点中离超平面近的点也有损失值，这表示他们所要求的分离超平面不仅要求分类正确，而且要求分类正确的点尽量离分离超平面远，这增加了最终所求得的分离超平面分类正确的可信度。

记得给分啊……

2.评标方法有哪几种

常用的评标方法有 1单项评议法 2综合评标法 3合理单价评标法 常用的评标方法介绍 1单项评议法 单项评议法，又称单因素评议法、低标价法，是一种只对投标人的投标报价进行评议从而确定中标人的评标定标方法，主要适用于小型工程。

单项评议法的主要特点是仅对价格因素进行评议，不考虑其他因素，报价低的投标人中标。当然，这里未考虑的其他因素，实际上在资格审查时已获通过，只不过不作为评标定标时的考虑因素，因而也不是投标人竞争成败的决定性因素。

采用单项评议法评标定标，决定成败的唯一因素是标价的高低。但不能简单的认为，标价越低越能中标。

一般的做法是，通过对投标书进行分析、比较，经初审后，筛选出低标价，通过进一步的澄清和答辩，经终审证明该低标价确实是切实可行、措施得当的合理低标价的，则确定该合理低标价中标。合理低标价不一定是最低投标价。

所以，单项评议法可以是最低投标价中标，但并不保证最低投标价必然中标。 采用单项评议法对投标报价进行评议的方法多种多样，主要有以下三类具有代表性的模式： （1）将投标报价与标底价相比较的评议方法 这种方法是将各投标人的投标报价直接与经招标投标管理机构审定后的标底价相比较，以标底价为基础来判断投标报价的优劣，经评标被确认为合理低标价的投标报价即能中标。

（2）将各投标报价相互进行比较的评议方法 从纯粹择优的角度看，可以对投标人的投标报价不做任何限制、不附加任何条件，只将各投标人的投标报价相互进行比较，而不与标底相比，经评标确认投标报价属最低价或次低价的（即为合理低标价的），即可中标。 这种对投标报价的评议方法，优点是给了投标人充分自主报价的自由，标底的保密性不成问题，评标工作也比较简单。

不足之处是，招标人无需编制标底，或虽有标底但形同虚设，不起什么作用，因而导致投标人对投标报价的预期和认同心中无数，事实上处于一种盲目状态，很难说清楚是否科学、合理。而投标人为了中标常常会进行竟相压价的恶性竞争，也极易形成串通投标。

（3）将投标报价与标底价结合投标人报价因素进行比较的评议方法 这种方法的特点，是要借助于一个可以作为评标定标参照物的价格。这个在评标定标中作为参照物的价格，是指投标报价最接近于该价时便能中标的价格，我们称之为“最佳评标价”。

2综合评标法 综合评议法，是对价格、施工组织设计（或施工方案）、项目经理的资历和业绩、质量、工期、信誉和业绩等因素进行综合评价从而确定中标人的评标定标方法。它是适用最广泛的评标定标方法，各地通常都采用这种方法。

综合评议法按具体分析方式的不同，可分为定性综合评议法和定量综合评议法。 （1）定性综合评议法（评议法） 定性综合评议法，又称评议法。

通常的做法是，由评标组织对工程报价、工期、质量、施工组织设计、主要材料消耗、安全保障措施、业绩、信誉等评审指标，分项进行定性比较分析，综合考虑，经评议后，选出其中被大多数评标组织成员认为各项条件都比较优良的投标人为中标人，也可用记名或无记名投票表决的方式确定中标人。定性评议法的特点是不量化各项评审指标。

它是一种定性的优选法。采用定性综合评议法，一般要按从优到劣的顺序，对各投标人排列名次，排序第一名的既为中标人。

但当投标人超过一定数量（如在5家以上）时，可以选择排序第二名的投标人为中标人。 采用定性综合评议法，有利于评标组织成员之间的直接对话和交流，能充分反映不同意见，在广泛深入地开展讨论、分析的基础上，集中大多数人的意见，一般也比较简单易行。

但这种方法，评议标准弹性较大，衡量的尺度不具体，各人的理解可能会相去甚远，造成评标意见悬殊过大，会使评标决策左右为难，不能让人信服。 （2）定量综合评议法（打分法、百分法） 定量综合评议法，又称打分法、百分制计分评议法（百分法）。

通常的做法是，事先在招标文件或评标定标办法中将评标的内容进行分类，形成若干评价因素，并确定各项评价因素在百分之内所占的比例和评分标准，开标后由评标组织中的每位成员按照评分规则，采用无记名方式打分，最后统计投标人的得分，得分最高者（排序第一名）或次高者（排序第二名）为中标人。 采用定量综合评议法，原则上实行得分最高的投标人为中标人。

但当招标工程在一定限额（如1000万元）以上，最高得分者和次高得分者的总得分差距不大（如差距仅在2分之内），且次高得分者的报价比最高得分者的报价低到一定数额（如低2%以上）的，可以选择次高得分者为中标人。对此，在制定评标定标办法时，应作出详尽说明。

定量综合评议法的主要特点是要量化各评审因素。对各评审因素的量化是一个比较复杂的问题，各地的做法不尽相同。

从理论上讲，评标因素指标的设置和评分标准分值的分配，应充分体现企业的整体素质和综合实力，准确反映公开、公平、公正的竟标法则，使质量好、信誉高、价格合理、技术强、方案优的企业能中标。 3合理单价评标法 “合理低价评标法”应该是“最低价中标”评标法的一次扬弃，存其优化竞争的一面，弃。

3.常用的评标方法有哪些

政府采购招标：最低评标价法、综合评分法、性价比法；

中央投资项目招标：经评审的最低投标价法、综合评估法；

工程招标：综合评估法、经评审的最低投标价法；

机电产品国际招标：最低评标价法、综合评价法（即打分法）。

(1)综合评分法

政府采购招标：货物项目的价格分值不得低于30%，不得高于60%；服务项目的价格分值不得低于10%，不得高于30%；价格分采用低价优先，计算公式：投标报价得分=（评标基准价/投标报价）*价格权值*100;

中央投资项目招标：称为综合评估法；折算为货币的方法、打分的方法或者其他方法；

机电产品国际招标：称为综合评价法；经商务部批准方可使用综合评价法。

(2)最低评标价法

政府采购招标：最低评标价法，是指在全部满足招标文件实质性要求前提下，最低报价的投标人作为中标候选供应商；最低评标价法适用于标准定制商品及通用服务项目；

机电产品国际招标：最低评标价法，是指在商务、技术条款均满足招标文件要求时，评标价格最低者为推荐中标人；对投标报价及投标资料表中选定的评标因素（内陆运保费和伴随服务费；交货期；付款条件偏差；零部件、备品备件和伴随服务；售后服务；运营费和维护费；性能和生产率；备选方案及其它等内容），按规定的量化方法，计算得出的价格为最终评标价。

(3)经评审的最低投标价法

中央投资：以投标报价以及商务部分作必要的价格调整，无需对投标文件的技术部分进行价格折算；

工程：满足招标文件实质性要求的投标人中，评审出投标价格最低的投标人，但投标价格低于其企业成本的除外。

4.机器学习中用来防止过拟合的方法有哪些

比如用Ensemble类的，例如adaboost那样，不训练单个分类而是平均多个弱分类。

类似的方法对深度神经网络而言有Random Dropout，训练的过程中每次都随机遮蔽一些神经元（比如用Binomial随机出1或者0 ，概率为p），保证实际测试的时候，网络的输出类似于训练时随机遮蔽过后的不同的神经网络的平均。就结果而言也可以缓解过拟合。

还有提早终止训练的。

不过更普遍的方法一般都是归一化，用L2或者L1来压制模型本身的复杂度。参考“Structural Risk Minimization”。

5.如何理解dropout

开篇明义，dropout是指在深度学习网络的训练过程中，对于神经网络单元，按照一定的概率将其暂时从网络中丢弃。注意是暂时，对于随机梯度下降来说，由于是随机丢弃，故而每一个mini-batch都在训练不同的网络。

dropout是CNN中防止过拟合提高效果的一个大杀器，但对于其为何有效，却众说纷纭。在下读到两篇代表性的论文，代表两种不同的观点，特此分享给大家。

组合派

参考文献中第一篇中的观点，Hinton老大爷提出来的，关于Hinton在深度学习界的地位我就不再赘述了，光是这地位，估计这一派的观点就是“武当少林”了。注意，派名是我自己起的，各位勿笑。

观点

该论文从神经网络的难题出发，一步一步引出dropout为何有效的解释。大规模的神经网络有两个缺点：

费时

容易过拟合

这两个缺点真是抱在深度学习大腿上的两个大包袱，一左一右，相得益彰，额不，臭气相投。过拟合是很多机器学习的通病，过拟合了，得到的模型基本就废了。而为了解决过拟合问题，一般会采用ensemble方法，即训练多个模型做组合，此时，费时就成为一个大问题，不仅训练起来费时，测试起来多个模型也很费时。总之，几乎形成了一个死锁。

Dropout的出现很好的可以解决这个问题，每次做完dropout，相当于从原始的网络中找到一个更瘦的网络，如下图所示：

因而，对于一个有N个节点的神经网络，有了dropout后，就可以看做是2n个模型的集合了，但此时要训练的参数数目却是不变的，这就解脱了费时的问题。

动机论

6.催眠引导的方法有哪些

在中国，可以说“催眠”是历史悠久、源远流长的，在《内经》中也有提及。

古代的“祝由术”，宗教中的一些仪式，如“跳大神”等都含有催眠的成分，只不过当时多是用来行骗的，或是一种迷信活动。在欧美，很早就有人倾力研究催眠。

记录较早的是18世纪在巴黎有一位喜欢心理治疗的奥地利医生名叫麦斯麦尔 （franzantonmesmer）的“催眠”，他能够通过一套复杂的方法，应用“动物磁力”治疗病人，其中包括能使病人躺在手臂上面。并用神秘的动物磁气说来解释催眠机理，按现代理解那就是一种暗示力。

据传法国政府准备出很多钱购买他的治疗方法，但他都不肯，这可能是由于他自己也不清楚。后来，一位苏格兰医生布雷德（james'braid）对该现象发生了兴趣，能够给手术病人引起麻醉，于19世纪提出“催眠”一词，并对催眠现象作了科学的解释，认为是治疗者的所引起的一种被动的、类睡眠状态，并借用希腊文“hypnos”（即睡眠的意思）一词改为“hypnosis”（催眠），使得催眠术有了广泛的传播，至今一直沿用这一术语。

后来，在前苏联生物科学家巴浦洛夫带领一班人多年系统深入的研究下，催眠有了长足的发展，催眠真正成为一门有理有用的应用科学。现在，在很多国家有名望的大学、医院里，都设有催眠研究室，并积极开展着把催眠应用于医学、教学、产业等领域的可行性研究。

实施催眠的相关注意事项： 一 实施催眠的环境和时间设置 环境设置：最好选择安静、舒适、温馨的环境，有利于放松心情的环境，使人能自然而然地感到轻松、舒适和安全。 时间设置：一般一次催眠一个小时左右，根据催眠中要解决的不同问题视具体情况调整。

作为治疗性的催眠最起码5次治疗，第一次为适应性治疗，第二次才真正开始治疗；一般每10次为1个疗程。当然，由于个体差异有人并不一定需要做完整个疗程就全面恢复。

二 接受催眠调整期间的生活习惯 每次治疗前要排空大小便，不要吃得太多太饱；消除杂念，以平和的心态对待治疗；绝对禁止饮酒（饮酒后会出现头昏、头痛、烦躁等反应），尽量不服用人参、激素等；尽量保持有规律的生活制度；向催眠师真实反映治疗后的体验和变化。 三 实施催眠的禁忌症 虽然至今未见催眠暗示伴发严重后果的实例报导，但实施催眠仍应注意选择适应症，同时注意禁忌症，避免可能出现的不良情况。

禁忌症范围包括以下几个方面： 1 精神分裂症或其他重性精神病。这类病人在催眠状态下会促进病情恶化或诱发幻觉妄想。

2 脑器质性精神疾病伴有意识障碍的病人。催眠可使得症状加重。

3 严重的心血管疾病，如冠心病、脑动脉硬化、心力衰竭等。 4 对催眠有严重的恐惧心理，经解释后仍然持怀疑态度者。

对催眠术常见的误解和担心 1 问：催眠术是否就是会让人睡觉？ 答：催眠术并不是催人入睡的技术，催眠状态和睡眠状态也有很多区别。虽然表面看起来好象睡着了一样，但其实受术者和催眠师保持着密切的感应关系，他的潜意识活动在催眠师的引导和帮助下发挥积极的作用；虽然催眠状态下也是在休息，但休息的深度和质量高于一般的睡眠，有时只睡了十多分钟，感觉就象睡了很久。

虽然催眠术对于治疗睡眠问题有很好的效果，但是它不仅仅限于这一个方面的作用，而是可以对人的身心状态进行全面的调整。 2 问：催眠中被催过去后会不会醒不过来了？ 答：催眠过程中受术者和催眠师保持着密切的感应关系，所以看起来受术者好象什么都不知道，但其实他在和催眠师进行潜意识的沟通，与外界保持着联系，在催眠师的指令唤醒后就会醒来。

当然，如果任其催眠状态持续下去，则可进入自然的睡眠状态，经过充分睡眠后受术者也会自然醒复，不会有任何副作用或者不良后果。同样，在正常的自然睡眠状态中，也可以通过催眠术转入到催眠状态，这称为睡眠性催眠术。

3 问：催眠就是要让人什么都不知道了，然后就会发生一些神奇的改变吗？ 答：催眠并不是要剥夺人心理活动的能力，虽然有意识活动的水平降低，但人的潜意识活动水平反而更加活跃，这时有的受术者会有迷迷糊糊意识不清的感觉，好象只能听到催眠师的声音；而有的受术者觉得自己很清醒，什么都听得见，甚至认为自己完全没有被催眠，这些感觉在催眠状态下都可能会出现，也都不会影响催眠的进行和治疗效果。当然，受术者越是按催眠师的指令去感受和体验（而不是去检验），就越有利于从催眠中获得更多有益的东西。

4 问：在很多影视文学作品中看到被催眠后催眠师要人干什么人就会去干，要人说什么人就会说什么，是真的吗？这样会不会被别人控制或者暴露自己的隐私？ 答：很多影视文学作品中关于催眠的描写都有夸张和失实的成分。每个人的潜意识有一个坚守不移的任务，就是保护这个人。

实际上，即便在催眠状态中，人的潜意识也会象一个忠诚的卫士一样保护自己。催眠能够与潜意识更好地沟通，但不能驱使一个人做他的潜意识不认同的事情，所以不用担心会被控制或者暴露自己的秘密。

并且，即便不是属于隐私，但作为催眠师来说，也应该对于催眠过程中的情况为受术者保密，这是基本的职业道德。 5 问：催眠就是被暗示。

7.常用的退火方法有哪三种

1、不完全退火

不完全退火是将铁碳合金加热到Ac1-Ac3之间温度，达到不完全奥氏体化，随之缓慢冷却的退火工艺。不完全退火主要适用于中、高碳钢和低合金钢锻轧件等，其目的是细化组织和降低硬度，加热温度为Ac1+(40-60)℃，保温后缓慢冷却。

2、球化退火

只应用于钢的一种退火方法。将钢加热到稍低于或稍高于Ac1的温度或者使温度在A1上下周期变化，然后缓冷下来。

目的在于使珠光体内的片状渗碳体以及先共析渗碳体都变为球粒状，均匀分布于铁素体基体中（这种组织称为球化珠光体）。具有这种组织的中碳钢和高碳钢硬度低、被切削性好、冷形变能力大。对工具钢来说，这种组织是淬火前最好的原始组织。

3、去应力式退火

去应力退火是将工件加热到Ac1以下的适当温度（非合金钢在500~600℃），保温后随炉冷却的热处理工艺称为去应力退火。

去应力加热温度低，在退火过程中无组织转变，主要适用于毛坯件及经过切削加工的零件，目的是为了消除毛坯和零件中的残余应力，稳定工件尺寸及形状，减少零件在切削加工和使用过程中的形变和裂纹倾向。

扩展资料：

退火的目的：

1、降低硬度，改善切削加工性。

2、降低残余应力，稳定尺寸，减少变形与裂纹倾向。

3、细化晶粒，调整组织，消除组织缺陷。

4、均匀材料组织和成分，改善材料性能或为以后热处理做组织准备。

在生产中，退火工艺应用很广泛。根据工件要求退火的目的不同，退火的工艺规范有多种，常用的有完全退火、球化退火、和去应力退火等。

参考资料来源：百度百科——退火

8.系综的介绍

系综（ensemble）：在一定的宏观条件下，大量性质和结构完全相同的、处于各种运动状态的、各自独立的系统的集合。全称为统计系综。 系综是用统计方法描述热力学系统的统计规律性时引入的一个基本概念；系综是统计理论的一种表述方式。