【活动】听大佬们说列生成算法,遗传算法,粒子群算法中的猫腻

【活动】听大佬们说列生成算法,遗传算法,粒子群算法中的猫腻

文章作者:运筹OR帷幄
责任编辑:王希杰
文章首发于微信公众号【运筹OR帷幄】:【活动】 大佬们说这些算法中有猫腻?列生成算法,遗传算法,粒子群算法等
欢迎原链接转发,转载请私信 @留德华叫兽 获取信息,盗版必究。
敬请关注和扩散本专栏及同名公众号,会邀请全球知名学者发布运筹学、人工智能中优化理论等相关干货、知乎Live及行业动态:『运筹OR帷幄』大数据人工智能时代的运筹学

老铁们,下面就来看看我们第五期为你们整理了哪些微信学术群聊的精华话题吧。

往期微信学术群群聊精华语录传送门

微信学术群友交流精华语录 第一期

微信学术群友交流精华语录 第二期

微信学术群友交流精华语录 第三期

微信学术群友交流精华语录 第四期


2018年8月22日 列生成算法的子问题求解算法

(出自微信群: Global O.R./OM/IE Community)

于-昆明-昆明理工:

对于列生成算法的子问题求解,子问题除了动态规划算法,还有啥别的算法?求分享。

留-海德堡-组合优化AI:子问题一事一议呀,我做过的project子问题本身是一个整数规划问题。所以就归结为整数规划用什么来求解了。

于-昆明-昆明理工:是不是关键在于找负的dual price。

留-海德堡-组合优化AI:恩,还是构造一个数学规划问题,然后看那个问题属于什么类型。

Z-Pier-Crew Scheduling:理论上是 min问题是找负的reduce cost 吧,子问题具体问题具体分析,交通领域多为最短路,下料配载之类的多为0-1背包,都是数学规划问题,找到适合的求解算法就好。

于-昆明-昆明理工:我的困惑在于子问题采用的算法与reduce cost 之间联系,一个调度的问题,可以规约为tsp。

留-海德堡-组合优化AI:只要把子问题解出来,跟解这个问题的算法无关。很多时候不需要得出最优解,找到负的解就能add column了。最后一步收敛的时候,解到底,如果最优解是非负的,整个系统就converge了。

Z-Pier-Crew Scheduling:是的,也可以一次加很多列减弱退化,不需要每次都求到最小的reduce cost,也可以涉及启发式的规则去解,只要保证负的就行。


2018年8月22日 遗传算法的参数优化

(出自微信群: 【3】Global O.R./OM/IE Community)

攀-奥格斯堡大学-BWL:求教大神关于遗传算法的最优化模型该怎么建呢 为达到每代调节参数,得到更优的结果. 我这个问题好解吗?

唐-NEU-组合优化&机器学习:个人觉得遗传算法的参数还是挺玄学的 教材和网上能搜到一个推荐的区间 最土的办法就是自己去挨个试一下了。当然用grid search来一遍应该也是可以的。

攀-奥格斯堡大学-BWL:这个推荐的区间是指什么呢。是针对哪些参数而言?

唐-NEU-组合优化&机器学习:之前也尝试过把解的质量和时间做成一个新的目标函数 在遗传算法的上面在套一个近似算法求解 效果倒是还说得过去 但是实现起来稍微有些麻烦 时间上也不是很好。

攀-奥格斯堡大学-BWL:选择方法算是参数吗? 还是属于一个算子?

唐-NEU-组合优化&机器学习:种群大小50~100 代数100~500 交叉概率0.5~0.99 变异概率一般在0.1以下一般来说尽可能小吧,另外还有自适应遗传算法 就是会随着迭代次数改变参数大小 但是我没做过 具体细节我也太清楚 你可以去了解一下。

攀-奥格斯堡大学-BWL:是指adaptive GA吗?选择父代不是要用到一个选择方法吗 比如轮盘赌之类的 这可以当作参数处理吗?

唐-NEU-组合优化&机器学习:好问题… 我还没考虑过把这个做变量加进去,但是直觉觉得这个影响应该不是很大?当然了不要相信直觉 还是要试一试。

攀-奥格斯堡大学-BWL:嗯 这个我也只用了一种选择方法 不知道有没有大的影响,我也只是刚刚接触遗传算法 ,有的东西不是很了解 。最优化模型怎么建呢 ,有稍微具体点的思路吗。针对TSP模型的话。

唐-NEU-组合优化&机器学习:思路就是找出目标函数 定一个适应度函数 想出染色体编码的方式 还有根据染色体交叉和变异的方式。

攀-奥格斯堡大学-BWL:我的这个要求它只是笼统的说建立遗传算法的参数调节 的最优化模型,然后通过TSP来测试。有的数据是来自TSPLIB的大数据 里面包含十几万位置坐标。

唐-NEU-组合优化&机器学习:首先目标函数肯定是路径总长度,适应度函数则是目标函数的倒数。这样的话就是距离越短适应度越大 满足了需求,染色体就是按照路线顺序各个坐标的编号。比如14532。

攀-奥格斯堡大学-BWL:这里参数调节可以考虑到吗?

唐-NEU-组合优化&机器学习:我感觉这些不行… 你可以试不同的方法,但是参数应该不行。不过话说十几万位置… GA效果应该不太行吧。

攀-奥格斯堡大学-BWL:嗯 对的 我算第一代算了两个小时,你知道的调节遗传算法参数的方法有哪些,老师要求引入gurobi来计算,这个好处理吗?

唐-NEU-组合优化&机器学习:GA挺适合分布式计算的 有条件可以试一下 能快不少,这个我就不熟悉了 我一直在是搞算法原型的 一直也想找机会学一下gorubi。

攀-奥格斯堡大学-BWL:什么是分布式计算呢?这个计算难吗 是大模块吗?

唐-NEU-组合优化&机器学习:这个你可以自己搜一下 感觉比较一言难尽,简单理解就是把大量的数据分成小块 由多个处理器分别计算.因为GA计算每一代的种群时候 每个个体都是独立的 所以天生就非常适合。


2018年8月23日 粒子群算法

(出自微信群: 【3】Global O.R./OM/IE Community)

jing-悉尼-DS-交通研究:粒子群英文是什么?

唐-NEU-组合优化&机器学习:PSO。

王-合工大-供应链:Particle swarm optimization。

jing-悉尼-DS-交通研究:Pso就是粒子群,这个我了解。是美国人根据鱼群发明的,另一个co author在中国,他比ga快很多,但没被证明是否能收敛。

唐-NEU-组合优化&机器学习:在多目标优化应用似乎很广泛?新的学期正要学muti-objective。

jing-悉尼-DS-交通研究:一般是ga+pso ,因为要用到ga的 mutation, seletion, crossover。

唐-NEU-组合优化&机器学习:哦哦原来如此 等我这学期慢慢感受。

jing-悉尼-DS-交通研究:分布式pso有实现,但我没研究过。

唐-NEU-组合优化&机器学习:感觉研究一下分布式是OR的一个趋势所在啊 因为这个明显对效率帮助很大啊。

jing-悉尼-DS-交通研究:pso需要每一步都要把所以粒子的位置进行aggregation。完全分布是不可能的。

唐-NEU-组合优化&机器学习:原来如此 所以对于效率的提高能起到多大的作用呢。

jing-悉尼-DS-交通研究:瓶颈在集中。你可以先做个literature review.看最新,最好的算法是什么,然后把这个算法分布化。Acm 和 ieee 都有一个最好的evolution computing的会议。


2018年8月24日 优化问题的正则化

(出自微信群: 【2】Global O.R./OM/IE Community)

刘-上海-上海大学-计算数学:请教大家一个问题 ,对于优化后得到的结果具有很大的震荡性 ,可以有什么好的约束方法让它平滑一些? 谢谢。比如这样。这是一个肿瘤放射计划的优化结果,图中的横坐标代表不同位置,纵坐标代表放射计量,得到的结果震荡性很大,这在实际临床上是不行的。目标函数是下面图示中那样设置的,其实就是把医生处方计量与计算得到的计量做了个差,让它平方最小。


季-USF-IE:你这描述感觉有点像残差平方和的意思。

刘-上海-上海大学-计算数学:是的 我第一次看到也是这个反应。

诸葛-南充-四非-算法模型:取对数看看效果会不会好一点?就是结果数据不变,但是成图的时候,把结果数据取对数,应该效果会好一点。

刘-上海-上海大学-计算数学:取对数?但是实际临床操作的时候是不能取对数的 只能按照这个数据在肿瘤内部施加放射剂量 ,刚刚在目标函数后面加了个正则项 好像效果好了点。按之前的,一不小心就把正常细胞给杀死了。

诸葛-南充-四非-算法模型:不是直接对数据进行处理。只是在数据成图的过程中,不以结果数据为标准,而是以其对数结果为标准。例如有些算法收敛极快,图像对比不明显,这种时候就对数据进行对数则比对起来效果更明显。

留-海德堡-组合优化AI:加点L1或L2Regularization?

刘-上海-上海大学-计算数学:嗯嗯 加了个L2Regularization的。


2018年8月27日  动态规划算法中的operator T

(出自微信群: Global O.R.optim PhD Community)

史-NEU-组合最优化:有哪位对动态规划的contraction property和DP operator T有了解,最近在看DP,感觉不是很能理解这俩东西。

覃-MIT-OM&ML:这个notation…看的bertsekas?

史-NEU-组合最优化:在清华的那个课程

覃-MIT-OM&ML:I see 他那个课我还去听了第一节233,Bertsekas讲东西一般般…

史-NEU-组合最优化:嗯。。。感觉说的内容把他想表达的意思给切的稀碎。

覃-MIT-OM&ML:不过他这个operator的写法我觉得还是很不错的 succinct 便于精简推各种property 建议你从基本例子出发手算点具体问题 这样你可能更好理解。

史-NEU-组合最优化:我之前一直在做RL和ADP,最近想补补基础,我没理解的主要是T,他说这是一个blackbox,我想不明白T的具体形式可以是什么,翻了一下泛函也没找到能有启发的内容, 这是因为用到了什么数学工具我不知道导致的么?有什么推荐的资料吗?

覃MIT-OM&ML:你越搞越抽象了, 当然你是可以从泛函角度去理解的 ,不过我前面的建议就是让你从简单例子开始, 即先形成工程思维 ,如在inventory问题里T是min y>=x这个linear operator 。



文章来源申明:本篇文章由『运筹OR帷幄』活动版块原创发起,未经授权,禁止转载。

可以在 本公众号后台 回复关键词:“活动”获取往届活动文章精选,如果觉得有用, 请勿吝啬你的留言和赞哦!~

【活动】版块急需一名志愿者微信美工编辑(有部分报酬),如果你对微信号运营有兴趣,或者想加入我们增长相关经验,欢迎加入我们。具体可以在微信公众号后台回复:“志愿者”关键词获取详细信息,申请时请注明【活动】版块

『运筹OR帷幄』长期招收志愿者,如果你有一技之长,爱分享,欢迎加入我们。点击下方图片即可了解详情!(如对活动版块感兴趣,可以备注活动版块哦!)


点击查看『运筹OR帷幄』志愿者招募介绍及加入方式

点击查看【骥寻伯乐】板块说明及投稿方式

扫二维码关注『运筹OR帷幄』公众号:

发布于 2018-09-15

文章被以下专栏收录