《基于微分优化的机器学习建模》CMU 156页博士论文

特定领域的建模先验和专门组件对机器学习领域越来越重要。这些组件将我们作为人类的专业知识整合到模型中。我们在这篇论文中认为，优化方法提供了一套具有表现力的操作，应该成为机器学习从业者建模工具箱的一部分。

我们提出了两种基于优化的建模的基础方法。1）OptNet架构，该架构将优化问题整合为更大的端到端可训练深度网络中的各个层，以及2）输入凸神经网络（ICNN）架构，该架构有助于使基于能量的深度模型和结构化预测中的推理和学习变得更有吸引力。

然后，我们展示了如何使用OptNet方法：1）作为一种结合无模型和基于模型的强化学习的方式；2）用于top-k学习问题。最后，我们展示了如何区分锥体程序，并将cvxpy领域的特定语言转化为可区分的优化层，使本论文中的方法能够快速建立原型。

专知便捷查看

便捷下载，请关注专知人工智能公众号（点击上方关注）
点击“发消息” 回复 “DOBM” 就可以获取《《基于微分优化的机器学习建模》CMU 156页博士论文》专知下载链接

欢迎微信扫一扫加专知助手，咨询使用专知，定制服务合作！

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取70000+AI(AI与军事、医药、公安等)主题干货知识资料！

点击“阅读原文”，了解使用专知，查看获取70000+AI主题知识资料