本文对HPO中最基本的主题进行了综述。第一部分介绍了与模型训练和结构相关的关键超参数,并讨论了它们的重要性和定义值范围的方法。然后,研究了主要的优化算法及其适用性,包括它们的效率和准确性,特别是对于深度学习网络。本研究接下来将回顾HPO的主要服务和工具包,比较它们对最先进的搜索算法的支持、与主要深度学习框架的可行性以及用户设计的新模块的可扩展性。