【PaddlePaddle Hackathon 2】92、新增TPE超参数搜索api
TCChenlong opened this issue · comments
（此 ISSUE 为 PaddlePaddle Hackathon 第二期活动的任务 ISSUE，更多详见 【PaddlePaddle Hackathon 第二期】任务总览）
【任务说明】任务标题：新增TPE超参数搜索api
- 模型技术标签：PaddlePaddle, hyperparameter optimization
- 任务难度：中等
- 详细描述：树状结构Parzen估计方法(treeparzen estimator method，TPE)是一种常用的基于树状结构 Parzen 密度估计的非标准贝叶斯优化算法，在高维空间表现很好。可参考scikit-optimize或NNI，实现TPE超参数搜索api。
【提交内容】
- 设计文档，并提 PR 至 PaddlePaddle/community 的 rfcs/FSL-Mate 目录
- 任务 PR 到 PaddleFSL
- 任务单测文件
- 调用路径：paddlefsl.hpo.tpe
【合入标准】
在Omniglot和miniImageNet数据集的5-way 1-shot任务和5-way 5-shot任务进行测试。使MAML, ANIL, ProtoNet and RelationNet使用Bayesian optimization搜索出的超参数能达到比原汇报结果更高的效果。
【技术要求】
熟练掌握 Python，理解贝叶斯优化
【答疑交流】
- 如果在开发中对于上述任务有任何问题，欢迎在本 ISSUE 下留言交流。
- 对于开发中的共性问题，在活动过程中，会定期组织答疑，请大家关注官网&QQ群的通知，及时参与。