6月7日至6月21日,应澳门赌场沈阳自动化研究所自主水下机器人技术研究室斯白露研究员的邀请,英国爱丁堡大学J. Michael Herrmann博士访问该所。Herrmann博士在访问期间举行了2场专题学术讲座和1次学术报告,并与封锡盛院士及研究室相关科研人员进行了深入交流。
6月11日、12日上午,Herrmann博士举办了2场Reinforcement learning in robot专题学术讲座,详细介绍了增强学习的背景、现状和未来,并针对贪婪学习、Q-学习进行了细致讲解。
6月17日下午,Herrmann博士作了题为Self-Organized Criticality in Networks, Swarms and Roberts的学术报告,着重介绍了增强学习在机器人中的应用,以及自组织临界行为对机器人自举(bootstrap)学习的启发性。报告首先对爱丁堡大学信息学院感知、动作和行为研究所利用增强学习开展的各式各样的机器人研究进行了介绍,并通过丰富的视频演示了机器人如何进行自主行为优化、感知环境。随后,Herrmann博士对网络的自组织临界性理论、及其对于信息传递、行为优化的启发性进行了深入的讲解。最后,还简要介绍了爱丁堡大学正在开展的Particle Swarms Optimization研究。
Herrmann博士致力于神经网络与大脑感知方面的研究,1993年获莱比锡大学博士学位。之后先后在丹麦的NORDITA研究所、日本RIKEN脑研究所、哥廷根的马普所从事博士后研究。2002年开始在哥廷根大学任教,并于2008年开始在爱丁堡大学任教。通过Herrmann博士的来访交流,使研究室相关人员更明确了神经科学在自主水下机器人上应用的方向。