清华大学教授黄民烈：如何把大模型“调教”成我们放心的样子

1. 清华大学教授黄民烈强调大模型的安全问题并非被夸大，指出安全问题只是其外显性质，而且大模型的应用范围非常广泛，存在诸多安全挑战。 2. 黄民烈教授的研究团队在超级对齐框架下，开发了精确对齐算法 EXO、模型安全探测器 ShieldLM，以及黑盒提示优化等技术，以解决大模型的安全挑战。 3. 未来的发展方向包括机器智能、情感智能、社交智能融合，以及多模态融合、具身智能等方面的研究，强调了这些方向的重要性。 4. 研究团队还将在Reward function鲁棒性、Human AI协作和识别新风险等方面继续深入研究，以推动大模型安全和发展的进程。 5. 黄民烈教授认为情感是未来AGI里的重要因素，结合机器智能和情感智能才是真正通用人工智能。 6. 他认为未来的AGI将是人类的超级助手，不仅可以完成任务，还能提供情感价值，陪伴、交流、解压。 7. 黄民烈教授指出大模型的发展已经进入瓶颈期，未来的发展方向包括多模态融合和具身智能。 8. 他强调了对大模型边界的探索和拓宽，以及大模型在推理可信度、可靠性、幻觉等方面的优化空间。 9. 未来的大模型发展方向可能会包括多模态融合、具身智能和工具属性与情感社交属性的结合，以实现真正的AGI时代的companion。 10. 黄民烈教授的研究团队开发的技术，包括目标优先级优化、黑盒提示优化以及自动修正模型弱点等，旨在提高大模型的安全性和性能。