标签:预测压缩

Hinton揭秘Ilya成长历程:Scaling Law是他学生时代就有的直觉

在AI领域,Ilya Sutskever是一位传奇人物,他的成长历程深受他的导师Geoffrey Hinton的影响。早在2003年,Ilya凭借他对机器学习的热忱,未经预约就闯入Hinton的办公室,从此开始了他在AI领域的非凡旅程。在Hinton的指导下,Ilya展现了惊人的直觉和编程天赋,比如他早在2010年就用GPU开发了语言模型,预见到Scaling Law的重要性,这一理念后来成为AI领域的核心思想。Ilya在OpenAI的工作,包括领导开发GPT系列和ChatGPT,进一步改变了世界。尽管Ilya相对低调,但他的学术见解和技术贡献不容忽视,他坚信语言模型的潜力远超过预...