美东时间5月19日,前OpenAI联合创始人、特斯拉前AI负责人安德烈·卡帕西(Andrej Karpathy)宣布入职Anthropic,本周正式到岗,将组建新团队依托Claude推进预训练研究,主攻AI优化自身训练的递归自我改进(RSI)方向。RSI兼具巨大发展潜力与安全隐患,迭代易引发对齐风险。
2017年,他离开OpenAI入职特斯拉,主管自动驾驶视觉业务,2022年离开特斯拉,此后短暂回归OpenAI并创办AI教育公司“尤里卡实验室”(Eureka Labs)。马斯克曾盛赞卡帕西的计算机视觉实力堪称全球第二,仅次于OpenAI另一位联合创始人伊利亚·苏茨克维(Ilya Sutskever)。