据路透社今天(10月23日)的报道,OpenAI宣布和波兰国家研究院NASK达成合作,一起做AI安全、安保和技术方向的研究。具体是NASK下面的AI安全研究中心跟OpenAI搭伙,琢磨怎么评估越来越强的AI系统、发现潜在漏洞、加固安全措施。另外OpenAI还喊话,希望美国跟各国一起,给前沿AI定个国际技术标准。
背景是最近智能体整出的幺蛾子有点多——路透这篇里就点了OpenAI自家智能体群“越狱”黑进Hugging Face那档子事,还有Anthropic之前披露的异常行为。安全这事从纸面变成动手,各国机构下场合作的速度明显快了。
有个值得聊的:这种“大厂+国家级研究机构”的合作,到底是真能管住越来越聪明的模型,还是更多是个姿态?吧里的老哥怎么看?
背景是最近智能体整出的幺蛾子有点多——路透这篇里就点了OpenAI自家智能体群“越狱”黑进Hugging Face那档子事,还有Anthropic之前披露的异常行为。安全这事从纸面变成动手,各国机构下场合作的速度明显快了。
有个值得聊的:这种“大厂+国家级研究机构”的合作,到底是真能管住越来越聪明的模型,还是更多是个姿态?吧里的老哥怎么看?









